Hangfire Redis 实现秒级定时任务、使用 CQRS 实现动态执行代码

定时任务需求

本文示例项目仓库:https://github.com/whuanle/HangfireDemo

主要有两个核心需求:

  • 需要实现秒级定时任务;
  • 开发者使用定时任务要简单,不要弄复杂了;

在微服务架构中中,定时任务是最常用的基础设施组件之一,社区中有很多定时任务类库或平台,例如 Quartz.NET、xxx-job,使用方法差异很大,比如 xxx-job 的核心是 http 请求,配置定时任务实现 http 请求具体的接口,不过用起来还是比较复杂的。

在微服务中,使用的组件太多了,如果每个组件的集成都搞得很麻烦,那么服务的代码很可能会大量膨胀,并且容易出现各种 bug。以 xxx-job 为例,如果项目中有 N 个定时任务,设计 N 个 http 接口被 xxx-job 回调触发,除了 http 接口数量庞大,在各个环节中还容易出现 bug。

在近期项目需求中,刚好要用到定时任务,结合 C# 语言的特性,笔者的方法是利用 Hangfire 框架和语言特性,封装一些方法,使得开发者可以无感使用定时任务,大大简化链路和使用难度。

使用示例,结合 MediatR 框架定义 CQRS ,该 Command 将会被定时任务触发执行:

public class MyTestRequest : HangfireRequest, IRequest<ExecteTasResult> { }  /// <summary> /// 要被定时任务执行的代码. /// </summary> public class MyTestHandler : IRequestHandler<MyTestRequest, ExecteTasResult> {     public async Task<ExecteTasResult> Handle(MyTestRequest request, CancellationToken cancellationToken)     {         // 逻辑                  return new ExecteTasResult         {             CancelTask = false         };     } } 

要启动一个定时任务,只需要:

private readonly SendHangfireService _hangfireService;  public SendTaskController(SendHangfireService hangfireService) { 	_hangfireService = hangfireService; }  [HttpGet("aaa")] public async Task<string> SendAsync() { 	await _hangfireService.Send(new MyTestRequest 	{ 		CreateTime = DateTimeOffset.Now, 		CronExpression = "* * * * * *", 		TaskId = Guid.NewGuid().ToString(), 	});  	return "aaa"; } 

通过这种方式使用定时任务,开发者只需要使用很简单的代码即可完成需求,不需要关注细节,也不需要定义各种 http 接口,并且犹豫不需要关注使用的外部定时任务框架,所以随时可以切换不同的定时任务实现。

核心逻辑

本文示例项目仓库:whuanle/HangfireDemo

示例项目结构如下:

Hangfire Redis 实现秒级定时任务、使用 CQRS 实现动态执行代码

HangfireServer 是定时任务服务实现,HangfireServer 服务只需要暴露两个接口 addtaskcancel,分别用于添加定时任务和取消定时任务,无论什么业务的服务,都通过 addtask 服务添加。

DemoApi 则是业务服务,业务服务只需要暴露一个· execute 接口用于触发定时任务即可。

基础逻辑如下:

graph LR subgraph DemoApi A[定义 Command] -- 序列化参数Command --> AA[发送定时任务] E[DemoApi:execute 接口] --> F[DemoApi:执行 Command] end subgraph Hangfire B[addtask] --> C[Hangfire:存储任务] C --> D[Hangfire:执行任务] D --> DD[发起请求] end %% 同时建立必要的连接 AA -- 添加定时任务 --> B DD -- 请求 --> E

由于项目中使用的是 MediatR 框架实现 CQRS 模式,因此很容易实现定时任务动态调用代码,只需要按照平时的 CQRS 发送定时任务命令,指定定时任务要执行的 Command 即可。

例如,有以下 Command 需要被定时任务执行:

ACommand BCommand CCommand 

首先这些命令会被序列化为 json ,发送到 HangfireServer 服务,HangfireServer 在恰当时机将参数原封不动推送到 DemoApi 服务,DemoApi 服务拿到这些参数序列化为对应的类型,然后通过 MediatR 发送命令,即可实现任意命令的定时任务动态调用。

下面来分别实现 HangfireServer 、DemoApi 服务。

在 Shred 项目中添加以下文件。

Hangfire Redis 实现秒级定时任务、使用 CQRS 实现动态执行代码

其中 TaskRequest 内容如下,其它文件请参考示例项目。

public class TaskRequest {     /// <summary>     /// 任务 id.     /// </summary>     public string TaskId { get; set; } = "";      /// <summary>     /// 定时任务要请求的服务地址或服务名称.     /// </summary>     public string ServiceName { get; set; } = "";      /// <summary>     /// 参数类型名称.     /// </summary>     public string CommandType { get; set; } = "";      /// <summary>     /// 请求参数内容,json 序列化后的字符串.     /// </summary>     public string CommandBody { get; set; } = "";      /// <summary>     /// Cron 表达式.     /// </summary>     public string CronExpression { get; set; } = "";      /// <summary>     /// 创建时间.     /// </summary>     public string CreateTime { get; set; } = ""; } 

使用 Redis 实现秒级定时任务

Hangfire 本身配置比较复杂,其分布式实现对数据库性能要求比较高,因此使用 Mysql、Sqlserver 等数据库存储数据会带了很大的压力,而且要求实现秒级定时任务,NoSql 数据库可以更加好地实现这一需求,笔者这里使用 Redis 来存储任务数据。

HangfireServer 项目结构如下:

Hangfire Redis 实现秒级定时任务、使用 CQRS 实现动态执行代码

对 HangfireServer 的设计主要分为几步:

  • Hangfire 支持容器管理;
  • 配置 Hangfire ;
  • 定义 RecurringJobHandler 执行任务发起 http 请求到业务系统;
  • 定义 http 接口,接收定时任务;

引入类库:

<PackageReference Include="Hangfire.AspNetCore" Version="1.8.18" /> <PackageReference Include="Hangfire.Redis.StackExchange" Version="1.12.0" /> 

首先是关于 Hangfire 本身的配置,现在几乎都是基于依赖注入的设计,不搞静态类型,所以我们需要实现定时任务执行器创建服务实例的,以便每次定时任务请求时,服务实例都是在一个新的容器,处以一个新的上下文中。

第一步

创建 HangfireJobActivatorScope、HangfireActivator 两个文件,实现 Hangfire 支持容器上下文。

/// <summary> /// 任务容器. /// </summary> public class HangfireJobActivatorScope : JobActivatorScope {     private readonly IServiceScope _serviceScope;     private readonly string _jobId;      /// <summary>     /// Initializes a new instance of the <see cref="HangfireJobActivatorScope"/> class.     /// </summary>     /// <param name="serviceScope"></param>     /// <param name="jobId"></param>     public HangfireJobActivatorScope([NotNull] IServiceScope serviceScope, string jobId)     {         _serviceScope = serviceScope ?? throw new ArgumentNullException(nameof(serviceScope));         _jobId = jobId;     }      /// <inheritdoc/>     public override object Resolve(Type type)     {         var res = ActivatorUtilities.GetServiceOrCreateInstance(_serviceScope.ServiceProvider, type);         return res;     }      /// <inheritdoc/>     public override void DisposeScope()     {         _serviceScope.Dispose();     } } 

/// <summary> /// JobActivator. /// </summary> public class HangfireActivator : JobActivator {     private readonly IServiceScopeFactory _serviceScopeFactory;      /// <summary>     /// Initializes a new instance of the <see cref="HangfireActivator"/> class.     /// </summary>     /// <param name="serviceScopeFactory"></param>     public HangfireActivator(IServiceScopeFactory serviceScopeFactory)     {         _serviceScopeFactory = serviceScopeFactory ?? throw new ArgumentNullException(nameof(serviceScopeFactory));     }      /// <inheritdoc/>     public override JobActivatorScope BeginScope(JobActivatorContext context)     {         return new HangfireJobActivatorScope(_serviceScopeFactory.CreateScope(), context.BackgroundJob.Id);     } } 

第二步

配置 Hangfire 服务,使其支持 Redis,并且配置一些参数。

private void ConfigureHangfire(IServiceCollection services) { 	var options = 		new RedisStorageOptions 		{             // 配置 redis 前缀,每个任务实例都会创建一个 key 			Prefix = "aaa:aaa:hangfire", 		};  	services.AddHangfire( 		config => 		{ 			config.UseRedisStorage("{redis连接字符串}", options) 			.SetDataCompatibilityLevel(CompatibilityLevel.Version_180) 			.UseSimpleAssemblyNameTypeSerializer() 			.UseRecommendedSerializerSettings(); 			config.UseActivator(new HangfireActivator(services.BuildServiceProvider().GetRequiredService<IServiceScopeFactory>())); 		});  	services.AddHangfireServer(options => 	{         // 注意,这里必须设置非常小的间隔 		options.SchedulePollingInterval = TimeSpan.FromSeconds(1);                  // 如果考虑到后续任务比较多,则需要调大此参数 		options.WorkerCount = 50; 	}); } 

Hangfire Redis 实现秒级定时任务、使用 CQRS 实现动态执行代码

第三步

实现 RecurringJobHandler 执行定时任务,发起 http 请求业务系统。

被调用方要返回 TaskInterfaceResponse 类型,主要考虑如果被调用方后续不需要在继续此定时任务,那么返回参数 CancelTask = tre 时,定时任务服务直接取消后续的任务即可,不需要被调用方手动调用接口取消。

public class RecurringJobHandler {     private readonly IServiceProvider _serviceProvider;     public RecurringJobHandler(IServiceProvider serviceProvider)     {         _serviceProvider = serviceProvider;     }      /// <summary>     /// 执行任务.     /// </summary>     /// <param name="taskRequest"></param>     /// <returns>Task.</returns>     public async Task Handler(TaskRequest taskRequest)     {         var ioc = _serviceProvider;          var recurringJobManager = ioc.GetRequiredService<IRecurringJobManager>();         var httpClientFactory = ioc.GetRequiredService<IHttpClientFactory>();         var logger = ioc.GetRequiredService<ILogger<RecurringJobHandler>>();         using var httpClient = httpClientFactory.CreateClient(taskRequest.ServiceName);          // 无论是否请求成功,都算完成了本次任务         try         {             // 请求子系统的接口             var response = await httpClient.PostAsJsonAsync(taskRequest.ServiceName, taskRequest);              var execteResult = await response.Content.ReadFromJsonAsync<ExecteTasResult>();              // 被调用方要求取消任务             if (execteResult != null && execteResult.CancelTask)             {                 recurringJobManager.RemoveIfExists(taskRequest.TaskId);             }         }         catch (Exception ex)         {             logger.LogError(ex, "Task error.");         }     } } 

第四步

配置好 Hangfire 后,开始考虑如何接收任务和发起请求,首先定义一个 Http 接口或 grpc 接口。

[ApiController] [Route("/execute")] public class HangfireController : ControllerBase {     private readonly IRecurringJobManager _recurringJobManager;      public HangfireController(IRecurringJobManager recurringJobManager)     {         _recurringJobManager = recurringJobManager;     }      [HttpPost("addtask")]     public async Task<TaskResponse> AddTask(TaskRequest value)     {         await Task.CompletedTask;         _recurringJobManager.AddOrUpdate<RecurringJobHandler>(             value.TaskId,             task => task.Handler(value),             cronExpression: value.CronExpression,             options: new RecurringJobOptions             {             });         return new TaskResponse {  };     }      [HttpPost("cancel")]     public async Task<TaskResponse> Cancel(CancelTaskRequest value)     {         await Task.CompletedTask;         _recurringJobManager.RemoveIfExists(value.TaskId);          return new TaskResponse         {         };     } }  

业务服务实现动态代码

业务服务只需要暴露一个 exceute 接口给 HangfireServer 即可,DemoApi 将 Command 序列化包装为请求参数给 HangfireServer ,然后 HangfireServer 原封不动地将参数请求到 exceute 接口。

Hangfire Redis 实现秒级定时任务、使用 CQRS 实现动态执行代码

对 DemoApi 主要设计过程如下:

  • 定义 SendHangfireService 服务,包装 Command 数据和一些定时任务参数,通过 http 发送到 HangfireServer 中;
  • 定义 ExecuteTaskHandler ,当接口被触发时,实现反序列化参数并使用 MediatR 发送 Command,实现动态执行;
  • 定义 ExecuteController 接口,接收 HangfireServer 请求,并调用 ExecuteTaskHandler 处理请求;

DemoApi 引入类库如下-:

<PackageReference Include="Maomi.Core" Version="2.2.0" />- <PackageReference Include="MediatR" Version="12.5.0" /> 

Maomi.Core 是一个模块化和自动服务注册框架。

第一步

定义 SendHangfireService 服务,包装 Command 数据和一些定时任务参数,通过 http 发送到 HangfireServer 中。

接收 HangfireServer 请求时,需要通过字符串查找出 Type,这就需要 DemoApi 启动时,自动扫描程序集并将对应的类型缓存起来。

为了将定时任务命令和其它 Command 区分处理,需要定义一个统一的抽象,当然也可以不这样做,也可以通过特性注解的方式做处理。

/// <summary> /// 定时任务抽象参数. /// </summary> public abstract class HangfireRequest : IRequest<HangfireResponse> {     /// <summary>     /// 定时任务 id.     /// </summary>     public string TaskId { get; init; } = string.Empty;      /// <summary>     /// 该任务创建时间.     /// </summary>     public DateTimeOffset CreateTime { get; init; } } 

定义 HangireTypeFactory ,以便能够通过字符串快速查找 Type。

/// <summary> /// 记录 CQRS 中的命令类型,以便能够通过字符串快速查找 Type. /// </summary> public class HangireTypeFactory {     private readonly ConcurrentDictionary<string, Type> _typeDictionary;     public HangireTypeFactory()     {         _typeDictionary = new ConcurrentDictionary<string, Type>();     }      public void Add(Type type)     {         if (!_typeDictionary.ContainsKey(type.Name))         {             _typeDictionary[type.Name] = type;         }     }      public Type? Get(string typeName)     {         if (_typeDictionary.TryGetValue(typeName, out var type))         {             return type;         }          return _typeDictionary.FirstOrDefault(x => x.Value.FullName == typeName).Value;     } } 

最后实现 SendHangfireService 服务,能够包装参数发送到 HangfireServer 中。

当然,可以使用 CQRS 处理。

/// <summary> /// 定时任务服务,用于发送定时任务请求. /// </summary> [InjectOnScoped] public class SendHangfireService {     private static readonly JsonSerializerOptions JsonOptions = new JsonSerializerOptions     {         AllowTrailingCommas = true,         PropertyNameCaseInsensitive = true,         PropertyNamingPolicy = JsonNamingPolicy.CamelCase,         ReadCommentHandling = JsonCommentHandling.Skip     };      private readonly IHttpClientFactory _httpClientFactory;      public SendHangfireService(IHttpClientFactory httpClientFactory)     {         _httpClientFactory = httpClientFactory;     }      /// <summary>     /// 发送定时任务请求.     /// </summary>     /// <typeparam name="TCommand"></typeparam>     /// <param name="request"></param>     /// <param name="cancellationToken"></param>     /// <returns></returns>     /// <exception cref="TypeLoadException"></exception>     public async Task Send<TCommand>(TCommand request)         where TCommand : HangfireRequest     {         using var httpClient = _httpClientFactory.CreateClient();          var taskRequest = new TaskRequest         {             TaskId = request.TaskId,             CommandBody = JsonSerializer.Serialize(request, JsonOptions),             ServiceName = "http://127.0.0.1:5000/hangfire/execute",             CommandType = typeof(TCommand).Name ?? throw new TypeLoadException(typeof(TCommand).Name),             CreateTime = request.CreateTime.ToUnixTimeMilliseconds().ToString(),             CronExpression = request.CronExpression,         };          _ = await httpClient.PostAsJsonAsync("http://127.0.0.1:5001/execute/addtask", taskRequest);     }      /// <summary>     /// 取消定时任务.     /// </summary>     /// <param name="taskId"></param>     /// <returns></returns>     public async Task Cancel(string taskId)     {         using var httpClient = _httpClientFactory.CreateClient();         _ = await httpClient.PostAsJsonAsync("http://127.0.0.1:5001/hangfire/cancel", new CancelTaskRequest         {             TaskId = taskId         });      } } 

第二步

要实现通过 Type 动态执行某个 Command ,其实思路比较简单,也并不需要表达式树等麻烦的方式。

笔者的实现思路如下,定义 ExecuteTaskHandler 泛型类,直接以强类型的方式触发 Command,但是为了屏蔽泛型类型强类型在代码调用中的麻烦,需要再抽象一个接口 IHangfireTaskHandler 屏蔽泛型。

/// <summary> /// 定义执行任务的抽象,便于忽略泛型处理. /// </summary> public interface IHangfireTaskHandler {     /// <summary>     /// 执行任务.     /// </summary>     /// <param name="taskRequest"></param>     /// <returns></returns>     Task<ExecteTasResult> Handler(TaskRequest taskRequest); } 
/// <summary> /// 用于反序列化参数并发送 Command. /// </summary> /// <typeparam name="TCommand">命令.</typeparam> public class ExecuteTaskHandler<TCommand> : IHangfireTaskHandler     where TCommand : HangfireRequest, IRequest<ExecteTasResult> {     private readonly IMediator _mediator;      /// <summary>     /// Initializes a new instance of the <see cref="ExecuteTaskHandler{TCommand}"/> class.     /// </summary>     /// <param name="mediator"></param>     public ExecuteTaskHandler(IMediator mediator)     {         _mediator = mediator;     }      private static readonly JsonSerializerOptions JsonSerializerOptions = new JsonSerializerOptions     {         AllowTrailingCommas = true,         PropertyNameCaseInsensitive = true,         PropertyNamingPolicy = JsonNamingPolicy.CamelCase,         ReadCommentHandling = JsonCommentHandling.Skip     };      /// <inheritdoc/>     public async Task<ExecteTasResult> Handler(TaskRequest taskRequest)     {         var command = JsonSerializer.Deserialize<TCommand>(taskRequest.CommandBody, JsonSerializerOptions)!;         if (command == null)         {             throw new Exception("解析命令参数失败");         }          // 处理命令的逻辑         var response = await _mediator.Send(command);         return response;     } } 

第三步

实现定时任务 execute 触发接口,然后将参数转发到 ExecuteTaskHandler 中,这里通过依赖注入的方式屏蔽和解决强类型的问题。

/// <summary> /// 定时任务触发入口. /// </summary> [ApiController] [Route("/hangfire")] public class ExecuteController : ControllerBase {     private readonly IServiceProvider _serviceProvider;     private readonly HangireTypeFactory _hangireTypeFactory;      public ExecuteController(IServiceProvider serviceProvider, HangireTypeFactory hangireTypeFactory)     {         _serviceProvider = serviceProvider;         _hangireTypeFactory = hangireTypeFactory;     }      [HttpPost("execute")]     public async Task<ExecteTasResult> ExecuteTask([FromBody] TaskRequest request)     {         var commandType = _hangireTypeFactory.Get(request.CommandType);          // 找不到该事件类型,取消后续事件执行         if (commandType == null)         {             return new ExecteTasResult             {                 CancelTask = true             };         }          var commandTypeHandler = typeof(ExecuteTaskHandler<>).MakeGenericType(commandType);          var handler = _serviceProvider.GetService(commandTypeHandler) as IHangfireTaskHandler;         if(handler == null)         {             return new ExecteTasResult             {                 CancelTask = true             };         }          return await handler.Handler(request);     } } 

第四步

封装好代码后,开始最后一个环境,配置和注册服务,由于笔者使用 Maomi.Core 框架,因此服务注册配置和扫描程序集变得非常简单,只需要通过 Maomi.Core 框架提供的接口即可最简单地实现功能。

public class ApiModule : Maomi.ModuleCore, IModule {     private readonly HangireTypeFactory _hangireTypeFactory;      public ApiModule()     {         _hangireTypeFactory = new HangireTypeFactory();     }      public override void ConfigureServices(ServiceContext context)     {         context.Services.AddTransient(typeof(ExecuteTaskHandler<>));         context.Services.AddSingleton(_hangireTypeFactory);         context.Services.AddHttpClient();         context.Services.AddMediatR(o =>         {             o.RegisterServicesFromAssemblies(context.Modules.Select(x => x.Assembly).ToArray());         });     }      public override void TypeFilter(Type type)     {         if (!type.IsClass || type.IsAbstract)         {             return;         }          if (type.IsAssignableTo(typeof(HangfireRequest)))         {             _hangireTypeFactory.Add(type);         }     } } 

Hangfire Redis 实现秒级定时任务、使用 CQRS 实现动态执行代码

第五步

开发者可以这样写定时任务 Command 以及执行器,然后通过接口触发定时任务。

public class MyTestRequest : HangfireRequest, IRequest<ExecteTasResult> { }   /// <summary> /// 要被定时任务执行的代码. /// </summary> public class MyTestHandler : IRequestHandler<MyTestRequest, ExecteTasResult> {     private static volatile int _count;     private static DateTimeOffset _lastTime;      public async Task<ExecteTasResult> Handle(MyTestRequest request, CancellationToken cancellationToken)     {         _count++;         if (_lastTime == default)         {             _lastTime = DateTimeOffset.Now;         }          Console.WriteLine($"""             执行时间:{DateTimeOffset.Now.ToString("HH:mm:ss.ffff")}             执行频率(每 10s):{(_count / (DateTimeOffset.Now - _lastTime).TotalSeconds * 10)}             """);          return new ExecteTasResult         {             CancelTask = false         };     } } 
[ApiController] [Route("/test")] public class SendTaskController : ControllerBase {     private readonly SendHangfireService _hangfireService;      public SendTaskController(SendHangfireService hangfireService)     {         _hangfireService = hangfireService;     }      [HttpGet("aaa")]     public async Task<string> SendAsync()     {         await _hangfireService.Send(new MyTestRequest         {             CreateTime = DateTimeOffset.Now,             CronExpression = "* * * * * *",             TaskId = Guid.NewGuid().ToString(),         });          return "aaa";     } }  

最后

启动项目测试代码,记录执行频率和时间间隔。

Hangfire Redis 实现秒级定时任务、使用 CQRS 实现动态执行代码

Hangfire Redis 实现秒级定时任务、使用 CQRS 实现动态执行代码

发表评论

评论已关闭。

相关文章