分布式任务调度,相信大家已经手握很多工具了,比如:Quartz、XXL-Job、Elastic- Job等。
今天再给大家推荐一个最近非常热门的开源方案:PowerJob
PowerJob 是一个企业级的分布式任务调度平台,旨在成为公司内部任务调度中间件。公司可以统一部署调度中心 powerjob-server,并让所有业务线应用依赖 powerjob-worker 接入调度中心,以获取任务调度和分布式计算能力。
它提供了一个易于使用的前端Web界面,让开发人员可以可视化地管理调度任务(增加、删除、修改、查询),监控任务运行状态和查看运行日志等功能。
该框架支持CRON表达式、固定频率、固定延迟和API等四种定时调度策略,以及单机、广播、Map和MapReduce四种执行模式。其中Map/MapReduce处理器可以使开发人员轻松获得集群分布式计算的能力。
此外,该框架还支持在线配置任务依赖关系,可视化地对任务进行编排,并支持上下游任务之间的数据传递。它支持Spring Bean、内置/外置Java类、Shell、Python等处理器,适用范围广泛。
该框架还支持在线日志功能,执行器产生的日志可以在前端控制台页面实时显示,降低debug成本,提高开发效率。它最小仅依赖关系型数据库(MySQL/Oracle/MS SQLServer…),扩展依赖为MongoDB(用于存储庞大的在线日志)。
该调度服务器经过精心设计,一改其他调度框架基于数据库锁的策略,实现了无锁化调度。部署多个调度服务器可以同时实现高可用和性能的提升(支持无限的水平扩展)。
任务执行失败后,可根据配置的重试策略完成重试,只要执行器集群有足够的计算节点,任务就能顺利完成。此框架适用于有定时执行需求、需要全部机器一同执行、需要分布式处理或需要延迟执行某些任务的业务场景。例如每天凌晨全量同步数据、生成业务报表、使用广播执行模式清理集群日志或更新一大批数据等。
如果您正在选型分布式调度框架的话,PowerJob还提供了同类产品的对比表:
没有最好的工具,只有最适合的工具。您可以参考着来选择适合自己场景的框架来使用。
开源地址
https://github.com/PowerJob/PowerJob