zoukankan      html  css  js  c++  java
  • 【开源推荐】值得你拥有的新一代分布式任务调度与计算框架:PowerJob

    概述

    PowerJob是新一代分布式任务调度与计算框架,支持CRON、API、固定频率、固定延迟等调度策略,提供工作流来编排任务解决依赖关系,使用简单,功能强大,文档齐全,开箱即用!

    为什么选择 PowerJob ?

    当前市面上流行的作业调度框架有老牌的Quartz、基于Quartz的elastic-job和原先基于Quartz后面移除依赖的xxl-job,这里分别谈一些这些框架现存的缺点。

    Quartz可以视为第一代调度框架,基本上是现有所有分布式调度框架的“祖宗”。由于历史原因,它不提供Web界面,只能通过API完成任务的配置,使用起来不够方便和灵活,同时它仅支持单机执行,无法有效利用整个集群的计算能力。

    xxl-job可以视为第二代调度框架,在一定程度上解决了Quartz的不足,在过去几年中是个非常优秀的调度框架,不过放到今天来看,还是存在着一些不足的,具体如下:

    • 数据库支持单一:仅支持MySQL,使用其他DB需要自己魔改代码
    • 有限的分布式计算能力:仅支持静态分片,无法很好的完成复杂任务的计算
    • 不支持工作流:无法配置各个任务之间的依赖关系,不适用于有DAG需求的场景

    正所谓长江后浪推前浪,在如今这个数据量日益增长、业务越来越复杂的年代,急需一款更为强大的任务调度框架来解决上诉问题,而PowerJob就是这个“救世主”。

    PowerJob可以视为第三代调度框架,在任务调度的基础上,额外提供分布式计算和工作流功能,其主要特性如下:

    • 使用简单:提供前端Web界面,允许开发者可视化地完成调度任务的管理(增、删、改、查)、任务运行状态监控和运行日志查看等功能。
    • 定时策略完善:支持CRON表达式、固定频率、固定延迟和API四种定时调度策略。
    • 执行模式丰富:支持单机、广播、Map、MapReduce四种执行模式,其中Map/MapReduce处理器能使开发者寥寥数行代码便获得集群分布式计算的能力
    • DAG工作流支持:支持在线配置任务依赖关系,可视化得对任务进行编排,同时还支持上下游任务间的数据传递
    • 执行器支持广泛:支持Spring Bean、内置/外置Java类、Shell、Python等处理器,应用范围广。
    • 运维便捷:支持在线日志功能,执行器产生的日志可以在前端控制台页面实时显示,降低debug成本,极大地提高开发效率。
    • 依赖精简:最小仅依赖关系型数据库(MySQL/PostgreSQL/Oracle/MS SQLServer...),同时支持所有Spring Data JPA所支持的关系型数据库。
    • 高可用&高性能:调度服务器经过精心设计,一改其他调度框架基于数据库锁的策略,实现了无锁化调度。部署多个调度服务器可以同时实现高可用和性能的提升(支持无限的水平扩展)。
    • 故障转移与恢复:任务执行失败后,可根据配置的重试策略完成重试,只要执行器集群有足够的计算节点,任务就能顺利完成。

    适用场景

    • 有定时执行需求的业务场景:如每天凌晨全量同步数据、生成业务报表等。
    • 有需要全部机器一同执行的业务场景:如使用广播执行模式清理集群日志。
    • 有需要分布式处理的业务场景:比如需要更新一大批数据,单机执行耗时非常长,可以使用Map/MapReduce处理器完成任务的分发,调动整个集群加速计算。

    各大任务调度框架对比

    QuartZ xxl-job SchedulerX 2.0 PowerJob
    定时类型 CRON CRON CRON、固定频率、固定延迟、OpenAPI CRON、固定频率、固定延迟、OpenAPI
    任务类型 内置Java 内置Java、GLUE Java、Shell、Python等脚本 内置Java、外置Java(FatJar)、Shell、Python等脚本 内置Java、外置Java(容器)、Shell、Python等脚本
    分布式任务 静态分片 MapReduce动态分片 MapReduce动态分片
    在线任务治理 不支持 支持 支持 支持
    日志白屏化 不支持 支持 不支持 支持
    调度方式及性能 基于数据库锁,有性能瓶颈 基于数据库锁,有性能瓶颈 不详 无锁化设计,性能强劲无上限
    报警监控 邮件 短信 邮件,提供接口允许开发者扩展
    系统依赖 JDBC支持的关系型数据库(MySQL、Oracle...) MySQL 人民币 任意Spring Data Jpa支持的关系型数据库(MySQL、Oracle...)
    DAG工作流 不支持 不支持 支持 支持

    项目地址与文档

    项目地址:GitHub

    官方文档:文档地址

    在线试用:在线试用

  • 相关阅读:
    python pytest全局用例共用之conftest.py详解
    mybatis mapper文件中select标签参数汇总
    mybatis整合redis实现二级缓存(转载)
    代码智能---aiXcoder插件
    mybatis运行原理及源码流程分析
    linux关闭防火墙
    mysql 锁
    mysql 性能低下的分析
    针对msyql的like中 两边都不得不使用% 的场景分析
    mysql 相关文件路径、配置
  • 原文地址:https://www.cnblogs.com/tjqq/p/13181603.html
Copyright © 2011-2022 走看看