分布式定时任务框架—PowerJob

createh52周前 (03-25)技术教程11

前言:

我们在项目中的分布式定时任务通常运用主流的xxl-job定时任务框架,今天我们聊聊全新一代分布式任务调度与计算框架powerJob,具备很多优点:使用简单、定时策略完善、工作流支持、执行器支持广泛、运维便捷、依赖精简、高可用 &、高性能及故障转移与恢复等备受业界关注。

PowerJob简介

PowerJob是基于java开发的企业级的分布式任务调度平台,与xxl-job一样,基于web页面实现任务调度配置与记录,使用简单,上手快速,因此迅速得到用户的欢迎。

相对于其他定时任务框架具有无锁化设计,更强悍的性能支撑,我们通过官网的产品对比可以了解详情。

官网文档:www.powerjob.tech/

定时任务类型

与传统的定时任务框架对比,powerJob支持更多的定时任务类型:

  • API: 通过客户端提供的api接口触发,服务端不会主动调度,适用于与业务服务上下连接或只调度一次的业务场景。
  • CRON: 通过cron表达式调度,这是多数定时任务框架都支持的。
  • 固定频率:每隔多少毫秒执行一次。
  • 固定延迟:延迟多少毫秒执行一次。
  • 工作流:配合工作流进行调度,服务端不会主动调度,当工作流节点执行到该任务时运行。

整体框架:

PowerJob安装

PowerJob支持两种安装方式,一是通过jar包运行,一是通过docker安装

docker的安装较为简单,且官网有详细说明,这里就不单独讲解了,大家可参考官方文档。

我们讲解通过jar形式运行的:

1、首先我们可以在github上下载源码,可以自己编译打包

地址:
https://github.com/PowerJob/PowerJob

可以在releases中下载指定版本,这里我们直接下载当前最新版

2、在IDE中打开后,我们powerjob-server就是我们要的服务端源码,可以直接编译,而powerjob-worker-samples就是springboot下的使用示例

3、在运行编译服务端之前,我们需要先创建数据库,在指定的数据库下创建即可

命令创建数据库:CREATE DATABASE IF NOT EXISTS `powerjob-daily` DEFAULT CHARSET utf8mb4

4、然后将
powerjob-server/powerjob-server-starter下的
application-daily.properties配置文件中的数据库配置改成你服务器的

其中daily,pre,product 表示日常、预生产、生产环境下的配置,与我们常见的dev, test, prod类似,可以根据需要进行调整。

5、我们先来本地运行启动类PowerJobServerApplication一下试试,启动成功后,访问http://localhost:7700,出现登陆页则说明运行成功

6、先注册一个执行器,注意这里的应用名称不能随便取,下文在客户端的配置的app-name要与该名称保持一致。

7、然后用该执行器名和密码登录。

8、如下,我们就登录成功了。

9、如果需要发布到服务器或虚拟机上运行,可以进行编译打包操作:(1)点击mvn install 将依赖包打包到本地仓库

注意,如果这里报错 Please refer to
/Library/project/study/java/PowerJob-4.3.2/powerjob-server/powerjob-server-starter/target/surefire-reports for the individual test results
. 那么可以将maven的健康检查关闭。

点击如图所示按钮,并且看到test置灰,则表示关闭

(2)执行mvn package打包项目

10、在powerjob-server-starter的target目录下即可看到打包出来的jar,将其上传到指定服务器,通过java -jar指令即可运行

定时任务创建

1、创建一个springboot项目,用于定时任务客户端,引入客户端依赖,如果是spring或其他java项目引入,可参考官网文档:
https://www.yuque.com/powerjob/guidence/deploy_worker


            tech.powerjob
            powerjob-worker-spring-boot-starter
            4.3.2

2、修改配置文件

powerjob:
  worker:
    enabled: true
    enable-test-mode: false
    # 数据传输端口,默认27777
    port: 27777
    # 应用名称,与服务端创建的应用账号的名称保持一致
    app-name: powerjob-agent-test
    # 服务端地址,多个用,隔开
    server-address: 127.0.0.1:7700
    # 通讯协议,4.3.0之后支持http和akka,4.3.0之前仅支持akka,官方推荐http
    protocol: http
    # 任务返回结果信息的最大长度,超过该值将被截断
    max-result-length: 4096
    # 同时运行的轻量级任务数量上限
    max-lightweight-task-num: 1024
    # 同时运行的重量级任务数量上限
    max-heavy-task-num: 64

3、启动类上添加注解@EnableScheduling

4、通过申明BasicProcessor接口,实现process方法来书写一个简单的定时任务示例类,注意要声明为bean

/**
 * @Description 简单任务执行器
 * @date 2024/4/3
 */
@Component
public class SimpleJobServer implements BasicProcessor {

    @Override
    public ProcessResult process(TaskContext taskContext) throws Exception {
        String jobParams = taskContext.getJobParams();
        System.out.println("参数: " + jobParams);

        System.out.println("定时任务执行");

        return new ProcessResult(true, "定时任务执行成功");
    }
}

5、启动客户端项目,运行成功后,可以在powerjob服务端首页看到机器实例、

6、服务端任务管理点击新建任务

其中处理器配置是通过书写处理器的全类路径名来声明的,比如我这里是
com.example.powerjobdemo.job.SimpleJobServer

7、创建成功后,可以在列表看到新建的任务

8、打开客户端控制台,也能看到输出的参数和执行打印,说明任务执行成功

9、同时我们可以在运行记录中看到执行日志

至此,针对powerjob的最简单使用就完成了,接下来我们继续来看关于powjob的配置详解。

任务配置参数详解

创建任务时我们可以看到如下图所示的配置:

  • 定时信息:

主要选择定时任务类型,支持API, CRON,固定频率、固定延迟、工作流、每日固定间隔等几种定时任务类型。

  • 生命周期:

这是比其他任务框架更便捷的功能,指定了任务的生效周期,如果该任务是预定某时间段内执行的,可以通过该参数配置

  • 执行配置:

执行类型支持单机执行、广播执行、Map执行、MapReduce执行 。

单机执行表示只需要有一个节点执行任务即可的场景广播执行表示需要全部节点一同执行的场景:

比如清除机器日志、各节点数据统计 Map与MapReduce执行都是表示分布式、分批执行,用来拆分计算量、耗时较大的任务,区别在于Map执行是一种简单的数据处理逻辑。

特点是将输入数据拆分成多个子块,并交给多个分布式节点同时执行,以提高数据处理效率,适用于简单的数据处理场景 MapReduce执行是一种大数据处理框架,处理逻辑是将复杂的数据处理拆分成Map和Reduce阶段进行处理,通过数据分组计算后合并来提供数据处理效率,更适合复杂的大数据场景。

  • 运行时配置:

支持HEALTH_FIRST和RANDOM,即第一个健康节点和随机,用于选择执行处理器节点的策略。 最大实例数用于控制处理器节点数量,线程并发度用于控制并发,运行时间限制。

上面就是对powerjob定时任务的描述,在分布式业务中我们会经常用到定时任务,那么不妨尝试使用powerjob来实现,体验它的强大之处。

相关文章

Quartz:JAVA中的定时任务调度神器

Quartz:JAVA中的定时任务调度神器在现代软件开发中,定时任务调度是一个非常常见的需求。无论是定期发送邮件通知、执行数据清洗任务,还是定时生成报表,都需要一种可靠的方式来管理这些周期性的操作。而...

SpringBoot整合Quartz动态定时任务实战:零停机实现灵活调度

技术的进阶往往始于对工具边界的探索。在初识SpringBoot定时任务时,我们习惯于用@Scheduled快速实现基础调度,但当面对动态规则变更、多任务协同、故障恢复等真实场景时,这种简单方案却显得捉...

Linux下crontab定时任务详解

crontab命令是被用来提交和管理用户的需要周期性执行的任务,与Windows下的计划任务类似,系统安装完成后,默认安装此服务,并且会自启动crond进程,每分钟定期检查要执行的任务。**一、语法*...

Spring整合quartz,quartz-scheduler定时任务,Spring定时任务

蕃薯耀 2016年7月5日 09:39:02 星期二http://fanshuyao.iteye.com/一、首先加入spring的依赖包,然后再加入quartz的包,如下: org.quart...

定时任务框架选型Quartz/Xxl-Job

以前公司平台中集成了定时任务功能,但平台内部实现比较简单,使用方式有些受限,比如说无法跟踪定时任务执行状态,无法自动解决集群状态下的任务争抢问题,因此考虑升级一下任务实现方式,搜集一番后,Quartz...

定时任务的管理:任务调度系统apache-airflow的简介与安装

对于定时任务的实现,有很多现成的框架来实现,比如Java中自带的ScheduledExecutorService或者第三方框架Quartz,还有Python中的crontab、APSSchedule...