輕量級分佈式任務調度平臺XXL-JOB實戰

今天聊一下，分佈式任務調度，現在項目為了高可用，一般都是集群部署，這樣一來，有些定時執行的任務，為了防止多臺機器都執行。就需要分佈式調度。

介紹

XXL-JOB是一個輕量級分佈式任務調度平臺，其核心設計目標是開發迅速、學習簡單、輕量級、易擴展。

• 1、簡單：支持通過Web頁面對任務進行CRUD操作，操作簡單，一分鐘上手；
• 2、動態：支持動態修改任務狀態、啟動/停止任務，以及終止運行中任務，即時生效；
• 3、調度中心HA（中心式）：調度採用中心式設計，“調度中心”自研調度組件並支持集群部署，可保證調度中心HA；
• 4、執行器HA（分佈式）：任務分佈式執行，任務"執行器"支持集群部署，可保證任務執行HA；
• 5、註冊中心: 執行器會週期性自動註冊任務, 調度中心將會自動發現註冊的任務並觸發執行。同時，也支持手動錄入執行器地址；
• 6、彈性擴容縮容：一旦有新執行器機器上線或者下線，下次調度時將會重新分配任務；
• 7、路由策略：執行器集群部署時提供豐富的路由策略，包括：第一個、最後一個、輪詢、隨機、一致性HASH、最不經常使用、最近最久未使用、故障轉移、忙碌轉移等；
• 8、故障轉移：任務路由策略選擇"故障轉移"情況下，如果執行器集群中某一臺機器故障，將會自動Failover切換到一臺正常的執行器發送調度請求。
• 9、阻塞處理策略：調度過於密集執行器來不及處理時的處理策略，策略包括：單機串行（默認）、丟棄後續調度、覆蓋之前調度；
• 10、任務超時控制：支持自定義任務超時時間，任務運行超時將會主動中斷任務；
• 11、任務失敗重試：支持自定義任務失敗重試次數，當任務失敗時將會按照預設的失敗重試次數主動進行重試；其中分片任務支持分片粒度的失敗重試；
• 12、任務失敗告警；默認提供郵件方式失敗告警，同時預留擴展接口，可方便的擴展短信、釘釘等告警方式；
• 13、分片廣播任務：執行器集群部署時，任務路由策略選擇"分片廣播"情況下，一次任務調度將會廣播觸發集群中所有執行器執行一次任務，可根據分片參數開發分片任務；
• 14、動態分片：分片廣播任務以執行器為維度進行分片，支持動態擴容執行器集群從而動態增加分片數量，協同進行業務處理；在進行大數據量業務操作時可顯著提升任務處理能力和速度。
• 15、事件觸發：除了"Cron方式"和"任務依賴方式"觸發任務執行之外，支持基於事件的觸發任務方式。調度中心提供觸發任務單次執行的API服務，可根據業務事件靈活觸發。
• 16、任務進度監控：支持實時監控任務進度；
• 17、Rolling實時日誌：支持在線查看調度結果，並且支持以Rolling方式實時查看執行器輸出的完整的執行日誌；
• 18、GLUE：提供Web IDE，支持在線開發任務邏輯代碼，動態發佈，實時編譯生效，省略部署上線的過程。支持30個版本的歷史版本回溯。
• 19、腳本任務：支持以GLUE模式開發和運行腳本任務，包括Shell、Python、NodeJS、PHP、PowerShell等類型腳本;
• 20、命令行任務：原生提供通用命令行任務Handler（Bean任務，"CommandJobHandler"）；業務方只需要提供命令行即可；
• 21、任務依賴：支持配置子任務依賴，當父任務執行結束且執行成功後將會主動觸發一次子任務的執行, 多個子任務用逗號分隔；
• 22、一致性：“調度中心”通過DB鎖保證集群分佈式調度的一致性, 一次任務調度只會觸發一次執行；
• 23、自定義任務參數：支持在線配置調度任務入參，即時生效；
• 24、調度線程池：調度系統多線程觸發調度運行，確保調度精確執行，不被堵塞；
• 25、數據加密：調度中心和執行器之間的通訊進行數據加密，提升調度信息安全性；
• 26、郵件報警：任務失敗時支持郵件報警，支持配置多郵件地址群發報警郵件；
• 27、推送maven中央倉庫: 將會把最新穩定版推送到maven中央倉庫, 方便用戶接入和使用;
• 28、運行報表：支持實時查看運行數據，如任務數量、調度次數、執行器數量等；以及調度報表，如調度日期分佈圖，調度成功分佈圖等；
• 29、全異步：任務調度流程全異步化設計實現，如異步調度、異步運行、異步回調等，有效對密集調度進行流量削峰，理論上支持任意時長任務的運行；
• 30、跨平臺：原生提供通用HTTP任務Handler（Bean任務，"HttpJobHandler"）；業務方只需要提供HTTP鏈接即可，不限制語言、平臺；
• 31、國際化：調度中心支持國際化設置，提供中文、英文兩種可選語言，默認為中文；
• 32、容器化：提供官方docker鏡像，並實時更新推送dockerhub，進一步實現產品開箱即用；
• 33、線程池隔離：調度線程池進行隔離拆分，慢任務自動降級進入"Slow"線程池，避免耗盡調度線程，提高系統穩定性；
• 34、用戶管理：支持在線管理系統用戶，存在管理員、普通用戶兩種角色；
• 35、權限控制：執行器維度進行權限控制，管理員擁有全量權限，普通用戶需要分配執行器權限後才允許相關操作；

以上一官網介紹。話不多說，開始使用

1.引入jar

<dependency>
 <groupid>com.xuxueli/<groupid>
 <artifactid>xxl-job-core/<artifactid>
 <version>2.0.2/<version>
/<dependency>

2.添加配置文件

job.properties

### xxl-job admin address list, such as "http://address" or "http://address01,http://address02"
xxl.job.admin.addresses=http://192.168.199.101:9091/xxl-job-admin
### xxl-job executor address
xxl.job.executor.appname=o-eye-show
xxl.job.executor.ip=
xxl.job.executor.port=9999
### xxl-job, access token
xxl.job.accessToken=
### xxl-job log path
xxl.job.executor.logpath=/data/applogs/xxl-job/jobhandler
### xxl-job log retention days
xxl.job.executor.logretentiondays=-1

讓springboot讀取該配置文件

@PropertySource("job.properties")

添加XxlJobConfig

@Configuration
public class XxlJobConfig {
 private Logger logger = LoggerFactory.getLogger(XxlJobConfig.class);
 @Value("${xxl.job.admin.addresses}")
 private String adminAddresses;
 @Value("${xxl.job.executor.appname}")
 private String appName;
 @Value("${xxl.job.executor.ip}")
 private String ip;
 @Value("${xxl.job.executor.port}")
 private int port;
 @Value("${xxl.job.accessToken}")
 private String accessToken;
 @Value("${xxl.job.executor.logpath}")
 private String logPath;
 @Value("${xxl.job.executor.logretentiondays}")
 private int logRetentionDays;
 @Bean(initMethod = "start", destroyMethod = "destroy")
 public XxlJobSpringExecutor xxlJobExecutor() {
 logger.info(">>>>>>>>>>> xxl-job config init.");
 XxlJobSpringExecutor xxlJobSpringExecutor = new XxlJobSpringExecutor();
 xxlJobSpringExecutor.setAdminAddresses(adminAddresses);
 xxlJobSpringExecutor.setAppName(appName);
 xxlJobSpringExecutor.setIp(ip);
 xxlJobSpringExecutor.setPort(port);
 xxlJobSpringExecutor.setAccessToken(accessToken);
 xxlJobSpringExecutor.setLogPath(logPath);
 xxlJobSpringExecutor.setLogRetentionDays(logRetentionDays);
 return xxlJobSpringExecutor;
 }
 
}

3.添加JOB

@JobHandler(value="demoJobHandler")
@Component
public class DemoJobHandler extends IJobHandler {
 private static final Logger logger = LoggerFactory.getLogger(DemoJobHandler.class);
 @Resource
 private UserService userService;
 @Override
 public ReturnT<string> execute(String param) throws Exception {
 logger.info("XXL-JOB, Hello World.");
 List<user> users = userService.queryUserAll(); 

 logger.info("query user:{}",users);
 return IJobHandler.SUCCESS;
 }
}
/<user>/<string>

4.登陸xxl-job-admin

4.1新增執行器

AppName是配置文件中的名稱

4.2添加job

選擇任務管理-選擇執行器（剛新建的執行器），點擊新增

JobHandler為我們@JobHandler(value="demoJobHandler")中的value：demoJobHandler

Cron為定時：0/2 * * * * ? 表示兩秒中執行一次

4.3執行

選擇操作-》執行

選擇日誌查看執行結果

查看控制檯驗證

ok，到此已配置完成。