主頁 >  其他 > 分布式系統:分布式任務調度平臺 xxl-job 深入了解

分布式系統:分布式任務調度平臺 xxl-job 深入了解

2020-11-01 08:14:29 其他

xxl-job是一個分布式定時任務調度框架,功能強大,底層使用自己實作的rpc框架進行注冊和管理,資料庫使用mysql,調度觸發使用資料庫鎖來作為調度鎖,

xxl-job主要分為調度中心admin以及任務,任務引入依賴jar包并配置啟動類為spring所管理的bean后,將自動通過spring-bean提供的initMethod進行啟動執行緒選擇一個埠進行注冊以及監聽任務調度,

公司目前引入xxl-job框架代替quartz框架作為分布式任務調度組件,并在其之上進行一定開發以及優化,所以這篇文章主要分享一些深入使用,主要是概念的詳細介紹,

由于篇幅有限,這里沒有寫的很詳細,有需要完整版和更多知識點介紹的朋友可以點一點下方鏈接免費領取

鏈接:1103806531暗號:CSDN

在這里插入圖片描述

系統關鍵概念介紹

執行器

配置中心配置的執行器,概念上對應執行定時任務的服務,支持分布式調度以及調度的各種路由規則配置,注冊方式支持自動注冊和手動配置機器地址兩種方式,心跳時間間隔默認為30s,失效時間90s,

執行器自動注冊后,調度中心頁面依舊有最長30秒的延遲顯示,原因是資料庫中注冊表更新后,展示執行器的表是由另一個守護執行緒去更新的,更新頻率為默認心跳時間30s,所以管理臺展示會有延遲,但不影響任務調度,

任務

任務以執行器為維度配置,每個任務必須屬于一個執行器,當任務觸發時會根據該任務所屬的執行器去尋找執行器的地址串列,然后通過配置的路由規則以及阻塞規則去去執行,

任務支持本地任務以及遠程任務,本地任務即按照執行方寫好的業務邏輯執行,遠程任務通過GLUE,在調度中心管理臺寫好代碼,分發到執行方去執行,建議無特殊需求的話,統一使用本地任務,

任務配置項描述

在這里插入圖片描述

  1. 執行器:選擇該任務由哪個執行器去執行
  2. 任務描述:簡單描述該任務的功能以及作用,如:訂單定時跑批
  3. 路由策略:設定任務執行時,如何去選擇執行器,高頻任務建議使用一致性哈希或者第一臺執行
  4. Cron:Cron運算式,描述任務運行的時間
  5. 運行模式:BEAN即為接入服務配置在本地對應的handler運行,其他方式均為管理臺設定代碼交由接入服務遠程執行
  6. JobHandler:運行模式為BEAN時必填,值應當為接入服務本地執行任務的handler
  7. 阻塞策略:當同一任務多次調度到同一臺執行器時,執行器應當使用的策略
  8. 子任務ID:如配置,則該任務完成后自動觸發一次子任務的執行
  9. 任務超時時間:配置后當任務超時時將自動終止任務執行,
  10. 失敗重試次數:任務失敗后重試的次數,
  11. 負責人:一般為該任務接入方的負責人
  12. 報警郵件:任務報警后發送的郵件地址
  13. 任務引數:若配置了任務引數,任務調度時將發送任務引數至執行方handler,

阻塞策略

阻塞策略即同一個任務在執行器的阻塞執行策略,由執行器端控制,典型場景為:任務A分發到執行器A執行,此時任務A再次觸發并分發到執行器A,此時根據阻塞策略選擇的不同將會有以下三種執行策略:

  1. 單機串行 該策略下,同一執行器收到同一任務的調度觸發時,若已有任務正在執行,會將后續的任務放入執行執行緒的佇列中,等待執行緒輪詢繼續執行,可能會導致執行緒佇列阻塞過多任務導致記憶體過高,高頻且耗時較長任務慎用,
  2. 丟棄后續調度 該策略下,同一執行器收到同一任務的調度觸發時,若已有任務正在執行,會直接丟棄后續同一任務的調度,推薦使用,
  3. 覆寫之前調度 該策略下,同一執行器收到同一任務的調度觸發時,若已有任務正在執行,將會直接停止正在執行的任務(通過執行緒InterruptedException例外以及volatile變數判斷),并將新任務放入佇列,一般情況下不建議使用,

路由策略

路由策略即任務在配置中心進行調度分發時,選擇執行器的策略,由配置中心端控制,典型場景為:任務A觸發執行,任務A對應的執行器有執行器A,B,C,D,此時根據路由策略的選擇將會有以下幾種分發情況

  1. 第一個:始終選擇第一臺執行器作為任務執行器,不論該任務執行器是否正常,
  2. 最后一個:始終選擇最后一臺作為任務執行器
  3. 輪詢:每個執行器輪流執行
  4. 隨機:隨機選擇一個執行器執行
  5. 一致性HASH:根據任務ID做一致性哈希選擇執行器,同一個任務必定只分發到同一個執行器,高頻或耗時較長任務推薦使用
  6. 最不經常使用:選擇平均使用頻率最低的執行器,
  7. 最近最久未使用:選擇最近的最久未使用的執行器,
  8. 故障轉移:分別進行心跳檢測,選擇第一臺心跳檢測正常的機器執行,
  9. 忙碌轉移:分別進行忙碌檢測,選擇第一臺空閑的機器執行,
  10. 分片廣播:廣播到所有執行器執行,并提供分片引數,分片引數獲取方式如下,應用在被觸發時動態獲取自己是第幾個分片,共有幾個分片:

日志問題

xxl-job相關日志使用默認使用slf4j作為日志框架,使用專門的API寫入日志時,會輸出2種日志,客戶端日志與服務端日志

客戶端日志

客戶端日志根據組態檔中配置的logpath指定,根據原始碼分析,客戶端日志將通過FileOutputStream寫到對應檔案,且無法通過配置修改,所以只好修改了原始碼中的邏輯,改為該值為空未配置時,直接通過slf4j寫入,

服務端日志

使用xxljob的日志api輸出日志時,日志也會在調度管理臺看到,能看到的原理是xxl-job管理臺會通過rpc呼叫執行器的介面,執行器收到請求后從指定的日志檔案中讀取執行的日志并回傳,這里存在一個比較麻煩的問題,就是xxl-job這種日志的邏輯,無法很好的兼容到專案統一的日志模塊里,十分不便,

所以實際使用程序中,我們在xxl-job管理臺查詢日志時,對其進行了改造,修改為不從rpc查詢,而是走我們日志管理的搜索引擎根據執行的jobid查詢相關日志,結合客戶端日志輸出的改造,從而統一xxl-job和我們系統間的日志管理,

框架目前發現的缺點以及存在的問題

  1. 目前定時任務的調度串行是依賴db鎖的,某個子微服務或者子系統內部使用還好,但是不適合整個公司級別共用,這點和資料庫的耦合比較高,并沒有本地快取之類的,對資料庫的HA依賴非常高,
  2. 管理模塊以及權限模塊,組內和小公司用用可以,不適合作為多個系統多個部門之間共用的中間件,
  3. 管理臺存在一些簡單的安全bug,sql注入和js腳本注入非常簡單,(公司的安全測驗測出來的)
  4. 相關協議支持較差,使用自己實作的RPC協議,如果需要dubbo或者spring cloud,需要自己拓展,并且雖然底層是netty,但是本身對netty例外的封裝并不是很好,導致一些奇怪的網路問題或者其他的協議,會報莫名其妙的錯,沒有一定netty理解的人是看不懂的,這點我提了Issue,不過出于這套框架解耦與獨立的設計,估計是不會支持dubbo和spring cloud的,
  5. 上面提到的,日志模塊更建議自己整體修改下寫入邏輯,管理臺看不到無所謂,(畢竟定時任務也沒誰會去管理臺看日志,并且這部分日志寫多了對性能和網路開銷有影響的),寫到本地使用elk之類的再查就可以了,
  6. 定時任務觸發的流水號或者跟蹤id,需要改動原框架,否則也會影響后續日志追蹤的問題,

總體而言這是一個很不錯的框架,關于定時任務的執行器和調度器關系也很優雅,值得拓展或者進行一定定制開發,目前使用來,穩定性也沒有問題,

最后

為大家整理了各個知識點模塊整理檔案(微服務、資料庫、mysql、jvm、Redis等都有)和更多大廠面試真題,有需要的朋友可以點一點下方鏈接免費領取

鏈接:1103806531暗號:CSDN

在這里插入圖片描述
在這里插入圖片描述

轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/197802.html

標籤:其他

上一篇:阿里天貓團隊Java技術四面經歷:資料結構+MySQL+快取雪崩+高并發,出來背上都濕透了!

下一篇:C++讀取gif圖 | opencv讀取gif圖(附完整代碼)

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 網閘典型架構簡述

    網閘架構一般分為兩種:三主機的三系統架構網閘和雙主機的2+1架構網閘。 三主機架構分別為內端機、外端機和仲裁機。三機無論從軟體和硬體上均各自獨立。首先從硬體上來看,三機都用各自獨立的主板、記憶體及存盤設備。從軟體上來看,三機有各自獨立的作業系統。這樣能達到完全的三機獨立。對于“2+1”系統,“2”分為 ......

    uj5u.com 2020-09-10 02:00:44 more
  • 如何從xshell上傳檔案到centos linux虛擬機里

    如何從xshell上傳檔案到centos linux虛擬機里及:虛擬機CentOs下執行 yum -y install lrzsz命令,出現錯誤:鏡像無法找到軟體包 前言 一、安裝lrzsz步驟 二、上傳檔案 三、遇到的問題及解決方案 總結 前言 提示:其實很簡單,往虛擬機上安裝一個上傳檔案的工具 ......

    uj5u.com 2020-09-10 02:00:47 more
  • 一、SQLMAP入門

    一、SQLMAP入門 1、判斷是否存在注入 sqlmap.py -u 網址/id=1 id=1不可缺少。當注入點后面的引數大于兩個時。需要加雙引號, sqlmap.py -u "網址/id=1&uid=1" 2、判斷文本中的請求是否存在注入 從文本中加載http請求,SQLMAP可以從一個文本檔案中 ......

    uj5u.com 2020-09-10 02:00:50 more
  • Metasploit 簡單使用教程

    metasploit 簡單使用教程 浩先生, 2020-08-28 16:18:25 分類專欄: kail 網路安全 linux 文章標簽: linux資訊安全 編輯 著作權 metasploit 使用教程 前言 一、Metasploit是什么? 二、準備作業 三、具體步驟 前言 Msfconsole ......

    uj5u.com 2020-09-10 02:00:53 more
  • 游戲逆向之驅動層與用戶層通訊

    驅動層代碼: #pragma once #include <ntifs.h> #define add_code CTL_CODE(FILE_DEVICE_UNKNOWN,0x800,METHOD_BUFFERED,FILE_ANY_ACCESS) /* 更多游戲逆向視頻www.yxfzedu.com ......

    uj5u.com 2020-09-10 02:00:56 more
  • 北斗電力時鐘(北斗授時服務器)讓網路資料更精準

    北斗電力時鐘(北斗授時服務器)讓網路資料更精準 北斗電力時鐘(北斗授時服務器)讓網路資料更精準 京準電子科技官微——ahjzsz 近幾年,資訊技術的得了快速發展,互聯網在逐漸普及,其在人們生活和生產中都得到了廣泛應用,并且取得了不錯的應用效果。計算機網路資訊在電力系統中的應用,一方面使電力系統的運行 ......

    uj5u.com 2020-09-10 02:01:03 more
  • 【CTF】CTFHub 技能樹 彩蛋 writeup

    ?碎碎念 CTFHub:https://www.ctfhub.com/ 筆者入門CTF時時剛開始刷的是bugku的舊平臺,后來才有了CTFHub。 感覺不論是網頁UI設計,還是題目質量,賽事跟蹤,工具軟體都做得很不錯。 而且因為獨到的金幣制度的確讓人有一種想去刷題賺金幣的感覺。 個人還是非常喜歡這個 ......

    uj5u.com 2020-09-10 02:04:05 more
  • 02windows基礎操作

    我學到了一下幾點 Windows系統目錄結構與滲透的作用 常見Windows的服務詳解 Windows埠詳解 常用的Windows注冊表詳解 hacker DOS命令詳解(net user / type /md /rd/ dir /cd /net use copy、批處理 等) 利用dos命令制作 ......

    uj5u.com 2020-09-10 02:04:18 more
  • 03.Linux基礎操作

    我學到了以下幾點 01Linux系統介紹02系統安裝,密碼啊破解03Linux常用命令04LAMP 01LINUX windows: win03 8 12 16 19 配置不繁瑣 Linux:redhat,centos(紅帽社區版),Ubuntu server,suse unix:金融機構,證券,銀 ......

    uj5u.com 2020-09-10 02:04:30 more
  • 05HTML

    01HTML介紹 02頭部標簽講解03基礎標簽講解04表單標簽講解 HTML前段語言 js1.了解代碼2.根據代碼 懂得挖掘漏洞 (POST注入/XSS漏洞上傳)3.黑帽seo 白帽seo 客戶網站被黑帽植入劫持代碼如何處理4.熟悉html表單 <html><head><title>TDK標題,描述 ......

    uj5u.com 2020-09-10 02:04:36 more
最新发布
  • 2023年最新微信小程式抓包教程

    01 開門見山 隔一個月發一篇文章,不過分。 首先回顧一下《微信系結手機號資料庫被脫庫事件》,我也是第一時間得知了這個訊息,然后跟蹤了整件事情的經過。下面是這起事件的相關截圖以及近日流出的一萬條資料樣本: 個人認為這件事也沒什么,還不如關注一下之前45億快遞資料查詢渠道疑似在近日復活的訊息。 訊息是 ......

    uj5u.com 2023-04-20 08:48:24 more
  • web3 產品介紹:metamask 錢包 使用最多的瀏覽器插件錢包

    Metamask錢包是一種基于區塊鏈技術的數字貨幣錢包,它允許用戶在安全、便捷的環境下管理自己的加密資產。Metamask錢包是以太坊生態系統中最流行的錢包之一,它具有易于使用、安全性高和功能強大等優點。 本文將詳細介紹Metamask錢包的功能和使用方法。 一、 Metamask錢包的功能 數字資 ......

    uj5u.com 2023-04-20 08:47:46 more
  • vulnhub_Earth

    前言 靶機地址->>>vulnhub_Earth 攻擊機ip:192.168.20.121 靶機ip:192.168.20.122 參考文章 https://www.cnblogs.com/Jing-X/archive/2022/04/03/16097695.html https://www.cnb ......

    uj5u.com 2023-04-20 07:46:20 more
  • 從4k到42k,軟體測驗工程師的漲薪史,給我看哭了

    清明節一過,盲猜大家已經無心上班,在數著日子準備過五一,但一想到銀行卡里的余額……瞬間心情就不美麗了。最近,2023年高校畢業生就業調查顯示,本科畢業月平均起薪為5825元。調查一出,便有很多同學表示自己又被平均了。看著這一資料,不免讓人想到前不久中國青年報的一項調查:近六成大學生認為畢業10年內會 ......

    uj5u.com 2023-04-20 07:44:00 more
  • 最新版本 Stable Diffusion 開源 AI 繪畫工具之中文自動提詞篇

    🎈 標簽生成器 由于輸入正向提示詞 prompt 和反向提示詞 negative prompt 都是使用英文,所以對學習母語的我們非常不友好 使用網址:https://tinygeeker.github.io/p/ai-prompt-generator 這個網址是為了讓大家在使用 AI 繪畫的時候 ......

    uj5u.com 2023-04-20 07:43:36 more
  • 漫談前端自動化測驗演進之路及測驗工具分析

    隨著前端技術的不斷發展和應用程式的日益復雜,前端自動化測驗也在不斷演進。隨著 Web 應用程式變得越來越復雜,自動化測驗的需求也越來越高。如今,自動化測驗已經成為 Web 應用程式開發程序中不可或缺的一部分,它們可以幫助開發人員更快地發現和修復錯誤,提高應用程式的性能和可靠性。 ......

    uj5u.com 2023-04-20 07:43:16 more
  • CANN開發實踐:4個DVPP記憶體問題的典型案例解讀

    摘要:由于DVPP媒體資料處理功能對存放輸入、輸出資料的記憶體有更高的要求(例如,記憶體首地址128位元組對齊),因此需呼叫專用的記憶體申請介面,那么本期就分享幾個關于DVPP記憶體問題的典型案例,并給出原因分析及解決方法。 本文分享自華為云社區《FAQ_DVPP記憶體問題案例》,作者:昇騰CANN。 DVPP ......

    uj5u.com 2023-04-20 07:43:03 more
  • msf學習

    msf學習 以kali自帶的msf為例 一、msf核心模塊與功能 msf模塊都放在/usr/share/metasploit-framework/modules目錄下 1、auxiliary 輔助模塊,輔助滲透(埠掃描、登錄密碼爆破、漏洞驗證等) 2、encoders 編碼器模塊,主要包含各種編碼 ......

    uj5u.com 2023-04-20 07:42:59 more
  • Halcon軟體安裝與界面簡介

    1. 下載Halcon17版本到到本地 2. 雙擊安裝包后 3. 步驟如下 1.2 Halcon軟體安裝 界面分為四大塊 1. Halcon的五個助手 1) 影像采集助手:與相機連接,設定相機引數,采集影像 2) 標定助手:九點標定或是其它的標定,生成標定檔案及內參外參,可以將像素單位轉換為長度單位 ......

    uj5u.com 2023-04-20 07:42:17 more
  • 在MacOS下使用Unity3D開發游戲

    第一次發博客,先發一下我的游戲開發環境吧。 去年2月份買了一臺MacBookPro2021 M1pro(以下簡稱mbp),這一年來一直在用mbp開發游戲。我大致分享一下我的開發工具以及使用體驗。 1、Unity 官網鏈接: https://unity.cn/releases 我一般使用的Apple ......

    uj5u.com 2023-04-20 07:40:19 more