主頁 > .NET開發 > .NET Core下的開源分布式任務調度平臺ScheduleMaster—快速上手

.NET Core下的開源分布式任務調度平臺ScheduleMaster—快速上手

2020-09-18 06:27:53 .NET開發

概述

ScheduleMaster是一個開源的分布式任務調度系統,它基于Asp.Net Core平臺構建,支持跨平臺多節點部署運行,

它的專案主頁在這里:

https://github.com/hey-hoho/ScheduleMasterCore

關于它的簡單介紹可以看這里:

https://www.cnblogs.com/hohoa/p/12162581.html


本地部署

使用前請準備好所需環境:Visual Studio 2019.Net Core3.0 SDKMysql 5.7Centos(可選)Docker(可選)

下載原始碼到本地,然后用VS2019打開解決方案并編譯通過,

打開專案Hos.ScheduleMaster.Web根目錄下的appsettings.json檔案,先修改Mysql資料庫連接字串以保證資料庫正常訪問,再找到NodeSetting節點,修改IP欄位為master將要部署的ip地址(master埠為30000不用修改),在專案上右擊選擇發布...,發布到本地檔案夾,

打開專案Hos.ScheduleMaster.QuartzHost根目錄下的appsettings.json檔案,同樣先修改Mysql連接字串,再找到NodeSetting節點,設定worker的名稱IdentityName,修改IP欄位為將要部署的ip地址,Port欄位為要監聽的地址(推薦為30001),在專案上右擊選擇發布...,發布到本地檔案夾,如果要新增worker,按同樣方式配置IdentityName、IP、Port即可,worker在啟動后會把自己的資訊注入到資料庫中,在master中可以看到,

其他發布方式亦可,下面以運行2個worker節點為例:

在Windows中運行

  • 找到master的發布目錄,執行命令dotnet Hos.ScheduleMaster.Web.dll啟動程式,首次啟動會自動遷移生成資料庫結構并初始化種子資料,不需要執行腳本創建資料庫,打開瀏覽器輸入ip和埠訪問即可(初始用戶名admin,密碼111111),
  • 找到worker的發布目錄,執行命令dotnet Hos.ScheduleMaster.QuartzHost.dll --urls http://*:30001啟動程式,打開瀏覽器輸入ip和埠會看到一個歡迎頁面,表示worker已啟動成功,
  • 修改worker下的appsettings.json檔案為worker2的配置(如果發布前已經修改可跳過),執行命令dotnet Hos.ScheduleMaster.QuartzHost.dll --urls http://*:30002啟動程式.
  • 登錄到master中,可以看到節點管理選單下各節點的運行狀態,

在Linux(Centos)中運行

運行前請確保機器已經安裝好.Net Core3.0運行時環境,

把發布檔案復制到Centos中,操作步驟同Windows,

在Docker中運行

  • 在master的發布目錄中執行docker build -t ms_master .命令生成master鏡像,再執行docker run -d -p 30000:30000 --name="mymaster" ms_master運行容器,
  • 在worker的發布目錄中執行docker build -t ms_worker .命令生成worker鏡像,再執行docker run --env identity=docker-worker1 --env port=30001 -d -p 30001:80 --name="myworker1" ms_worker運行容器啟動worker1,
  • 繼續執行docker run --env identity=docker-worker2 --env port=30002 -d -p 30002:80 --name="myworker2" ms_worker運行容器啟動worker2,
  • 執行docker ps查看各容器運行狀態,

接入一個任務

我們看一下如何撰寫業務代碼以及怎么創建和啟動一個任務,

撰寫業務代碼

框架提供了統一的接入口,可以使用如下3種方式:

  • 編譯專案后手動添加參考程式集檔案Hos.ScheduleMaster.Base.dll

  • 在nuget中搜索ScheduleMaster直接安裝到專案中,

  • 在命令列中使用dotnet add package ScheduleMaster或程式包管理控制臺中使用install-package ScheduleMaster安裝,

然后新建一個業務類,集成自Hos.ScheduleMaster.Base.TaskBase,實作它的抽象方法Run就可以了,這個方法就是任務的入口,
下面是專案中最簡單的一個Demo:

using System;
using Hos.ScheduleMaster.Base;

namespace Hos.ScheduleMaster.Demo
{
    public class Simple : TaskBase
    {
        public override void Run(TaskContext context)
        {
            context.WriteLog($"當前時間是:{DateTime.Now}");
        }
    }
}

據有些朋友反饋,希望能加入單純的http調度功能,這個將會作為重點功能在后面開發,

使用控制臺創建任務

我以內置到系統中的demo任務為例子,首先登錄到master控制臺中進入到任務串列頁面,選擇創建任務,填寫好配置資訊:

如果需要指定引數,可以按如下方法設定:

在代碼中使用如下代碼讀取自定義引數:

    public override void Run(TaskContext context)
    {
        context.GetArgument<string>("param1");
        context.GetArgument<int>("param2");
    }

如果需要指定監護人,可以按如下方法設定:

如果在執行完成后要自動觸發其他的任務,可以通過如下方式設定(拖拽選擇):

前面的任務可以通過如下代碼把結果傳給后面的任務:

    public override void Run(TaskContext context)
    {
 		context.Result = new { success = true, message = "后面的兄弟大家好~" };
    }

后面的任務獲取前面的結果:

    public override void Run(TaskContext context)
    {
		object pr=context.PreviousResult;
    }

這里重點說一下程式包的問題,因為程式包是以程式集名稱來打包并管理的,如果多個任務屬于同一個程式集中,那么就不需要每個任務都重復上傳程式包,同名的程式包重復上傳會把已有的覆寫掉,這樣子的話程式集的版本問題就要特別注意下,要避免同一程式包里的任務互相影響,

如果你想跑一個示例看看效果,可以按上面截圖中配置基礎資訊即可,不需要再上傳程式包,

使用API創建任務

除了使用控制臺頁面操作任務,系統還提供了幾個簡單的WebApi來操作,目前包括創建任務、查詢任務詳情、查詢任務串列,
下面主要介紹創建任務API,介面定義如下:
訪問地址:http://localhost:30000/api/task/create
請求型別:POST
主要引數:

引數名稱 引數型別 是否必填 說明
Title string 任務名稱
RunLoop bool 是否按周期執行
CronExpression string cron運算式,如果RunLoop為true則必填
AssemblyName string 程式集名稱
ClassName string 執行類名稱,包含完整命名空間
StartDate DateTime 任務開始時間
EndDate DateTime 任務停止時間,為空表示不限停止時間
Remark string 任務描述說明
CreateUserName string 創建人用戶名
Keepers List<int> 監護人id
Params List<ScheduleParam> 自定義引數串列

對接流程:

  • 在控制臺中創建好專用的API對接用戶賬號,
  • 使用對接賬號的用戶名設定為http header中的ms_auth_user值,
  • 使用加密過的秘鑰設定為http header中的ms_auth_secret值,加密規則:按{用戶名}{密碼}{用戶名}的格式拼接,然后用32位的MD5演算法進行加密,最后轉換成小寫字串得到秘鑰,
  • 使用form格式發起http呼叫,如果非法用戶會回傳401-Unauthorized,

介面驗簽這塊設計的比較簡陋,因為考慮到這個場景使用的不多而且基本是內部系統呼叫,所以只做了簡單驗證,具體實作代碼在Hos.ScheduleMaster.Web.Filters.AccessControlFilter

創建成功會回傳任務id,

要提一下的是,使用API創建任務的方式不支持上傳程式包,所以在任務需要啟動時要確保程式包已通過其他方式上傳,否則會啟動失敗,

啟動流程


日志跟蹤

在設計上,我把任務的每次運行定義為一個Trace并為之分配一個traceid,這樣的話就能對產生的日志進行歸類,區分哪一條是哪次運行產生的,
寫入日志的方法為:

    public override void Run(TaskContext context)
    {
		context.WriteLog("xxxxxxx");
		context.WriteError(exception);
    }

頁面上在這里查看:

單擊左邊的運行記錄可以看到與之關聯的詳細日志資訊:

好了,這篇先就這么多~


結尾

如果有疑問,可以加入交流QQ群:824535095,
如果有優化建議或者發現了bug,歡迎提issue:https://github.com/hey-hoho/ScheduleMasterCore/issues

轉載請註明出處,本文鏈接:https://www.uj5u.com/net/71420.html

標籤:.NET Core

上一篇:.NET Core學習筆記(3)——async/await中的Exception處理

下一篇:Asp.ner Core-Blazor(MVVM)隨手記

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • WebAPI簡介

    Web體系結構: 有三個核心:資源(resource),URL(統一資源識別符號)和表示 他們的關系是這樣的:一個資源由一個URL進行標識,HTTP客戶端使用URL定位資源,表示是從資源回傳資料,媒體型別是資源回傳的資料格式。 接下來我們說下HTTP. HTTP協議的系統是一種無狀態的方式,使用請求/ ......

    uj5u.com 2020-09-09 22:07:47 more
  • asp.net core 3.1 入口:Program.cs中的Main函式

    本文分析Program.cs 中Main()函式中代碼的運行順序分析asp.net core程式的啟動,重點不是剖析原始碼,而是理清程式開始時執行的順序。到呼叫了哪些實體,哪些法方。asp.net core 3.1 的程式入口在專案Program.cs檔案里,如下。ususing System; us ......

    uj5u.com 2020-09-09 22:07:49 more
  • asp.net網站作為websocket服務端的應用該如何寫

    最近被websocket的一個問題困擾了很久,有一個需求是在web網站中搭建websocket服務。客戶端通過網頁與服務器建立連接,然后服務器根據ip給客戶端網頁發送資訊。 其實,這個需求并不難,只是剛開始對websocket的內容不太了解。上網搜索了一下,有通過asp.net core 實作的、有 ......

    uj5u.com 2020-09-09 22:08:02 more
  • ASP.NET 開源匯入匯出庫Magicodes.IE Docker中使用

    Magicodes.IE在Docker中使用 更新歷史 2019.02.13 【Nuget】版本更新到2.0.2 【匯入】修復單列匯入的Bug,單元測驗“OneColumnImporter_Test”。問題見(https://github.com/dotnetcore/Magicodes.IE/is ......

    uj5u.com 2020-09-09 22:08:05 more
  • 在webform中使用ajax

    如果你用過Asp.net webform, 說明你也算是.NET 開發的老兵了。WEBform應該是2011 2013左右,當時還用visual studio 2005、 visual studio 2008。后來基本都用的是MVC。 如果是新開發的專案,估計沒人會用webform技術。但是有些舊版 ......

    uj5u.com 2020-09-09 22:08:50 more
  • iis添加asp.net網站,訪問提示:由于擴展配置問題而無法提供您請求的

    今天在iis服務器配置asp.net網站,遇到一個問題,記錄一下: 問題:由于擴展配置問題而無法提供您請求的頁面。如果該頁面是腳本,請添加處理程式。如果應下載檔案,請添加 MIME 映射。 WindowServer2012服務器,添加角色安裝完.netframework和iis之后,運行aspx頁面 ......

    uj5u.com 2020-09-09 22:10:00 more
  • WebAPI-處理架構

    帶著問題去思考,大家好! 問題1:HTTP請求和回傳相應的HTTP回應資訊之間發生了什么? 1:首先是最底層,托管層,位于WebAPI和底層HTTP堆疊之間 2:其次是 訊息處理程式管道層,這里比如日志和快取。OWIN的參考是將訊息處理程式管道的一些功能下移到堆疊下端的OWIN中間件了。 3:控制器處理 ......

    uj5u.com 2020-09-09 22:11:13 more
  • 微信門戶開發框架-使用指導說明書

    微信門戶應用管理系統,采用基于 MVC + Bootstrap + Ajax + Enterprise Library的技術路線,界面層采用Boostrap + Metronic組合的前端框架,資料訪問層支持Oracle、SQLServer、MySQL、PostgreSQL等資料庫。框架以MVC5,... ......

    uj5u.com 2020-09-09 22:15:18 more
  • WebAPI-HTTP編程模型

    帶著問題去思考,大家好!它是什么?它包含什么?它能干什么? 訊息 HTTP編程模型的核心就是訊息抽象,表示為:HttPRequestMessage,HttpResponseMessage.用于客戶端和服務端之間交換請求和回應訊息。 HttpMethod類包含了一組靜態屬性: private stat ......

    uj5u.com 2020-09-09 22:15:23 more
  • 部署WebApi隨筆

    一、跨域 NuGet參考Microsoft.AspNet.WebApi.Cors WebApiConfig.cs中配置: // Web API 配置和服務 config.EnableCors(new EnableCorsAttribute("*", "*", "*")); 二、清除默認回傳XML格式 ......

    uj5u.com 2020-09-09 22:15:48 more
最新发布
  • C#多執行緒學習(二) 如何操縱一個執行緒

    <a href="https://www.cnblogs.com/x-zhi/" target="_blank"><img width="48" height="48" class="pfs" src="https://pic.cnblogs.com/face/2943582/20220801082530.png" alt="" /></...

    uj5u.com 2023-04-19 09:17:20 more
  • C#多執行緒學習(二) 如何操縱一個執行緒

    C#多執行緒學習(二) 如何操縱一個執行緒 執行緒學習第一篇:C#多執行緒學習(一) 多執行緒的相關概念 下面我們就動手來創建一個執行緒,使用Thread類創建執行緒時,只需提供執行緒入口即可。(執行緒入口使程式知道該讓這個執行緒干什么事) 在C#中,執行緒入口是通過ThreadStart代理(delegate)來提供的 ......

    uj5u.com 2023-04-19 09:16:49 more
  • 記一次 .NET某醫療器械清洗系統 卡死分析

    <a href="https://www.cnblogs.com/huangxincheng/" target="_blank"><img width="48" height="48" class="pfs" src="https://pic.cnblogs.com/face/214741/20200614104537.png" alt="" /&g...

    uj5u.com 2023-04-18 08:39:04 more
  • 記一次 .NET某醫療器械清洗系統 卡死分析

    一:背景 1. 講故事 前段時間協助訓練營里的一位朋友分析了一個程式卡死的問題,回過頭來看這個案例比較經典,這篇稍微整理一下供后來者少踩坑吧。 二:WinDbg 分析 1. 為什么會卡死 因為是表單程式,理所當然就是看主執行緒此時正在做什么? 可以用 ~0s ; k 看一下便知。 0:000> k # ......

    uj5u.com 2023-04-18 08:33:10 more
  • SignalR, No Connection with that ID,IIS

    <a href="https://www.cnblogs.com/smartstar/" target="_blank"><img width="48" height="48" class="pfs" src="https://pic.cnblogs.com/face/u36196.jpg" alt="" /></a>...

    uj5u.com 2023-03-30 17:21:52 more
  • 一次對pool的誤用導致的.net頻繁gc的診斷分析

    <a href="https://www.cnblogs.com/dotnet-diagnostic/" target="_blank"><img width="48" height="48" class="pfs" src="https://pic.cnblogs.com/face/3115652/20230225090434.png" alt=""...

    uj5u.com 2023-03-28 10:15:33 more
  • 一次對pool的誤用導致的.net頻繁gc的診斷分析

    <a href="https://www.cnblogs.com/dotnet-diagnostic/" target="_blank"><img width="48" height="48" class="pfs" src="https://pic.cnblogs.com/face/3115652/20230225090434.png" alt=""...

    uj5u.com 2023-03-28 10:13:31 more
  • C#遍歷指定檔案夾中所有檔案的3種方法

    <a href="https://www.cnblogs.com/xbhp/" target="_blank"><img width="48" height="48" class="pfs" src="https://pic.cnblogs.com/face/957602/20230310105611.png" alt="" /></a&...

    uj5u.com 2023-03-27 14:46:55 more
  • C#/VB.NET:如何將PDF轉為PDF/A

    <a href="https://www.cnblogs.com/Carina-baby/" target="_blank"><img width="48" height="48" class="pfs" src="https://pic.cnblogs.com/face/2859233/20220427162558.png" alt="" />...

    uj5u.com 2023-03-27 14:46:35 more
  • 武裝你的WEBAPI-OData聚合查詢

    <a href="https://www.cnblogs.com/podolski/" target="_blank"><img width="48" height="48" class="pfs" src="https://pic.cnblogs.com/face/616093/20140323000327.png" alt="" /><...

    uj5u.com 2023-03-27 14:46:16 more