主頁 > .NET開發 > 【Shashlik.EventBus】.NET 事件總線,分布式事務最終一致性

【Shashlik.EventBus】.NET 事件總線,分布式事務最終一致性

2022-09-14 06:05:51 .NET開發

【Shashlik.EventBus】.NET 事件總線,分布式事務最終一致性

簡介

github https://github.com/dotnet-shashlik/shashlik.eventbus

各位爺高興了給個star唄,

分布式事務、CAP定理、事件總線,在當前微服務、分布式、集群大行其道的架構前提下,是不可逃避的幾個關鍵字,在此不會過多闡述相關的理論知識,Shashlik.EventBus就是一個基于.NET6的開源事件總線解決方案,同時也是分布式事務最終一致性、延遲事件解決方案,Shashlik.EventBus采用的是異步確保的思路(本地訊息表),將訊息資料與業務資料在同一事務中進行提交或回滾,以此來保證訊息資料的可靠性,其設計目標是高性能、簡單、易用、易擴展,為拋棄歷史包袱,僅支持NET6,采用最寬松的 MIT 開源協議,

原理如下圖:

image

如圖所示,訊息資料需要和業務資料在同一的事務中進行提交或者回滾,最后Shashlik.EventBus會檢查訊息資料是否已提交,如果已提交才會執行真正的訊息發送,所以要求事務的隔離級別最低為讀已提交(RC)

關于訊息冪等

Shashlik.EventBus不能保證業務訊息的冪等性,為了保證訊息的可靠傳輸,EventBus以及訊息中間件對訊息QOS處理等級必須為at least once (至少到達一次),一般訊息中間件都需要開啟訊息持久化避免訊息丟失,簡而言之就是一個事件處理類可能處理多次同一個事件,事件訊息的冪等性應該由業務方進行處理,比如用戶訂單付款完成為一個事件,付款完成后需要修改訂單狀態為待發貨,也就是在付款完成事件處理類中可能收到多次這個訂單的付款完成事件,那么業務的冪等性處理就可以使用鎖,判斷訂單狀態,如果訂單狀態已經為待發貨,則直接回傳并忽略本次事件回應,

延遲事件

Shashlik.EventBus支持基于本地的延遲事件機制,考慮到不是所有的訊息中間件都支持延遲功能,且為了最大程度保證訊息的可靠性,最后采用了System.Timers.Timer來執行延遲功能,

延遲事件同樣適用于分布式事務最終一致性,但如果延遲事件處理類處理例外由重試器介入處理后,那么最終的延遲執行時間和期望的延遲時間就會產生較大的差異,是否忽略這里的時間差需要由具體的業務來決定,比如訂單30分鐘未付款需要關閉訂單,30分鐘后關閉訂單出現了例外,最后由重試器到了40分鐘后才關閉,也不影響訂單,那么認為這個時間差可以容忍,又比如雙11啦,發布一個延遲事件,晚上12點叫醒我起來買買買,只有1分鐘時間,過了就買不到了,那么這種情況可以在事件處理類中,自行根據當前時間、事件發送時間、延遲執行時間等要素,自行決定業務如何處理,

延遲事件和普通事件在事件定義和事件處理類宣告和處理時沒有任何區別,僅僅是在發布事件時需要指定延遲時間,

上代碼

需求:一個新用戶注冊以后有以下需求:1. 發送歡迎注冊短信;2. 發放新用戶優惠券;3. 30分鐘后推送新用戶優惠活動資訊,

  1. 服務配置,這里以MySql + RabbitMQ為例:
  services.AddEventBus(r =>
      {
          // 這些都是預設配置,可以直接services.AddEventBus()
          // 運行環境,注冊到MQ的事件名稱和事件處理名稱會帶上此后綴
          r.Environment = "Production";
          // 最大失敗重試次數,默認60次
          r.RetryFailedMax = 60;
          // 訊息重試間隔,默認2分鐘
          r.RetryInterval = 60 * 2;
          // 單次重試訊息數量限制,默認100
          r.RetryLimitCount = 100;
          // 成功的訊息過期時間,默認3天,失敗的訊息永不過期,必須處理
          r.SucceedExpireHour = 24 * 3;            
          // 訊息處理失敗后,重試器介入時間,默認5分鐘后
          r.StartRetryAfter = 60 * 5;            
          // 事務提交超時時間,單位秒,默認60秒
          r.TransactionCommitTimeout = 60;
          // 重試器執行時訊息鎖定時長
          r.LockTime = 110;
      })
      // 使用ef DbContext mysql
      .AddMySql<DemoDbContext>()
      // 配置RabbitMQ
      .AddRabbitMQ(r =>
      {
          r.Host = "localhost";
          r.UserName = "rabbit";
          r.Password = "123123";
      });
  1. 定義事件

  // 新用戶注冊完成事件,實作介面IEvent
  public class NewUserEvent : IEvent
  {
      public string Id { get;set; }
      public string Name { get; set; }
  }
  
  // 定義新用戶注冊延遲活動推送事件
  public class NewUserPromotionEvent : IEvent
  {
      public string Id { get;set; }
      public string Name { get; set; }
      public string PromotionId { get; set; }
  }

  1. 發布事件

  public class UserManager
  {
      public UserManager(IEventPublisher eventPublisher, DemoDbContext dbContext)
      {
          EventPublisher = eventPublisher;
          DbContext = dbContext;
      }
  
      private IEventPublisher EventPublisher { get; }
      private DemoDbContext DbContext { get; }
  
      public async Task CreateUserAsync(UserInput input)
      {
          // 開啟本地事務
          using var tran = await DbContext.DataBase.BeginTransactionAsync();
          try
          {
              // 創建用戶邏輯處理...
  
              // 發布新用戶事件
              // 通過注入IEventPublisher發布事件,需要傳入事務背景關系資料
              await EventPublisher.PublishAsync(new NewUserEvent{
                  Id = user.Id,
                  Name = input.Name
              }, DbContext.GetTransactionContext());
  
              // 發布延遲事件
              // 通過ef擴展,直接使用DbContext發布事件,自動使用當前背景關系事務
              await DbContext.PublishEventAsync(new NewUserPromotionEvent{
                  Id = user.Id,
                  Name = input.Name,
                  PromotionId = "1"
              }, DatetimeOffset.Now.AddMinutes(30));
  
              // 提交本地事務
              await tran.CommitAsync();
          }catch(Exception ex)
          {
              // 回滾事務,訊息資料也將回滾不會發布
              await tran.RollbackAsync();
          }
      }
  }

  1. 定義事件處理類
    
  // 一個事件可以有多個處理類,可以分布在不同的微服務中
  // 用于發送短信的事件處理類
  public class NewUserEventForSmsHandler : IEventHandler<NewUserEvent>
  {
      public async Task Execute(NewUserEvent @event, IDictionary<string, string> items)
      {
          // 發送短信...
      }
  }


  // 用于發放消費券的事件處理類
  public class NewUserEventForCouponsHandler : IEventHandler<NewUserEvent>
  {
      public async Task Execute(NewUserEvent @event, IDictionary<string, string> items)
      {
          // 業務處理...
      }
  }

  // 用于新用戶延遲活動的事件處理類,將在指定時間執行
  public class NewUserPromotionEventHandler : IEventHandler<NewUserPromotionEvent>
  {
      public async Task Execute(NewUserPromotionEvent @event, IDictionary<string, string> items)
      {
          // 業務處理...
      }
  }    

默認的,發布、宣告到訊息中間件的事件、事件處理器名稱生產規則為{Type.Name}.{Options.Environment},在分布式架構下需要,您需要了解這個默認規則,這點不同于CAP框架必須顯示宣告,當然Shashlik.EventBus也可以使用EventBusNameAttribute特性來顯示宣告,詳細說明請上github查看wiki檔案,

XA事務支持(TransactionScope)

雖然盡可能的不要使用TransactionScope,但在某些場景仍然是需要的,Shashlik.EventBus對其提供了事務支持,可以通過XaTransactionContext.Current獲取當前環境的事務背景關系,發布事件如下:


  public class UserManager
  {
      public UserManager(IEventPublisher eventPublisher, DemoDbContext dbContext)
      {
          EventPublisher = eventPublisher;
          DbContext = dbContext;
      }
  
      private IEventPublisher EventPublisher { get; }
      private DemoDbContext DbContext { get; }
  
      public async Task CreateUserAsync(UserInput input)
      {
          // 開啟事務
          using var scope = new TransactionScope();
          try
          {
              // 創建用戶邏輯處理...
  
              // 發布新用戶事件
              // 通過注入IEventPublisher發布事件,需要傳入事務背景關系資料
              await EventPublisher.PublishAsync(new NewUserEvent{
                  Id = user.Id,
                  Name = input.Name
              // 使用 XaTransactionContext.Current
              }, XaTransactionContext.Current);
  
              // 提交事務
              await scope.Complete();
          }catch(Exception ex)
          {
              // 回滾事務,訊息資料也將回滾不會發布
              await tran.RollbackAsync();
          }
      }
  }

擴展

如果默認實作不能滿足你的需求,可以自行實作可擴展介面,并注冊即可,

  • IMsgIdGenerator:訊息Id生成器,是指傳輸的全域唯一id,不是指存盤的id,默認guid
  • IEventPublisher:事件發布處理器,
  • IMessageSerializer:訊息序列化、反序列化處理類,默認Newtonsoft.Json
  • IReceivedMessageRetryProvider:已接收訊息重試器,
  • IPublishedMessageRetryProvider:已發布訊息重試器,
  • IEventHandlerInvoker: 事件處理執行器
  • IEventNameRuler:事件名稱規則生成(對應訊息佇列topic/route),
  • IEventHandlerNameRuler:事件處理名稱規則生成(對應訊息佇列queue/group),
  • IEventHandlerFindProvider:事件處理類查找器
  • IExpiredMessageProvider:已過期訊息洗掉處理器,
  • IMessageListener:訊息監聽處理器,
  • IRetryProvider:重試執行器,
  • IPublishHandler:訊息發布處理器,
  • IReceivedHandler:訊息接收處理器,
  • IMessageStorageInitializer:存盤介質初始化,
  • IMessageStorage:訊息存盤、讀取等操作,

例:


  // 替換默認的IMsgIdGenerator
  service.AddSingleton<IMsgIdGenerator, CustomMsgIdGenerator>();
  service.AddEventBus()
      .AddMemoryQueue()
      .AddMemoryStorage();

后續計劃

  • 功能
  • 訊息中間件支持
  • 存盤支持

轉載請註明出處,本文鏈接:https://www.uj5u.com/net/507082.html

標籤:.NET Core

上一篇:讀 MAUI 源代碼 理解可系結物件和可系結屬性的存盤機制

下一篇:讀 MAUI 源代碼 理解可系結物件和可系結屬性的存盤機制

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • WebAPI簡介

    Web體系結構: 有三個核心:資源(resource),URL(統一資源識別符號)和表示 他們的關系是這樣的:一個資源由一個URL進行標識,HTTP客戶端使用URL定位資源,表示是從資源回傳資料,媒體型別是資源回傳的資料格式。 接下來我們說下HTTP. HTTP協議的系統是一種無狀態的方式,使用請求/ ......

    uj5u.com 2020-09-09 22:07:47 more
  • asp.net core 3.1 入口:Program.cs中的Main函式

    本文分析Program.cs 中Main()函式中代碼的運行順序分析asp.net core程式的啟動,重點不是剖析原始碼,而是理清程式開始時執行的順序。到呼叫了哪些實體,哪些法方。asp.net core 3.1 的程式入口在專案Program.cs檔案里,如下。ususing System; us ......

    uj5u.com 2020-09-09 22:07:49 more
  • asp.net網站作為websocket服務端的應用該如何寫

    最近被websocket的一個問題困擾了很久,有一個需求是在web網站中搭建websocket服務。客戶端通過網頁與服務器建立連接,然后服務器根據ip給客戶端網頁發送資訊。 其實,這個需求并不難,只是剛開始對websocket的內容不太了解。上網搜索了一下,有通過asp.net core 實作的、有 ......

    uj5u.com 2020-09-09 22:08:02 more
  • ASP.NET 開源匯入匯出庫Magicodes.IE Docker中使用

    Magicodes.IE在Docker中使用 更新歷史 2019.02.13 【Nuget】版本更新到2.0.2 【匯入】修復單列匯入的Bug,單元測驗“OneColumnImporter_Test”。問題見(https://github.com/dotnetcore/Magicodes.IE/is ......

    uj5u.com 2020-09-09 22:08:05 more
  • 在webform中使用ajax

    如果你用過Asp.net webform, 說明你也算是.NET 開發的老兵了。WEBform應該是2011 2013左右,當時還用visual studio 2005、 visual studio 2008。后來基本都用的是MVC。 如果是新開發的專案,估計沒人會用webform技術。但是有些舊版 ......

    uj5u.com 2020-09-09 22:08:50 more
  • iis添加asp.net網站,訪問提示:由于擴展配置問題而無法提供您請求的

    今天在iis服務器配置asp.net網站,遇到一個問題,記錄一下: 問題:由于擴展配置問題而無法提供您請求的頁面。如果該頁面是腳本,請添加處理程式。如果應下載檔案,請添加 MIME 映射。 WindowServer2012服務器,添加角色安裝完.netframework和iis之后,運行aspx頁面 ......

    uj5u.com 2020-09-09 22:10:00 more
  • WebAPI-處理架構

    帶著問題去思考,大家好! 問題1:HTTP請求和回傳相應的HTTP回應資訊之間發生了什么? 1:首先是最底層,托管層,位于WebAPI和底層HTTP堆疊之間 2:其次是 訊息處理程式管道層,這里比如日志和快取。OWIN的參考是將訊息處理程式管道的一些功能下移到堆疊下端的OWIN中間件了。 3:控制器處理 ......

    uj5u.com 2020-09-09 22:11:13 more
  • 微信門戶開發框架-使用指導說明書

    微信門戶應用管理系統,采用基于 MVC + Bootstrap + Ajax + Enterprise Library的技術路線,界面層采用Boostrap + Metronic組合的前端框架,資料訪問層支持Oracle、SQLServer、MySQL、PostgreSQL等資料庫。框架以MVC5,... ......

    uj5u.com 2020-09-09 22:15:18 more
  • WebAPI-HTTP編程模型

    帶著問題去思考,大家好!它是什么?它包含什么?它能干什么? 訊息 HTTP編程模型的核心就是訊息抽象,表示為:HttPRequestMessage,HttpResponseMessage.用于客戶端和服務端之間交換請求和回應訊息。 HttpMethod類包含了一組靜態屬性: private stat ......

    uj5u.com 2020-09-09 22:15:23 more
  • 部署WebApi隨筆

    一、跨域 NuGet參考Microsoft.AspNet.WebApi.Cors WebApiConfig.cs中配置: // Web API 配置和服務 config.EnableCors(new EnableCorsAttribute("*", "*", "*")); 二、清除默認回傳XML格式 ......

    uj5u.com 2020-09-09 22:15:48 more
最新发布
  • C#多執行緒學習(二) 如何操縱一個執行緒

    <a href="https://www.cnblogs.com/x-zhi/" target="_blank"><img width="48" height="48" class="pfs" src="https://pic.cnblogs.com/face/2943582/20220801082530.png" alt="" /></...

    uj5u.com 2023-04-19 09:17:20 more
  • C#多執行緒學習(二) 如何操縱一個執行緒

    C#多執行緒學習(二) 如何操縱一個執行緒 執行緒學習第一篇:C#多執行緒學習(一) 多執行緒的相關概念 下面我們就動手來創建一個執行緒,使用Thread類創建執行緒時,只需提供執行緒入口即可。(執行緒入口使程式知道該讓這個執行緒干什么事) 在C#中,執行緒入口是通過ThreadStart代理(delegate)來提供的 ......

    uj5u.com 2023-04-19 09:16:49 more
  • 記一次 .NET某醫療器械清洗系統 卡死分析

    <a href="https://www.cnblogs.com/huangxincheng/" target="_blank"><img width="48" height="48" class="pfs" src="https://pic.cnblogs.com/face/214741/20200614104537.png" alt="" /&g...

    uj5u.com 2023-04-18 08:39:04 more
  • 記一次 .NET某醫療器械清洗系統 卡死分析

    一:背景 1. 講故事 前段時間協助訓練營里的一位朋友分析了一個程式卡死的問題,回過頭來看這個案例比較經典,這篇稍微整理一下供后來者少踩坑吧。 二:WinDbg 分析 1. 為什么會卡死 因為是表單程式,理所當然就是看主執行緒此時正在做什么? 可以用 ~0s ; k 看一下便知。 0:000> k # ......

    uj5u.com 2023-04-18 08:33:10 more
  • SignalR, No Connection with that ID,IIS

    <a href="https://www.cnblogs.com/smartstar/" target="_blank"><img width="48" height="48" class="pfs" src="https://pic.cnblogs.com/face/u36196.jpg" alt="" /></a>...

    uj5u.com 2023-03-30 17:21:52 more
  • 一次對pool的誤用導致的.net頻繁gc的診斷分析

    <a href="https://www.cnblogs.com/dotnet-diagnostic/" target="_blank"><img width="48" height="48" class="pfs" src="https://pic.cnblogs.com/face/3115652/20230225090434.png" alt=""...

    uj5u.com 2023-03-28 10:15:33 more
  • 一次對pool的誤用導致的.net頻繁gc的診斷分析

    <a href="https://www.cnblogs.com/dotnet-diagnostic/" target="_blank"><img width="48" height="48" class="pfs" src="https://pic.cnblogs.com/face/3115652/20230225090434.png" alt=""...

    uj5u.com 2023-03-28 10:13:31 more
  • C#遍歷指定檔案夾中所有檔案的3種方法

    <a href="https://www.cnblogs.com/xbhp/" target="_blank"><img width="48" height="48" class="pfs" src="https://pic.cnblogs.com/face/957602/20230310105611.png" alt="" /></a&...

    uj5u.com 2023-03-27 14:46:55 more
  • C#/VB.NET:如何將PDF轉為PDF/A

    <a href="https://www.cnblogs.com/Carina-baby/" target="_blank"><img width="48" height="48" class="pfs" src="https://pic.cnblogs.com/face/2859233/20220427162558.png" alt="" />...

    uj5u.com 2023-03-27 14:46:35 more
  • 武裝你的WEBAPI-OData聚合查詢

    <a href="https://www.cnblogs.com/podolski/" target="_blank"><img width="48" height="48" class="pfs" src="https://pic.cnblogs.com/face/616093/20140323000327.png" alt="" /><...

    uj5u.com 2023-03-27 14:46:16 more