主頁 > 後端開發 > RocketMQ 5.0 多語言客戶端的設計與實作

RocketMQ 5.0 多語言客戶端的設計與實作

2023-01-05 07:06:48 後端開發

本文作者:古崟佑,阿里云中間件開發,

 

RocketMQ 5.0 版本擁有非常多新特性,比如存盤計算分離、 batch 能力的提升等,它是具有里程碑意義的版本,

提到新版本,我們往往會首先想到服務端架構的設計變動,很容易忽略客戶端的設計理念,客戶端也是訊息產品的必要組成部分,許多特性需要 client 與 server 兩端互相協作,才能更好地實作,

輕量化、云原生以及統一模型是 RocketMQ 5.0 客戶端的三個設計理念,

 

01 輕量化

輕量化的重點在于輕邏輯、輕流程,化繁為簡,減少多語言生態發展的阻礙,

上圖列舉了 RocketMQ 4.x 版本和 RocketMQ 5.0 版本的差異,

①4.x 版本的序列化使用 JsonCodecs 和 RocketMQCodecs,5.0 版本使用的則是標準的 Protobuf 協議,多語言發展的阻礙包括許多不規范,比如 RocketMQ 自定義序列化對于其他的語言需要自己實作一套協議以實作正反序列化決議,而 Json 作為標準序列化協議,基本可以實作所有語言的正反序列化,但缺點也非常明顯,冗余資訊過多,體積占用太大,因此更多用于 restful 架構等前后端互動的場景,此外,訊息中間件場景無需關心傳輸資料時是否可讀,因此, Protobuf 成為了選擇,它原生支持多語言,且傳輸時體積占用非常小,成熟且標準,

②此前客戶端使用 consumer 消費資訊時,會存在計算邏輯比如重平衡 以及系統級 topic 處理,但是 RocketMQ 5.0 版本將所有計算邏輯上移到了服務端,客戶端只需簡單地呼叫 Receive 介面,也無需額外處理系統級 topic ,整體邏輯變得非常輕量,

③4.x版本的實作和維護成本非常高,因此5.0版本并沒有基于4.x進行迭代和更新,設計之初有一種思路為直接在4.x客戶端上增加 gRPC 協議,迭代升級成為5.0,但這相當于扛著歷史包袱往前走,也違背了輕量化原則,因此被否定,

 

02 云原生

 

云的彈性、高可用性以及互動運維能力在 RocketMQ 5.0 客戶端中均有體現,分別對應極致彈性伸縮、低耦合以及云端一體,

上圖為 4.x版本和5.0版本的客戶端,在4.x版本中, 一個 Queue 最多對應一個 consumer,增加 consumer 不一定能提升消費并發,其彈性有上限,但在 RocketMQ 5.0,每一個 consumer 可以向所有 broker 發起 Pop 請求,此前為 push 模式,現在改為 pop 請求,提升 consumer 數量能夠提升消費并發,即使只有一個佇列,也可以生成數百數千個消費者統一拉取佇列訊息,

比如購物網站突發退貨流量高峰,此前最簡單有效的方式為增加業務應用數量、增加處理并發,比如增加退貨系統和客戶系統核心的應用資料,但如果一開始佇列數設定并沒有這么多,則需要先擴容佇列,再擴容核心業務數,同時,擴容后也僅對新入隊的訊息處理速度有提升,已經造成堆積的佇列消費速度依然緩慢,此時會出現一種情況,先提交的退貨申請后被處理,會對用戶體驗造成影響,

而 RocketMQ 5.0 的 pop 消費模型只需直接增加業務處理節點數即可解決問題,

已堆積佇列無法通過擴容的方式加速消費,與低耦合場景相似,比如在4.x版本中,假如某消費節點發生 FullGC ,消費比較慢,但是沒有完全下線,依然與服務端保持著心跳,因此佇列依然會被分配至該節點,分配佇列逐漸堆積可能會引發一系列問題,

但在 RocketMQ 5.0,如果某節點發生 FullGC,分配粒度會從佇列退化為訊息,分配的訊息消費緩慢,不會產生堆積,

因此,從極致彈性和低耦合上可以看出 RocketMQ 5.0 之后使用 Pop 協議的優越性,只需要簡單地在消費能力不足時擴容、富余時縮容,單一節點故障也不會影響到全域,

云可以理解為遠在機房的服務端,端則嵌在業務 SDK,此前,在控制臺上進行運維操作時,只能控制服務端,對客戶端的掌控非常有限,使用體驗非常割裂,比如更改服務端配置,除了白屏也可以通過命令工具輕松修改配置,且及時生效,但如果客戶端修改配置,則會涉及到業務發布,很容易出現問題,

RocketMQ 5.0 采用 telemetry 遙測協議與服務端進行協同,遙測協議的作用為使云和端之間通過 telemetry 進行互動,包括但不限于限流策略、重試策略、發布和訂閱關系管控、可觀測開關、接入點資訊、堆疊資訊等,主要實作方式為直接由 SDK 向服務端發起 telemetry 請求,然后往 observer 讀寫上圖所示的指令即可,

指令型別包括設定、列印堆疊、驗證訊息、消費以及事務訊息回查,其中比較關鍵的能力為可觀測開關以及 OTLP 接入點資訊,

以往的可觀測是基于訊息軌跡實作,在發送訊息和消費訊息時,將背景關系中的引數添加進軌跡訊息,在后臺攢批異步發送,上圖為發送訊息的所有 context,包括MessageQueue、MessageID 、IP 等資訊,

上圖為消費時的 context ,對于單個 MessageID ,端對端會產生三條軌跡訊息,分別為發送后、消費前和消費后,如果想要跟蹤訊息輪轉軌跡,可以通過查詢軌跡的訊息資料找到它,因其將 MessageID 作為 key 值插入到 topic ,而此前需要在控制臺根據 MessageID 查詢軌跡訊息,

RocketMQ 此前已經具備可觀測能力,但自定義可觀測方式無法很好地對接現有的可觀測產品和能力,而5.0版本擁有了標準化的可觀測協議,可以使用更豐富、更專業的分析和展示工具,讓可觀測資料有了更高的價值,

Telemetry 遙測協議是將可觀測開關以及接入點下發到客戶端,Proxy 會默認將接入點資訊設定為自己,可以將客戶端上報的所有可觀測訊息在服務端做收斂,再統一使用標準的 OpenTelemetry 和 Opencensu 兩個協議上報到 SLS , SLS 再通過 TLog 的方式與 Prometheus、Grafana 進行對接,

Tracing 的資料鏈路比較復雜,也需要先經過 proxy 將可觀測資料導到 proxy 上,而Tracing 的資料量較大,此前也曾考慮過直接通過用戶自定義配置匯出接入點,不經過 proxy ,但這會引發其他問題,比如4.x用戶希望接入 RocketMQ 5.0 服務端使用可觀測能力,則需要通過軌跡訊息解碼進行決議再通過標準化可觀測協議輸出,

多語言方面,最新出的 OpenTelemetry 支持不一定足夠全面,因此也會需要一些舊的可觀測協議比如 Opencensu,但整體來說,它們都是標準的協議,

 

03 統一模型

 

此前的 RocketMQ API 缺乏精心設計的訊息模型,很多概念沒有明確的定義,比如發送訊息時有兩個 ID ,分別是用戶自己定義的 MessageID 和服務端下發的 offsetID ,但是在消費時,下發的 offsetID 又變成了 MessageID ,模棱兩可的定義使得預測客戶行為變得更加困難,并且,此前大多以執行為導向,對開發者并不友好,許多功能是基于實作而不是介面,因此用戶需要觸及到很多細節,需要面對過多冗余和復雜界面,出錯概率極大,

另外,發展多語言生態時,也需要統一模型引導多語言的發展實作,

主題型別是其中一個明顯的改變,

此前,客戶端不做 topic 型別校驗,任何一種型別訊息都可以發往 topic ,但是在RocketMQ 5.0 之后會對 topic 型別做校驗,真正從 topic 主題型別上做了區分,比如順序訊息 topic 只能發順序訊息,此前的 delay 訊息為分級別延時訊息,而現在為支持毫秒級精度的定時訊息,可以支持任意時間精度,

同時,模型定義了各種各樣的消費者,有不同的消費者實作,比如 PushConsumer 、PullConsumer 以及 SimpleConsumer ,底層均使用 pop 協議實作,比如以前的PushConsumer 是基于手動拉的方式,而現在采用了 pop 方式,

SimpleConsumer 的使用方法非常簡單,直接呼叫 receive message 介面,獲取到訊息之后進行消費,消費成功則進行 Ack;如果消費失敗,則更改可見時間,整體流程非常直觀,完全基于介面定義,

新版本的啟動流程增加了準備作業,為了能夠更早地捕捉到明顯的錯誤以及例外,比如嘗試從服務端獲取設定,可以對此類設定進行熱更新,稱為服務器和客戶遙測,任何準備失敗都會導致客戶端啟動失敗,而以往可以強行將客戶端拉起,然后不斷進行重試,

增加了準備作業后,配置問題或本身網路問題可以提前被發現,比如 topic 路由資訊不存在,啟動時會先對 bonding topic 做檢查,每一個發送者、生產者可以提前設定預留 topic 資訊,再根據錯誤資訊進行檢查,判斷是否可以啟動,

轉載請註明出處,本文鏈接:https://www.uj5u.com/houduan/541177.html

標籤:其他

上一篇:IO、NIO、BIO傻傻分不清嗎,讓我物件告訴你~~

下一篇:Python從0到1丨細說影像增強及運算

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【C++】Microsoft C++、C 和匯編程式檔案

    ......

    uj5u.com 2020-09-10 00:57:23 more
  • 例外宣告

    相比于斷言適用于排除邏輯上不可能存在的狀態,例外通常是用于邏輯上可能發生的錯誤。 例外宣告 Item 1:當函式不可能拋出例外或不能接受拋出例外時,使用noexcept 理由 如果不打算拋出例外的話,程式就會認為無法處理這種錯誤,并且應當盡早終止,如此可以有效地阻止例外的傳播與擴散。 示例 //不可 ......

    uj5u.com 2020-09-10 00:57:27 more
  • Codeforces 1400E Clear the Multiset(貪心 + 分治)

    鏈接:https://codeforces.com/problemset/problem/1400/E 來源:Codeforces 思路:給你一個陣列,現在你可以進行兩種操作,操作1:將一段沒有 0 的區間進行減一的操作,操作2:將 i 位置上的元素歸零。最終問:將這個陣列的全部元素歸零后操作的最少 ......

    uj5u.com 2020-09-10 00:57:30 more
  • UVA11610 【Reverse Prime】

    本人看到此題沒有翻譯,就附帶了一個自己的翻譯版本 思考 這一題,它的第一個要求是找出所有 $7$ 位反向質數及其質因數的個數。 我們應該需要質數篩篩選1~$10^{7}$的所有數,這里就不慢慢介紹了。但是,重讀題,我們突然發現反向質數都是 $7$ 位,而將它反過來后的數字卻是 $6$ 位數,這就說明 ......

    uj5u.com 2020-09-10 00:57:36 more
  • 統計區間素數數量

    1 #pragma GCC optimize(2) 2 #include <bits/stdc++.h> 3 using namespace std; 4 bool isprime[1000000010]; 5 vector<int> prime; 6 inline int getlist(int ......

    uj5u.com 2020-09-10 00:57:47 more
  • C/C++編程筆記:C++中的 const 變數詳解,教你正確認識const用法

    1、C中的const 1、區域const變數存放在堆疊區中,會分配記憶體(也就是說可以通過地址間接修改變數的值)。測驗代碼如下: 運行結果: 2、全域const變數存放在只讀資料段(不能通過地址修改,會發生寫入錯誤), 默認為外部聯編,可以給其他源檔案使用(需要用extern關鍵字修飾) 運行結果: ......

    uj5u.com 2020-09-10 00:58:04 more
  • 【C++犯錯記錄】VS2019 MFC添加資源不懂如何修改資源宏ID

    1. 首先在資源視圖中,添加資源 2. 點擊新添加的資源,復制自動生成的ID 3. 在解決方案資源管理器中找到Resource.h檔案,編輯,使用整個專案搜索和替換的方式快速替換 宏宣告 4. Ctrl+Shift+F 全域搜索,點擊查找全部,然后逐個替換 5. 為什么使用搜索替換而不使用屬性視窗直 ......

    uj5u.com 2020-09-10 00:59:11 more
  • 【C++犯錯記錄】VS2019 MFC不懂的批量添加資源

    1. 打開資源頭檔案Resource.h,在其中預先定義好宏 ID(不清楚其實ID值應該設定多少,可以先新建一個相同的資源項,再在這個資源的ID值的基礎上遞增即可) 2. 在資源視圖中選中專案資源,按F7編輯資源檔案,按 ID 型別 相對路徑的形式添加 資源。(別忘了先把檔案拷貝到專案中的res檔案 ......

    uj5u.com 2020-09-10 01:00:19 more
  • C/C++編程筆記:關于C++的參考型別,專供新手入門使用

    今天要講的是C++中我最喜歡的一個用法——參考,也叫別名。 參考就是給一個變數名取一個變數名,方便我們間接地使用這個變數。我們可以給一個變數創建N個參考,這N + 1個變數共享了同一塊記憶體區域。(參考型別的變數會占用記憶體空間,占用的記憶體空間的大小和指標型別的大小是相同的。雖然參考是一個物件的別名,但 ......

    uj5u.com 2020-09-10 01:00:22 more
  • 【C/C++編程筆記】從頭開始學習C ++:初學者完整指南

    眾所周知,C ++的學習曲線陡峭,但是花時間學習這種語言將為您的職業帶來奇跡,并使您與其他開發人員區分開。您會更輕松地學習新語言,形成真正的解決問題的技能,并在編程的基礎上打下堅實的基礎。 C ++將幫助您養成良好的編程習慣(即清晰一致的編碼風格,在撰寫代碼時注釋代碼,并限制類內部的可見性),并且由 ......

    uj5u.com 2020-09-10 01:00:41 more
最新发布
  • Rust中的智能指標:Box<T> Rc<T> Arc<T> Cell<T> RefCell<T> Weak

    Rust中的智能指標是什么 智能指標(smart pointers)是一類資料結構,是擁有資料所有權和額外功能的指標。是指標的進一步發展 指標(pointer)是一個包含記憶體地址的變數的通用概念。這個地址參考,或 ” 指向”(points at)一些其 他資料 。參考以 & 符號為標志并借用了他們所 ......

    uj5u.com 2023-04-20 07:24:10 more
  • Java的值傳遞和參考傳遞

    值傳遞不會改變本身,參考傳遞(如果傳遞的值需要實體化到堆里)如果發生修改了會改變本身。 1.基本資料型別都是值傳遞 package com.example.basic; public class Test { public static void main(String[] args) { int ......

    uj5u.com 2023-04-20 07:24:04 more
  • [2]SpinalHDL教程——Scala簡單入門

    第一個 Scala 程式 shell里面輸入 $ scala scala> 1 + 1 res0: Int = 2 scala> println("Hello World!") Hello World! 檔案形式 object HelloWorld { /* 這是我的第一個 Scala 程式 * 以 ......

    uj5u.com 2023-04-20 07:23:58 more
  • 理解函式指標和回呼函式

    理解 函式指標 指向函式的指標。比如: 理解函式指標的偽代碼 void (*p)(int type, char *data); // 定義一個函式指標p void func(int type, char *data); // 宣告一個函式func p = func; // 將指標p指向函式func ......

    uj5u.com 2023-04-20 07:23:52 more
  • Django筆記二十五之資料庫函式之日期函式

    本文首發于公眾號:Hunter后端 原文鏈接:Django筆記二十五之資料庫函式之日期函式 日期函式主要介紹兩個大類,Extract() 和 Trunc() Extract() 函式作用是提取日期,比如我們可以提取一個日期欄位的年份,月份,日等資料 Trunc() 的作用則是截取,比如 2022-0 ......

    uj5u.com 2023-04-20 07:23:45 more
  • 一天吃透JVM面試八股文

    什么是JVM? JVM,全稱Java Virtual Machine(Java虛擬機),是通過在實際的計算機上仿真模擬各種計算機功能來實作的。由一套位元組碼指令集、一組暫存器、一個堆疊、一個垃圾回收堆和一個存盤方法域等組成。JVM屏蔽了與作業系統平臺相關的資訊,使得Java程式只需要生成在Java虛擬機 ......

    uj5u.com 2023-04-20 07:23:31 more
  • 使用Java接入小程式訂閱訊息!

    更新完微信服務號的模板訊息之后,我又趕緊把微信小程式的訂閱訊息給實作了!之前我一直以為微信小程式也是要企業才能申請,沒想到小程式個人就能申請。 訊息推送平臺🔥推送下發【郵件】【短信】【微信服務號】【微信小程式】【企業微信】【釘釘】等訊息型別。 https://gitee.com/zhongfuch ......

    uj5u.com 2023-04-20 07:22:59 more
  • java -- 緩沖流、轉換流、序列化流

    緩沖流 緩沖流, 也叫高效流, 按照資料型別分類: 位元組緩沖流:BufferedInputStream,BufferedOutputStream 字符緩沖流:BufferedReader,BufferedWriter 緩沖流的基本原理,是在創建流物件時,會創建一個內置的默認大小的緩沖區陣列,通過緩沖 ......

    uj5u.com 2023-04-20 07:22:49 more
  • Java-SpringBoot-Range請求頭設定實作視頻分段傳輸

    老實說,人太懶了,現在基本都不喜歡寫筆記了,但是網上有關Range請求頭的文章都太水了 下面是抄的一段StackOverflow的代碼...自己大修改過的,寫的注釋挺全的,應該直接看得懂,就不解釋了 寫的不好...只是希望能給視頻網站開發的新手一點點幫助吧. 業務場景:視頻分段傳輸、視頻多段傳輸(理 ......

    uj5u.com 2023-04-20 07:22:42 more
  • Windows 10開發教程_編程入門自學教程_菜鳥教程-免費教程分享

    教程簡介 Windows 10開發入門教程 - 從簡單的步驟了解Windows 10開發,從基本到高級概念,包括簡介,UWP,第一個應用程式,商店,XAML控制元件,資料系結,XAML性能,自適應設計,自適應UI,自適應代碼,檔案管理,SQLite資料庫,應用程式到應用程式通信,應用程式本地化,應用程式 ......

    uj5u.com 2023-04-20 07:22:35 more