主頁 > 後端開發 > 【RocketMQ】NameServer總結

【RocketMQ】NameServer總結

2023-05-26 08:23:14 後端開發

NameServer是一個注冊中心,提供服務注冊和服務發現的功能,NameServer可以集群部署,集群中每個節點都是對等的關系(沒有像ZooKeeper那樣在集群中選舉出一個Master節點),節點之間互不通信,
服務注冊
Broker啟動的時候會向所有的NameServer節點進行注冊,注意這里是向集群中所有的NameServer節點注冊,而不是只向其中的某些節點注冊,因為NameServer每個節點都是對等的,所以Broker需要向每一個節點進行注冊,這樣每一個節點都會有一份Broker的注冊資訊,

服務發現
Broker向NameServer注冊以后,生產者Producer和消費者Consumer就可以從NameServer中獲取所有注冊的Broker資訊,并從中選取Broker進行訊息的發送和消費,

以生產者為例,在NameServer集群部署模式下,生產者會從多個NameServer中隨機選取一個進行通信,從中拉取所有Broker的注冊資訊,并將拉取到的資訊進行快取,生產者知道了Broker的資訊后,就可以得知Topic的分布情況,然后選取一個訊息佇列,與其所在的Broker通信進行訊息的發送,如果通信的Nameservre宕機,消費者會輪詢選擇下一個NameServer,

為什么需要NameServer?

在使用RocketMQ的時候,為了提升性能以及應對高并發的情況,一般都會使用多個Broker進行集群部署,假設沒有注冊中心,對于Broker來說,如果想獲取到集群中所有的Broker資訊(生產者和消費者需要通過某個Broker獲取整個集群的資訊,從而得到Topic的分布情況),每個Broker都需要與其他Broker通信來交換資訊,以此來得到集群內所有Broker的資訊,在Broker數量比較大的情況下,會造成非常大的通信壓力,

為什么不使用zookeeper這樣的分布式協調組件?
首先zookeeper的實作復雜,引入zookeeper會增加系統的復雜度,并且zookeeper在CAP中選擇了CP,也就是一致性和磁區容錯性,從而犧牲了可用性,為了保持資料的一致性會在一段時間內會不可用,

而NameServer在實作上簡單,RocketMQ的設計者也許認為對于一個訊息佇列的注冊中心來說,一致性與可用性相比,可用性更重要一些,至于一致性可以通過其他方式來解決,

假如選擇了CP的ZooKeeper,先不考慮其他原因,在ZooKeeper不可用的時候,如果有消費者或生產者剛好需要從NameServer拉取資訊,由于服務不可用,導致生產者和消費者無法進行訊息的生產和發送,在高并發或者資料量比較大的情況下,大量的訊息無法發送/無法消費影響是極大的,而如果選擇AP,即便資料暫時處于不一致的狀態,在心跳機制的作用下也可以保證資料的最終一致性,所以RocketMQ選擇了自己實作注冊中心,簡單并且輕量

舉個例子,假如集群中有三個Broker(分別為 A、B、C),向三臺NameServer進行了注冊(也分別為A、B、C),消費者從NameServer中獲取到了三個Broker的資訊,如果此時BrokerA需要停止服務,分別通知三臺NameServer需要下線,從NameServer中剔除該Broker的資訊,由于網路或者其他原因,NameServer A和B收到了下線的請求,NameServer C并未收到,此時就處于資料不一致的狀態,如果某個消費者是與NameServer C進行通信,會認為Broker還處于可用的狀態:

對于這種情況,首先NameServer與Broker之間會有一個心跳機制,NameServer定時檢測在某個時間范圍內是否收到了Broker發送的心跳請求,如果未收到,會認為該Broker不可用,將其剔除(在下面會講到),所以對于NameServer來說,盡管資料會暫時處于不一致的狀態,但是可以保證過一段時間之后恢復資料的一致性,也就是最終一致性,

對于消費者來說,既然可以從NameServer C中獲取到Broker A的資訊,那么消費者就認為Broker A可用,如果發送的訊息所在的訊息佇列在Broker A中,就會與Broker A通信進行發送,但實際上Broker A實際上是不可用的,訊息會發送失敗,所以RocketMQ設計了訊息重試機制以及故障延遲機制,

Broker注冊

Broker啟動后會開啟定時向NameServer進行注冊(發送心跳包)的任務,發送心跳包的時間間隔可以在組態檔中進行設定,但是最長不能超過10s,也就是說Broker最長10秒鐘會向Nameserver發送一次心跳包,

NameServer收到Broker的注冊請求(心跳包)后,會判斷Broker之前是否已經注冊過,如果未注冊過將其加入到注冊的Broker集合brokerAddrTable中,同時也會記錄收到注冊請求的時間,將其加入到brokerLiveTable中,里面記錄了NameServer收到每個Broker發送心跳包的時間,在進行心跳檢測的時候根據這個時間戳來判斷是否在規定時間內未收到該Broker發送的心跳包,

讀寫鎖
由于NameServer可能同時收到多個Broker的注冊以及生產者或者消費者的拉取請求,為了保證資料的一致性(因為有讀寫請求同時發生或者寫與寫請求同時發生),在處理相關請求的時候需要加鎖,為了提高性能,使用了ReadWriteLock讀寫鎖,處理注冊請求時會先添加寫鎖,處理拉取請求時添加讀鎖,這樣如果某一時刻都是讀的請求可以同時進行,互不影響,如果有寫請求,其他請求就需要等鎖釋放才可以進行往下進行,如果不使用讀寫鎖,直接對所有的請求加鎖,會影響性能,實際上讀與讀之間并不需要加鎖,

心跳檢測

Nameserver在啟動的時候會開啟一個用于心跳檢測的定時任務(每10s執行一次),定時掃描處于不活躍狀態的Broker,如果在規定時間內未收到某個Broker的心跳包,會認為此Broker不可用,需要將其進行剔除,

上面說到brokerLiveTable保存了當前NameServer收到的心跳資料,里面記錄了每一個Broker最近進行注冊/發送心跳的時間戳,所以只需遍歷brokerLiveTable,獲取每一個Broker最近一次發送心跳的時間進行判斷,如果上一次發送心跳的時間 + 過期時間(120s) 小于 當前時間,也就是超過120s沒有收到某個Broker的心跳包,則認為此Broker已下線,將Broker移除

Broker下線

正常下線
當Broker下線的時候會向NameServer發起取消注冊的請求,NameServer收到請求后會將Broker剔除,

例外下線

如果Broker例外宕機,或者發送給NameServer的取消注冊請求由于某些原因并未發送成功,NameServer可能并未感知到Broker的下線,由于心跳機制定時檢測的功能,會在一段時間后發現未收到Broker的心跳請求,主動將Broker剔除,

生產者和消費者

生產者和消費者都會定時從NameServer中更新Broker的注冊資訊,默認是30s進行一次更新:

public class MQClientInstance {
    private void startScheduledTask() {
         this.scheduledExecutorService.scheduleAtFixedRate(new Runnable() {

            @Override
            public void run() {
                try {
                   // 更新路由資訊 MQClientInstance.this.updateTopicRouteInfoFromNameServer();
                } catch (Exception e) {
                    log.error("ScheduledTask updateTopicRouteInfoFromNameServer exception", e);
                }
            }
        }, 10, this.clientConfig.getPollNameServerInterval(), TimeUnit.MILLISECONDS);
    }
}

對應的相關原始碼可參考:

【RocketMQ】【原始碼】NameServer的啟動
【RocketMQ】【原始碼】Broker服務注冊

轉載請註明出處,本文鏈接:https://www.uj5u.com/houduan/553418.html

標籤:其他

上一篇:JVM系統引數

下一篇:返回列表

標籤雲
其他(159706) Python(38169) JavaScript(25452) Java(18129) C(15231) 區塊鏈(8268) C#(7972) AI(7469) 爪哇(7425) MySQL(7211) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5873) 数组(5741) R(5409) Linux(5341) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4576) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2434) ASP.NET(2403) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) .NET技术(1976) 功能(1967) Web開發(1951) HtmlCss(1944) C++(1922) python-3.x(1918) 弹簧靴(1913) xml(1889) PostgreSQL(1878) .NETCore(1861) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【C++】Microsoft C++、C 和匯編程式檔案

    ......

    uj5u.com 2020-09-10 00:57:23 more
  • 例外宣告

    相比于斷言適用于排除邏輯上不可能存在的狀態,例外通常是用于邏輯上可能發生的錯誤。 例外宣告 Item 1:當函式不可能拋出例外或不能接受拋出例外時,使用noexcept 理由 如果不打算拋出例外的話,程式就會認為無法處理這種錯誤,并且應當盡早終止,如此可以有效地阻止例外的傳播與擴散。 示例 //不可 ......

    uj5u.com 2020-09-10 00:57:27 more
  • Codeforces 1400E Clear the Multiset(貪心 + 分治)

    鏈接:https://codeforces.com/problemset/problem/1400/E 來源:Codeforces 思路:給你一個陣列,現在你可以進行兩種操作,操作1:將一段沒有 0 的區間進行減一的操作,操作2:將 i 位置上的元素歸零。最終問:將這個陣列的全部元素歸零后操作的最少 ......

    uj5u.com 2020-09-10 00:57:30 more
  • UVA11610 【Reverse Prime】

    本人看到此題沒有翻譯,就附帶了一個自己的翻譯版本 思考 這一題,它的第一個要求是找出所有 $7$ 位反向質數及其質因數的個數。 我們應該需要質數篩篩選1~$10^{7}$的所有數,這里就不慢慢介紹了。但是,重讀題,我們突然發現反向質數都是 $7$ 位,而將它反過來后的數字卻是 $6$ 位數,這就說明 ......

    uj5u.com 2020-09-10 00:57:36 more
  • 統計區間素數數量

    1 #pragma GCC optimize(2) 2 #include <bits/stdc++.h> 3 using namespace std; 4 bool isprime[1000000010]; 5 vector<int> prime; 6 inline int getlist(int ......

    uj5u.com 2020-09-10 00:57:47 more
  • C/C++編程筆記:C++中的 const 變數詳解,教你正確認識const用法

    1、C中的const 1、區域const變數存放在堆疊區中,會分配記憶體(也就是說可以通過地址間接修改變數的值)。測驗代碼如下: 運行結果: 2、全域const變數存放在只讀資料段(不能通過地址修改,會發生寫入錯誤), 默認為外部聯編,可以給其他源檔案使用(需要用extern關鍵字修飾) 運行結果: ......

    uj5u.com 2020-09-10 00:58:04 more
  • 【C++犯錯記錄】VS2019 MFC添加資源不懂如何修改資源宏ID

    1. 首先在資源視圖中,添加資源 2. 點擊新添加的資源,復制自動生成的ID 3. 在解決方案資源管理器中找到Resource.h檔案,編輯,使用整個專案搜索和替換的方式快速替換 宏宣告 4. Ctrl+Shift+F 全域搜索,點擊查找全部,然后逐個替換 5. 為什么使用搜索替換而不使用屬性視窗直 ......

    uj5u.com 2020-09-10 00:59:11 more
  • 【C++犯錯記錄】VS2019 MFC不懂的批量添加資源

    1. 打開資源頭檔案Resource.h,在其中預先定義好宏 ID(不清楚其實ID值應該設定多少,可以先新建一個相同的資源項,再在這個資源的ID值的基礎上遞增即可) 2. 在資源視圖中選中專案資源,按F7編輯資源檔案,按 ID 型別 相對路徑的形式添加 資源。(別忘了先把檔案拷貝到專案中的res檔案 ......

    uj5u.com 2020-09-10 01:00:19 more
  • C/C++編程筆記:關于C++的參考型別,專供新手入門使用

    今天要講的是C++中我最喜歡的一個用法——參考,也叫別名。 參考就是給一個變數名取一個變數名,方便我們間接地使用這個變數。我們可以給一個變數創建N個參考,這N + 1個變數共享了同一塊記憶體區域。(參考型別的變數會占用記憶體空間,占用的記憶體空間的大小和指標型別的大小是相同的。雖然參考是一個物件的別名,但 ......

    uj5u.com 2020-09-10 01:00:22 more
  • 【C/C++編程筆記】從頭開始學習C ++:初學者完整指南

    眾所周知,C ++的學習曲線陡峭,但是花時間學習這種語言將為您的職業帶來奇跡,并使您與其他開發人員區分開。您會更輕松地學習新語言,形成真正的解決問題的技能,并在編程的基礎上打下堅實的基礎。 C ++將幫助您養成良好的編程習慣(即清晰一致的編碼風格,在撰寫代碼時注釋代碼,并限制類內部的可見性),并且由 ......

    uj5u.com 2020-09-10 01:00:41 more
最新发布
  • 【RocketMQ】NameServer總結

    NameServer是一個注冊中心,提供服務注冊和服務發現的功能。NameServer可以集群部署,集群中每個節點都是對等的關系(沒有像ZooKeeper那樣在集群中選舉出一個Master節點),節點之間互不通信。 **服務注冊** Broker啟動的時候會向所有的NameServer節點進行注冊, ......

    uj5u.com 2023-05-26 08:23:14 more
  • JVM系統引數

    JVM(Java虛擬機)是Java程式的運行環境,它可以通過一些系統引數進行配置和優化。以下是一些常用的JVM系統引數: 1. -Xmx: 用于設定JVM堆的最大記憶體大小。例如,-Xmx1g表示將堆的最大大小設定為1GB。 2. -Xms: 用于設定JVM堆的初始記憶體大小。例如,-Xms512m表示 ......

    uj5u.com 2023-05-26 08:23:06 more
  • 跟著hsp學springmvc--數字格式化介紹

    基本資料型別和字串型別的自動轉換<%@ taglib prefix="form" uri="http://www.springframework.org/tags/form" %> <%@ page contentType="text/html;charset=UTF-8" language="j ......

    uj5u.com 2023-05-26 08:22:54 more
  • Python豎版大屏2 | 用pyecharts開發可視化的奇妙探索!

    [toc] 你好!我是[@馬哥python說](https://www.zhihu.com/people/13273183132),一名10年程式猿,正在試錯用pyecharts開發可視化大屏的非常規排版。 以下,我用8種ThemeType展示的同一個可視化資料大屏,可視化主題是分析**“淄博燒烤” ......

    uj5u.com 2023-05-26 08:22:28 more
  • 專案終于用上了 Spring 狀態機,非常優雅!

    來源:https://www.duidaima.com/Group/Topic/JAVA/11942 ## **1、什么是狀態機** ### 1.1 什么是狀態 先來解釋什么是“狀態”( State )。現實事物是有不同狀態的,例如一個自動門,就有 open 和 closed 兩種狀態。我們通常所說 ......

    uj5u.com 2023-05-26 08:22:11 more
  • Kotlin難點

    [toc] # 高階函式 高階函式是將函式用作引數或回傳值的函式,還可以把函式賦值給一個變數。 所有函式型別都有一個圓括號括起來的引數型別串列以及一個回傳型別:(A, B) -> C 表示接受型別分別為 A 與 B 兩個引數并回傳一個 C 型別值的函式型別。 引數型別串列可以為空,如 () -> A ......

    uj5u.com 2023-05-26 08:16:54 more
  • 詳細解讀Java中Map集合的底層原理(干貨+原始碼解讀)

    本文將為大家詳細講解Java中的Map集合,這是我們進行開發時經常用到的知識點,也是大家在學習Java中很重要的一個知識點,更是我們在面試時有可能會問到的問題。文章較長,干貨滿滿,建議大家收藏慢慢學習。文末有本文重點總結,主頁有全系列文章分享。技術類問題,歡迎大家和我們一起交流討論! ......

    uj5u.com 2023-05-26 08:11:48 more
  • Python集合 (set) 的增刪改查及 copy()方法

    集合是無序的,不重復的資料集合,它里面的元素是可哈希的(不可變型別),但是集合本身是不可哈希(所以集合做不了字典的鍵)的。 以下是集合最重要的兩點: 1、去重,把一個串列變成集合,就自動去重了。 2、關系測驗,測驗兩組資料之前的交集、差集、并集等關系。 ### 一、集合的創建 ```python s ......

    uj5u.com 2023-05-26 08:11:43 more
  • 【編程日記】搭建PyCharm集成開發環境

    # 0.相關確定 本教程使用的版本號為專業版PyCharm 2022.3.2,如果您是初學者,為了更好的學習本教程,避免不必要的麻煩,請您下載使用與本教程一致的版本號。 # 1.PyCharm的下載 官網下載:https://www.jetbrains.com/pycharm/download/ot ......

    uj5u.com 2023-05-26 08:06:24 more
  • 如何證明Servlet是單例的?

    Servlet是web體系里面最重要的部分,下面羅列幾道常見的面試題,小伙伴們一定要好好記住哈。 1.Servlet是單例的嗎,如何證明? Servlet一般都是單例的,并且是多執行緒的。如何證明Servlet是單例模式呢?很簡單,重寫Servlet的init方法,或者添加一個構造方法。然后,在web ......

    uj5u.com 2023-05-26 08:01:14 more