主頁 > 後端開發 > 非常強悍的 RabbitMQ 總結,寫得真好!

非常強悍的 RabbitMQ 總結,寫得真好!

2021-01-13 06:40:49 後端開發

前言

RabbitMQ是基于AMQP協議的,通過使用通用協議就可以做到在不同語言之間傳遞,

AMQP協議

核心概念

  1. server:又稱broker,接受客戶端連接,實作AMQP物體服務,

  2. connection:連接和具體broker網路連接,整理了一份Java面試寶典完整版PDF已整理成檔案

  3. channel:網路信道,幾乎所有操作都在channel中進行,channel是訊息讀寫的通道,客戶端可以建立多個channel,每個channel表示一個會話任務,

  4. message:訊息,服務器和應用程式之間傳遞的資料,由properties和body組成,properties可以對訊息進行修飾,比如訊息的優先級,延遲等高級特性;body是訊息物體內容,

  5. Virtual host:虛擬主機,用于邏輯隔離,最上層訊息的路由,一個Virtual host可以若干個Exchange和Queue,同一個Virtual host不能有同名的Exchange或Queue,

  6. Exchange:交換機,接受訊息,根據路由鍵轉發訊息到系結的佇列上,

  7. banding:Exchange和Queue之間的虛擬連接,binding中可以包括routing key

  8. routing key:一個路由規則,虛擬機根據他來確定如何路由 一條訊息,

  9. Queue:訊息佇列,用來存放訊息的佇列,

Exchange

交換機的型別,direct、topic、fanout、headers,durability(是否需要持久化true需要)auto delete當最后一個系結Exchange上的佇列被洗掉Exchange也洗掉,

  1. Direct Exchange,所有發送到Direct Exchange的訊息被轉發到RouteKey 中指定的Queue,Direct Exchange可以使用默認的默認的Exchange (default Exchange),默認的Exchange會系結所有的佇列,所以Direct可以直接使用Queue名(作為routing key )系結,或者消費者和生產者的routing key完全匹配,

  2. Toptic Exchange,是指發送到Topic Exchange的訊息被轉發到所有關心的Routing key中指定topic的Queue上,Exchange 將routing key和某Topic進行模糊匹配,此時佇列需要系結一個topic,所謂模糊匹配就是可以使用通配符,“#”可以匹配一個或多個詞,“”只匹配一個詞比如“log.#”可以匹配“log.info.test” "log. "就只能匹配log.error,

  3. Fanout Exchange:不處理路由鍵,只需簡單的將佇列系結到交換機上,發送到改交換機上的訊息都會被發送到與該交換機系結的佇列上,Fanout轉發是最快的,

訊息如何保證100%投遞

什么是生產端的可靠性投遞?

  1. 保證訊息的成功發出

  2. 保證MQ節點節點的成功接收

  3. 發送端MQ節點(broker)收到訊息確認應答

  4. 完善訊息進行補償機制

可靠性投遞保障方案

訊息落庫,對訊息進行打標

訊息的延遲投遞整理了一份Java面試寶典完整版PDF已整理成檔案

在高并發場景下,每次進行db的操作都是每場消耗性能的,我們使用延遲佇列來減少一次資料庫的操作,

訊息冪等性

我對一個動作進行操作,我們肯能要執行100次1000次,對于這1000次執行的結果都必須一樣的,比如單執行緒方式下執行update count-1的操作執行一千次結果都是一樣的,所以這個更新操作就是一個冪等的,如果是在并發不做執行緒安全的處理的情況下update一千次操作結果可能就不是一樣的,所以并發情況下的update操作就不是一個冪等的操作,對應到訊息佇列上來,就是我們即使受到了多條一樣的訊息,也和消費一條訊息效果是一樣的,

高并發的情況下如何避免訊息重復消費

  1. 唯一id+加指紋碼,利用資料庫主鍵去重, 優點:實作簡單 缺點:高并發下有資料寫入瓶頸,

  2. 利用Redis的原子性來實習, 使用Redis進行冪等是需要考慮的問題

  • 是否進行資料庫落庫,落庫后資料和快取如何做到保證冪等(Redis 和資料庫如何同時成功同時失敗)?

  • 如果不進行落庫,都放在Redis中如何這是Redis和資料庫的同步策略?還有放在快取中就能百分之百的成功嗎?

confirm 確認訊息、Return回傳訊息

理解confirm訊息確認機制

  • 訊息的確認,指生產者收到投遞訊息后,如果Broker收到訊息就會給我們 的生產者一個應答,生產者接受應答來確認broker是否收到訊息,

如何實作confirm確認訊息,

  • 在Channel上開啟確認模式:channel.confirmSelect()

  • 在channel上添加監聽:addConfirmListener,監聽成功和失敗的結果,具體結果對訊息進行重新發送或者記錄日志,

return訊息機制

Return訊息機制處理一些不可路由的訊息,我們的生產者通過指定一個Exchange和Routinkey,把訊息送達到某一個佇列中去,然后我們消費者監聽佇列進行消費處理!

在某些情況下,如果我們在發送訊息的時候當Exchange不存在或者指定的路由key路由找不到,這個時候如果我們需要監聽這種不可到達的訊息,就要使用Return Listener!

Mandatory 設定為true則會監聽器會接受到路由不可達的訊息,然后處理,如果設定為false,broker將會自動洗掉該訊息,

消費端自定義監聽

消費端限流

假設我們有個場景,首先,我們有個rabbitMQ服務器上有上萬條訊息未消費,然后我們隨便打開一個消費者客戶端,會出現:巨量的訊息瞬間推送過來,但是我們的消費端無法同時處理這么多資料,

這時就會導致你的服務崩潰,其他情況也會出現問題,比如你的生產者與消費者能力不匹配,在高并發的情況下生產端產生大量訊息,消費端無法消費那么多訊息,

  • rabbitMQ提供了一種qos(服務質量保證)的功能,即非自動確認訊息的前提下,如果有一定數目的訊息(通過consumer或者Channel設定qos)未被確認,不進行新的消費,

void basicQOS(unit prefetchSize,ushort prefetchCount,Boolean global)方法,

  • prefetchSize:0 單條訊息的大小限制,0就是不限制,一般都是不限制,

  • prefetchCount: 設定一個固定的值,告訴rabbitMQ不要同時給一個消費者推送多余N個訊息,即一旦有N個訊息還沒有ack,則consumer將block掉,直到有訊息ack

  • global:truefalse 是否將上面的設定用于channel,也是就是說上面設定的限制是用于channel級別的還是consumer的級別的,

消費端ack與重回佇列

  • 消費端進行消費的時候,如果由于業務例外我們可以進行日志的記錄,然后進行補償!(也可以加上最大努力次數的嘗試)

  • 如果由于服務器宕機等嚴重問題,那我們就需要手動進行ack保證消費端的消費成功!

訊息重回佇列

  • 重回佇列就是為了對沒有處理成功的訊息,把訊息重新投遞給broker!

  • 實際應用中一般都不開啟重回佇列,

TTL佇列/訊息

TTL time to live 生存時間,

  • 支持訊息的過期時間,在訊息發送時可以指定,

  • 支持佇列過期時間,在訊息入佇列開始計算時間,只要超過了佇列的超時時間配置,那么訊息就會自動的清除,

死信佇列

死信佇列:DLX,Dead-Letter-Exchange

利用DLX,當訊息在一個佇列中變成死信(dead message,就是沒有任何消費者消費)之后,他能被重新publish到另一個Exchange,這個Exchange就是DLX,

訊息變為死信的幾種情況:

  1. 訊息被拒絕(basic.reject/basic.nack)同時requeue=false(不重回佇列)

  2. TTL過期

  3. 佇列達到最大長度

DLX也是一個正常的Exchange,和一般的Exchange沒有任何的區別,他能在任何的佇列上被指定,實際上就是設定某個佇列的屬性, 當這個佇列出現死信的時候,RabbitMQ就會自動將這條訊息重新發布到Exchange上去,進而被路由到另一個佇列,可以監聽這個佇列中的訊息作相應的處理,這個特性可以彌補rabbitMQ以前支持的immediate引數的功能,

死信佇列的設定

  • 設定Exchange和Queue,然后進行系結

Exchange: dlx.exchange(自定義的名字)

queue: dlx.queue(自定義的名字)

routingkey: #(#表示任何routingkey出現死信都會被路由過來)

然后正常的宣告交換機、佇列、系結,只是我們在佇列上加上一個引數:

arguments.put("x-dead-letter-exchange","dlx.exchange");

rabbitMQ集群模式

  1. 主備模式:實作rabbitMQ高可用集群,一般在并發量和資料不大的情況下,這種模式好用簡單,又稱warren模式,(區別于主從模式,主從模式主節點提供寫操作,從節點提供讀操作,主備模式從節點不提供任何讀寫操作,只做備份)如果主節點宕機備份從節點會自動切換成主節點,提供服務,

  2. 集群模式:經典方式就是Mirror模式,保證100%資料不丟失,實作起來也是比較簡單,

  • 鏡像佇列,是rabbitMQ資料高可用的解決方案,主要是實作資料同步,一般來說是由2-3節點實作資料同步,(對于100%訊息可靠性解決方案一般是3個節點)整理了一份Java面試寶典完整版PDF已整理成檔案

多活模式:這種模式也是實作異地資料復制的主流模式,因為shovel模式配置相對復雜,所以一般來說實作異地集群都是使用這種雙活,多活的模式,這種模式需要依賴rabbitMQ的federation插件,可以實作持續可靠的AMQP資料,

rabbitMQ部署架構采用雙中心模式(多中心)在兩套(或多套)資料中心個部署一套rabbitMQ集群,各中心的rabbitMQ服務需要為提供正常的訊息業務外,中心之間還需要實作部分佇列訊息共享,

多活架構如下:

federation插件是一個不需要構建Cluster,而在Brokers之間傳輸訊息的高性能插件,federation可以在brokers或者cluster之間傳輸訊息,連接的雙方可以使用不同的users或者virtual host雙方也可以使用不同版本的erlang或者rabbitMQ版本,federation插件可以使用AMQP協議作為通訊協議,可以接受不連續的傳輸,

Federation Exchanges,可以看成Downstream從Upstream主動拉取訊息,但 并不是拉取所有訊息,必須是在Downstream上已經明確定義Bindings關系的 Exchange,也就是有實際的物理Queue來接收訊息,才會從Upstream拉取訊息 到Downstream,

使用AMQP協議實施代理間通信,Downstream 會將系結關系組合在一起, 系結/解除系結命令將發送到Upstream交換機,

因此,Federation Exchange只接收具有訂閱的訊息,

HAProxy是一款提供高可用性、負載均衡以及基于TCP (第四層)和HTTP (第七層)應用的代理軟體,支持虛擬主機,它是免費、快速并且可靠的一種解決 方案, HAProxy特別適用于那些負載特大的web站點,這些站點通常又需要會 話保持或七層處理,HAProxy運行在時下的硬體上,完全可以支持數以萬計的 并發連接, 并且它的運行模式使得它可以很簡單安全的整合進您當前的架構中 同時可以保護你的web服務器不被暴露到網路上,

HAProxy性能為何這么好?

  1. 單行程、事件驅動模型顯著降低了.背景關系切換的開銷及記憶體占用.

  2. 在任何可用的情況下,單緩沖(single buffering)機制能以不復制任何資料的方式完成讀寫操作,這會節約大量的CPU時鐘周期及記憶體帶寬

  3. 借助于Linux 2.6 (>= 2.6.27.19). 上的splice()系統呼叫,HAProxy可以實作零復制轉發(Zero-copy forwarding),在Linux 3.5及以上的OS中還可以實作心零復制啟動(zero-starting)

  4. 記憶體分配器在固定大小的記憶體池中可實作即時記憶體分配,這能夠顯著減少創建一個會話的時長

  5. 樹型存盤:側重于使用作者多年前開發的彈性二叉樹,實作了以O(log(N))的低開銷來保持計時器命令、保持運行佇列命令及管理輪詢及最少連接佇列

keepAlive

KeepAlived軟體主要是通過VRRP協議實作高可用功能的,VRRP是 Virtual Router RedundancyProtocol(虛擬路由器冗余協議)的縮寫, VRRP出現的目的就是為了解決靜態路由單點故障問題的,它能夠保證當 個別節點宕機時,整個網路可以不間斷地運行所以,Keepalived - -方面 具有配置管理LVS的功能,同時還具有對LVS下面節點進行健康檢查的功 能,另一方面也可實作系統網路服務的高可用功能

keepAlive的作用

  1. 管理LVS負載均衡軟體

  2. 實作LVS集群節點的健康檢查中

  3. 作為系統網路服務的高可用性(failover)

Keepalived如何實作高可用

Keepalived高可用服務對之間的故障切換轉移,是通過VRRP (Virtual Router Redundancy Protocol ,虛擬路由器冗余協議)來實作的,整理了一份Java面試寶典完整版PDF已整理成檔案

在Keepalived服務正常作業時,主Master節點會不斷地向備節點發送( 多播的方式)心跳訊息,用以告訴備Backup節點自己還活看,當主Master節點發生故障時,就無法發送心跳訊息,備節點也就因此無法繼續檢測到來自主Master節點的心跳了,于是呼叫自身的接管程式,接管主Master節點的IP資源及服務,

而當主Master節點恢復時備Backup節點又會釋放主節點故障時自身接管的IP資源及服務,恢復到原來的備用角色,

 

轉載請註明出處,本文鏈接:https://www.uj5u.com/houduan/247961.html

標籤:其他

上一篇:Java生鮮電商平臺-逆向物流退換貨流程設計(小程式/APP)

下一篇:最新版本IDEA2020.3.1 破解教程

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【C++】Microsoft C++、C 和匯編程式檔案

    ......

    uj5u.com 2020-09-10 00:57:23 more
  • 例外宣告

    相比于斷言適用于排除邏輯上不可能存在的狀態,例外通常是用于邏輯上可能發生的錯誤。 例外宣告 Item 1:當函式不可能拋出例外或不能接受拋出例外時,使用noexcept 理由 如果不打算拋出例外的話,程式就會認為無法處理這種錯誤,并且應當盡早終止,如此可以有效地阻止例外的傳播與擴散。 示例 //不可 ......

    uj5u.com 2020-09-10 00:57:27 more
  • Codeforces 1400E Clear the Multiset(貪心 + 分治)

    鏈接:https://codeforces.com/problemset/problem/1400/E 來源:Codeforces 思路:給你一個陣列,現在你可以進行兩種操作,操作1:將一段沒有 0 的區間進行減一的操作,操作2:將 i 位置上的元素歸零。最終問:將這個陣列的全部元素歸零后操作的最少 ......

    uj5u.com 2020-09-10 00:57:30 more
  • UVA11610 【Reverse Prime】

    本人看到此題沒有翻譯,就附帶了一個自己的翻譯版本 思考 這一題,它的第一個要求是找出所有 $7$ 位反向質數及其質因數的個數。 我們應該需要質數篩篩選1~$10^{7}$的所有數,這里就不慢慢介紹了。但是,重讀題,我們突然發現反向質數都是 $7$ 位,而將它反過來后的數字卻是 $6$ 位數,這就說明 ......

    uj5u.com 2020-09-10 00:57:36 more
  • 統計區間素數數量

    1 #pragma GCC optimize(2) 2 #include <bits/stdc++.h> 3 using namespace std; 4 bool isprime[1000000010]; 5 vector<int> prime; 6 inline int getlist(int ......

    uj5u.com 2020-09-10 00:57:47 more
  • C/C++編程筆記:C++中的 const 變數詳解,教你正確認識const用法

    1、C中的const 1、區域const變數存放在堆疊區中,會分配記憶體(也就是說可以通過地址間接修改變數的值)。測驗代碼如下: 運行結果: 2、全域const變數存放在只讀資料段(不能通過地址修改,會發生寫入錯誤), 默認為外部聯編,可以給其他源檔案使用(需要用extern關鍵字修飾) 運行結果: ......

    uj5u.com 2020-09-10 00:58:04 more
  • 【C++犯錯記錄】VS2019 MFC添加資源不懂如何修改資源宏ID

    1. 首先在資源視圖中,添加資源 2. 點擊新添加的資源,復制自動生成的ID 3. 在解決方案資源管理器中找到Resource.h檔案,編輯,使用整個專案搜索和替換的方式快速替換 宏宣告 4. Ctrl+Shift+F 全域搜索,點擊查找全部,然后逐個替換 5. 為什么使用搜索替換而不使用屬性視窗直 ......

    uj5u.com 2020-09-10 00:59:11 more
  • 【C++犯錯記錄】VS2019 MFC不懂的批量添加資源

    1. 打開資源頭檔案Resource.h,在其中預先定義好宏 ID(不清楚其實ID值應該設定多少,可以先新建一個相同的資源項,再在這個資源的ID值的基礎上遞增即可) 2. 在資源視圖中選中專案資源,按F7編輯資源檔案,按 ID 型別 相對路徑的形式添加 資源。(別忘了先把檔案拷貝到專案中的res檔案 ......

    uj5u.com 2020-09-10 01:00:19 more
  • C/C++編程筆記:關于C++的參考型別,專供新手入門使用

    今天要講的是C++中我最喜歡的一個用法——參考,也叫別名。 參考就是給一個變數名取一個變數名,方便我們間接地使用這個變數。我們可以給一個變數創建N個參考,這N + 1個變數共享了同一塊記憶體區域。(參考型別的變數會占用記憶體空間,占用的記憶體空間的大小和指標型別的大小是相同的。雖然參考是一個物件的別名,但 ......

    uj5u.com 2020-09-10 01:00:22 more
  • 【C/C++編程筆記】從頭開始學習C ++:初學者完整指南

    眾所周知,C ++的學習曲線陡峭,但是花時間學習這種語言將為您的職業帶來奇跡,并使您與其他開發人員區分開。您會更輕松地學習新語言,形成真正的解決問題的技能,并在編程的基礎上打下堅實的基礎。 C ++將幫助您養成良好的編程習慣(即清晰一致的編碼風格,在撰寫代碼時注釋代碼,并限制類內部的可見性),并且由 ......

    uj5u.com 2020-09-10 01:00:41 more
最新发布
  • Rust中的智能指標:Box<T> Rc<T> Arc<T> Cell<T> RefCell<T> Weak

    Rust中的智能指標是什么 智能指標(smart pointers)是一類資料結構,是擁有資料所有權和額外功能的指標。是指標的進一步發展 指標(pointer)是一個包含記憶體地址的變數的通用概念。這個地址參考,或 ” 指向”(points at)一些其 他資料 。參考以 & 符號為標志并借用了他們所 ......

    uj5u.com 2023-04-20 07:24:10 more
  • Java的值傳遞和參考傳遞

    值傳遞不會改變本身,參考傳遞(如果傳遞的值需要實體化到堆里)如果發生修改了會改變本身。 1.基本資料型別都是值傳遞 package com.example.basic; public class Test { public static void main(String[] args) { int ......

    uj5u.com 2023-04-20 07:24:04 more
  • [2]SpinalHDL教程——Scala簡單入門

    第一個 Scala 程式 shell里面輸入 $ scala scala> 1 + 1 res0: Int = 2 scala> println("Hello World!") Hello World! 檔案形式 object HelloWorld { /* 這是我的第一個 Scala 程式 * 以 ......

    uj5u.com 2023-04-20 07:23:58 more
  • 理解函式指標和回呼函式

    理解 函式指標 指向函式的指標。比如: 理解函式指標的偽代碼 void (*p)(int type, char *data); // 定義一個函式指標p void func(int type, char *data); // 宣告一個函式func p = func; // 將指標p指向函式func ......

    uj5u.com 2023-04-20 07:23:52 more
  • Django筆記二十五之資料庫函式之日期函式

    本文首發于公眾號:Hunter后端 原文鏈接:Django筆記二十五之資料庫函式之日期函式 日期函式主要介紹兩個大類,Extract() 和 Trunc() Extract() 函式作用是提取日期,比如我們可以提取一個日期欄位的年份,月份,日等資料 Trunc() 的作用則是截取,比如 2022-0 ......

    uj5u.com 2023-04-20 07:23:45 more
  • 一天吃透JVM面試八股文

    什么是JVM? JVM,全稱Java Virtual Machine(Java虛擬機),是通過在實際的計算機上仿真模擬各種計算機功能來實作的。由一套位元組碼指令集、一組暫存器、一個堆疊、一個垃圾回收堆和一個存盤方法域等組成。JVM屏蔽了與作業系統平臺相關的資訊,使得Java程式只需要生成在Java虛擬機 ......

    uj5u.com 2023-04-20 07:23:31 more
  • 使用Java接入小程式訂閱訊息!

    更新完微信服務號的模板訊息之后,我又趕緊把微信小程式的訂閱訊息給實作了!之前我一直以為微信小程式也是要企業才能申請,沒想到小程式個人就能申請。 訊息推送平臺🔥推送下發【郵件】【短信】【微信服務號】【微信小程式】【企業微信】【釘釘】等訊息型別。 https://gitee.com/zhongfuch ......

    uj5u.com 2023-04-20 07:22:59 more
  • java -- 緩沖流、轉換流、序列化流

    緩沖流 緩沖流, 也叫高效流, 按照資料型別分類: 位元組緩沖流:BufferedInputStream,BufferedOutputStream 字符緩沖流:BufferedReader,BufferedWriter 緩沖流的基本原理,是在創建流物件時,會創建一個內置的默認大小的緩沖區陣列,通過緩沖 ......

    uj5u.com 2023-04-20 07:22:49 more
  • Java-SpringBoot-Range請求頭設定實作視頻分段傳輸

    老實說,人太懶了,現在基本都不喜歡寫筆記了,但是網上有關Range請求頭的文章都太水了 下面是抄的一段StackOverflow的代碼...自己大修改過的,寫的注釋挺全的,應該直接看得懂,就不解釋了 寫的不好...只是希望能給視頻網站開發的新手一點點幫助吧. 業務場景:視頻分段傳輸、視頻多段傳輸(理 ......

    uj5u.com 2023-04-20 07:22:42 more
  • Windows 10開發教程_編程入門自學教程_菜鳥教程-免費教程分享

    教程簡介 Windows 10開發入門教程 - 從簡單的步驟了解Windows 10開發,從基本到高級概念,包括簡介,UWP,第一個應用程式,商店,XAML控制元件,資料系結,XAML性能,自適應設計,自適應UI,自適應代碼,檔案管理,SQLite資料庫,應用程式到應用程式通信,應用程式本地化,應用程式 ......

    uj5u.com 2023-04-20 07:22:35 more