主頁 > 後端開發 > 分布式事務的 6 種解決方案,寫得非常好!

分布式事務的 6 種解決方案,寫得非常好!

2021-06-25 06:09:14 後端開發

作者:蘑菇先生

出處:www.cnblogs.com/mushroom/p/13788039.html

介紹

在分布式系統、微服務架構大行其道的今天,服務間互相呼叫出現失敗已經成為常態,如何處理例外,如何保證資料一致性,成為微服務設計程序中,繞不開的一個難題, 在不同的業務場景下,解決方案會有所差異,常見的方式有:

  1. 阻塞式重試;
  2. 2PC、3PC 傳統事務;
  3. 使用佇列,后臺異步處理;
  4. TCC 補償事務;
  5. 本地訊息表(異步確保);
  6. MQ 事務,

本文側重于其他幾項,關于 2PC、3PC 傳統事務,網上資料已經非常多了,這里不多做重復,

阻塞式重試

在微服務架構中,阻塞式重試是比較常見的一種方式,偽代碼示例:

m := db.Insert(sql)

err := request(B-Service,m)

func request(url string,body interface{}){
  for i:=0; i<3; i ++ {
    result, err = request.POST(url,body)
    if err == nil {
        break 
    }else {
      log.Print()
    }
  }
}

如上,當請求 B 服務的 API 失敗后,發起最多三次重試,如果三次還是失敗,就列印日志,繼續執行下或向上層拋出錯誤,這種方式會帶來以下問題

  1. 呼叫 B 服務成功,但由于網路超時原因,當前服務認為其失敗了,繼續重試,這樣 B 服務會產生 2 條一樣的資料,
  2. 呼叫 B 服務失敗,由于 B 服務不可用,重試 3 次依然失敗,當前服務在前面代碼中插入到 DB 的一條記錄,就變成了臟資料,
  3. 重試會增加上游對本次呼叫的延遲,如果下游負載較大,重試會放大下游服務的壓力,

第一個問題:通過讓 B 服務的 API 支持冪等性來解決,

第二個問題:可以通過后臺定時腳步去修正資料,但這并不是一個很好的辦法,

第三個問題:這是通過阻塞式重試提高一致性、可用性,必不可少的犧牲,

阻塞式重試適用于業務對一致性要求不敏感的場景下,如果對資料一致性有要求的話,就必須要引入額外的機制來解決,

異步佇列

在解決方案演化的程序中,引入佇列是個比較常見也較好的方式,如下示例:

m := db.Insert(sql)

err := mq.Publish("B-Service-topic",m)

在當前服務將資料寫入 DB 后,推送一條訊息給 MQ,由獨立的服務去消費 MQ 處理業務邏輯,和阻塞式重試相比,雖然 MQ 在穩定性上遠高于普通的業務服務,但在推送訊息到 MQ 中的呼叫,還是會有失敗的可能性,比如網路問題、當前服務宕機等,這樣還是會遇到阻塞式重試相同的問題,即 DB 寫入成功了,但推送失敗了,

理論上來講,分布式系統下,涉及多個服務呼叫的代碼都存在這樣的情況,在長期運行中,呼叫失敗的情況一定會出現,這也是分布式系統設計的難點之一,

TCC 補償事務

在對事務有要求,且不方便解耦的情況下,TCC 補償式事務是個較好的選擇,

TCC 把呼叫每個服務都分成 2 個階段、 3 個操作:

  • 階段一、Try 操作:對業務資源做檢測、資源預留,比如對庫存的檢查、預扣,
  • 階段二、Confirm 操作:提交確認 Try 操作的資源預留,比如把庫存預扣更新為扣除,
  • 階段二、Cancel 操作:Try 操作失敗后,釋放其預扣的資源,比如把庫存預扣的加回去,

TCC 要求每個服務都實作上面 3 個操作的 API,服務接入 TCC 事務前一次呼叫就完成的操作,現在需要分 2 階段完成、三次操作來完成,

比如一個商城應用需要呼叫 A 庫存服務、B 金額服務、C 積分服務,如下偽代碼:

m := db.Insert(sql)
aResult, aErr := A.Try(m)
bResult, bErr := B.Try(m)
cResult, cErr := C.Try(m)
if cErr != nil {
    A.Cancel()
    B.Cancel()
	C.Cancel()
} else {
    A.Confirm()
    B.Confirm()
    C.Confirm()
}

代碼中分別呼叫 A、B、C 服務 API 檢查并保留資源,都回傳成功了再提交確認(Confirm)操作;如果 C 服務 Try 操作失敗后,則分別呼叫 A、B、C 的 Cancel API 釋放其保留的資源,

TCC 在業務上解決了分布式系統下,跨多個服務、跨多個資料庫的資料一致性問題,但 TCC 方式依然存在一些問題,實際使用中需要注意,包括上面章節提到的呼叫失敗的情況,

空釋放

上面代碼中如果 C.Try() 是真正呼叫失敗,那下面多余的 C.Cancel() 呼叫會出現釋放并沒有鎖定資源的行為,這是因為當前服務無法判斷呼叫失敗是不是真的鎖定 C 資源了,如果不呼叫,實際上成功了,但由于網路原因回傳失敗了,這會導致 C 的資源被鎖定,一直得不到釋放,

空釋放在生產環境經常出現,服務在實作 TCC 事務 API 時,應支持空釋放的執行,

時序

上面代碼中如果 C.Try() 失敗,接著呼叫 C.Cancel() 操作,因為網路原因,有可能會出現 C.Cancel() 請求會先到 C 服務,C.Try() 請求后到,這會導致空釋放問題,同時引起 C 的資源被鎖定,一直得不到釋放,

所以 C 服務應拒絕釋放資源之后的 Try() 操作,具體實作上,可以用唯一事務ID來區分第一次 Try() 還是釋放后的 Try(),

呼叫失敗

Cancel 、Confirm 在呼叫程序中,還是會存在失敗的情況,比如常見的網路原因,

Cancel() 或 Confirm() 操作失敗都會導致資源被鎖定,一直得不到釋放,這種情況常見解決方案有:

  1. 阻塞式重試,但有同樣的問題,比如宕機、一直失敗的情況,
  2. 寫入日志、佇列,然后有單獨的異步服務自動或人工介入處理,但一樣會有問題,寫日志或佇列時,會存在失敗的情況,

理論上來講非原子性、事務性的二段代碼,都會存在中間態,有中間態就會有失敗的可能性,

本地訊息表

本地訊息表最初是 ebay 提出的,它讓本地訊息表與業務資料表處于同一個資料庫中,這樣就能利用本地事務來滿足事務特性,

具體做法是在本地事務中插入業務資料時,也插入一條訊息資料,然后在做后續操作,如果其他操作成功,則洗掉該訊息;如果失敗則不洗掉,異步監聽這個訊息,不斷重試,

本地訊息表是一個很好的思路,可以有多種使用方式:

配合MQ

示例偽代碼:

messageTx := tc.NewTransaction("order")
messageTxSql := tx.TryPlan("content")

m,err := db.InsertTx(sql,messageTxSql)
if err!=nil {
	return err
}

aErr := mq.Publish("B-Service-topic",m)
if aErr!=nil { // 推送到 MQ 失敗
	messageTx.Confirm() // 更新訊息的狀態為 confirm
}else {
	messageTx.Cancel() // 洗掉訊息
}

// 異步處理 confirm 的訊息,繼續推送
func OnMessage(task *Task){
   err := mq.Publish("B-Service-topic", task.Value())
   if err==nil {
     messageTx.Cancel()
   }
}

上面代碼中其 messageTxSql 是插入本地訊息表的一段 SQL :

insert into `tcc_async_task` (`uid`,`name`,`value`,`status`) 
values ('?','?','?','?')

它和業務 SQL 在同一個事務中去執行,要么成功,要么失敗,

成功則推送到佇列,推送成功,則呼叫 messageTx.Cancel() 洗掉本地訊息;推送失敗則標記訊息為 confirm,本地訊息表中 status 有 2 種狀態 tryconfirm, 無論哪種狀態在 OnMessage 都可以監聽到,從而發起重試,

本地事務保障訊息和業務一定會寫入資料庫,此后的執行無論宕機還是網路推送失敗,異步監聽都可以進行后續處理,從而保障了訊息一定會推到 MQ,

而 MQ 則保障一定會到達消費者服務中,利用 MQ 的 QOS 策略,消費者服務一定能處理,或繼續投遞到下一個業務佇列中,從而保障了事務的完整性,

配合服務呼叫

示例偽代碼:

messageTx := tc.NewTransaction("order")
messageTxSql := tx.TryPlan("content")

body,err := db.InsertTx(sql,messageTxSql)
if err!=nil {
    return err
}

aErr := request.POST("B-Service",body)
if aErr!=nil { // 呼叫 B-Service 失敗
	messageTx.Confirm() // 更新訊息的狀態為 confirm
}else {
	messageTx.Cancel() // 洗掉訊息
}

// 異步處理 confirm 或 try 的訊息,繼續呼叫 B-Service 
func OnMessage(task *Task){
  // request.POST("B-Service",body)
}

這是本地訊息表 + 呼叫其他服務的例子,沒有 MQ 的引入,這種使用異步重試,并用本地訊息表保障訊息的可靠性,解決了阻塞式重試帶來的問題,在日常開發中比較常見,

如果本地沒有要寫 DB 的操作,可以只寫入本地訊息表,同樣在 OnMessage中處理:

messageTx := tc.NewTransaction("order")
messageTx := tx.Try("content")
aErr := request.POST("B-Service",body)
// ....

訊息過期

配置本地訊息表的 TryConfirm 訊息的處理器:

TCC.SetTryHandler(OnTryMessage())
TCC.SetConfirmHandler(OnConfirmMessage())

在訊息處理函式中要判斷當前訊息任務是否存在過久,比如一直重試了一小時,還是失敗,就考慮發郵件、短信、日志告警等方式,讓人工介入,

func OnConfirmMessage(task *tcc.Task) {
if time.Now().Sub(task.CreatedAt) > time.Hour {
    err := task.Cancel()  // 洗掉該訊息,停止重試,
   // doSomeThing() 告警,人工介入
    return
 }
}

Try 處理函式中,還要單獨判斷當前訊息任務是否存在過短,因為 Try狀態的訊息,可能才剛剛創建,還沒被確認提交或洗掉,這會和正常業務邏輯的執行重復,意味著成功的呼叫,也會被重試;為盡量避免這種情況,可以檢測訊息的創建時間是否很短,短的話可以跳過,

重試機制必然依賴下游 API 在業務邏輯上的冪等性,雖然不處理也可行,但設計上還是要盡量避免干擾正常的請求,

獨立訊息服務

獨立訊息服務是本地訊息表的升級版,把本地訊息表抽離成一個獨立的服務,所有操作之前先在訊息服務添加個訊息,后續操作成功則洗掉訊息,失敗則提交確認訊息,

然后用異步邏輯去監聽訊息,做對應的處理,和本地訊息表的處理邏輯基本一致,但由于向訊息服務添加訊息,無法和本地操作放到一個事務里,所以會存在添加訊息成功,后續失敗,則此時的訊息就是個無用訊息,

如下示例場景:

err := request.POST("Message-Service",body)
if err!=nil {
  return err
}
aErr := request.POST("B-Service",body)
if aErr!=nil {
  return aErr
}

這個無用的訊息,需要訊息服務去確認這個訊息是否執行成功,沒有則洗掉,有繼續執行后續邏輯,相比本地事務表 tryconfirm ,訊息服務在前面多了一種狀態 prepare

MQ 事務

有些 MQ 的實作支持事務,比如 RocketMQ ,MQ 的事務可以看作獨立訊息服務的一種具體實作,邏輯完全一致,

所有操作之前先在 MQ 投遞個訊息,后續操作成功則 Confirm 確認提交訊息,失敗則Cancel洗掉訊息,MQ 事務也會存在 prepare狀態,需要 MQ 的消費處理邏輯來確認業務是否成功,

總結

從分布式系統實踐中來看,要保障資料一致性的場景,必然要引入額外的機制處理,

TCC 的優點是作用于業務服務層,不依賴某個具體資料庫、不與具體框架耦合、資源鎖的粒度比較靈活,非常適用于微服務場景下,缺點是每個服務都要實作 3 個 API,對于業務侵入和改動較大,要處理各種失敗例外,開發者很難完整處理各種情況,找個成熟的框架可以大大降低成本,比如阿里的 Fescar,

本地訊息表的優點是簡單、不依賴其他服務的改造、可以很好的配合服務呼叫和 MQ 一起使用,在大多業務場景下都比較實用,缺點是本地資料庫多了訊息表,和業務表耦合在一起,文中本地訊息表方式的示例,來源于作者寫的一個庫,有興趣的同學可以參考下 https://github.com/mushroomsir/tcc

MQ 事務和獨立訊息服務的優點是抽離出一個公共的服務來解決事務問題,避免每個服務都有訊息表和服務耦合在一起,增加服務自身的處理復雜性,缺點是支持事務的 MQ 很少;且每次操作前都先呼叫 API 添加個訊息,會增加整體呼叫的延遲,在絕大多數正常回應的業務場景下,是一種多余的開銷,

TCC 參考:https://www.sofastack.tech/blog/seata-tcc-theory-design-realization/

MQ 事務參考:https://www.jianshu.com/p/eb571e4065ec

近期熱文推薦:

1.1,000+ 道 Java面試題及答案整理(2021最新版)

2.終于靠開源專案弄到 IntelliJ IDEA 激活碼了,真香!

3.阿里 Mock 工具正式開源,干掉市面上所有 Mock 工具!

4.Spring Cloud 2020.0.0 正式發布,全新顛覆性版本!

5.《Java開發手冊(嵩山版)》最新發布,速速下載!

覺得不錯,別忘了隨手點贊+轉發哦!

轉載請註明出處,本文鏈接:https://www.uj5u.com/houduan/288349.html

標籤:Java

上一篇:再遇org.apache.catalina.connector.ClientAbortException: java.net.SocketException: 斷開的管道 (Write failed)

下一篇:Java通用樹結構資料管理

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【C++】Microsoft C++、C 和匯編程式檔案

    ......

    uj5u.com 2020-09-10 00:57:23 more
  • 例外宣告

    相比于斷言適用于排除邏輯上不可能存在的狀態,例外通常是用于邏輯上可能發生的錯誤。 例外宣告 Item 1:當函式不可能拋出例外或不能接受拋出例外時,使用noexcept 理由 如果不打算拋出例外的話,程式就會認為無法處理這種錯誤,并且應當盡早終止,如此可以有效地阻止例外的傳播與擴散。 示例 //不可 ......

    uj5u.com 2020-09-10 00:57:27 more
  • Codeforces 1400E Clear the Multiset(貪心 + 分治)

    鏈接:https://codeforces.com/problemset/problem/1400/E 來源:Codeforces 思路:給你一個陣列,現在你可以進行兩種操作,操作1:將一段沒有 0 的區間進行減一的操作,操作2:將 i 位置上的元素歸零。最終問:將這個陣列的全部元素歸零后操作的最少 ......

    uj5u.com 2020-09-10 00:57:30 more
  • UVA11610 【Reverse Prime】

    本人看到此題沒有翻譯,就附帶了一個自己的翻譯版本 思考 這一題,它的第一個要求是找出所有 $7$ 位反向質數及其質因數的個數。 我們應該需要質數篩篩選1~$10^{7}$的所有數,這里就不慢慢介紹了。但是,重讀題,我們突然發現反向質數都是 $7$ 位,而將它反過來后的數字卻是 $6$ 位數,這就說明 ......

    uj5u.com 2020-09-10 00:57:36 more
  • 統計區間素數數量

    1 #pragma GCC optimize(2) 2 #include <bits/stdc++.h> 3 using namespace std; 4 bool isprime[1000000010]; 5 vector<int> prime; 6 inline int getlist(int ......

    uj5u.com 2020-09-10 00:57:47 more
  • C/C++編程筆記:C++中的 const 變數詳解,教你正確認識const用法

    1、C中的const 1、區域const變數存放在堆疊區中,會分配記憶體(也就是說可以通過地址間接修改變數的值)。測驗代碼如下: 運行結果: 2、全域const變數存放在只讀資料段(不能通過地址修改,會發生寫入錯誤), 默認為外部聯編,可以給其他源檔案使用(需要用extern關鍵字修飾) 運行結果: ......

    uj5u.com 2020-09-10 00:58:04 more
  • 【C++犯錯記錄】VS2019 MFC添加資源不懂如何修改資源宏ID

    1. 首先在資源視圖中,添加資源 2. 點擊新添加的資源,復制自動生成的ID 3. 在解決方案資源管理器中找到Resource.h檔案,編輯,使用整個專案搜索和替換的方式快速替換 宏宣告 4. Ctrl+Shift+F 全域搜索,點擊查找全部,然后逐個替換 5. 為什么使用搜索替換而不使用屬性視窗直 ......

    uj5u.com 2020-09-10 00:59:11 more
  • 【C++犯錯記錄】VS2019 MFC不懂的批量添加資源

    1. 打開資源頭檔案Resource.h,在其中預先定義好宏 ID(不清楚其實ID值應該設定多少,可以先新建一個相同的資源項,再在這個資源的ID值的基礎上遞增即可) 2. 在資源視圖中選中專案資源,按F7編輯資源檔案,按 ID 型別 相對路徑的形式添加 資源。(別忘了先把檔案拷貝到專案中的res檔案 ......

    uj5u.com 2020-09-10 01:00:19 more
  • C/C++編程筆記:關于C++的參考型別,專供新手入門使用

    今天要講的是C++中我最喜歡的一個用法——參考,也叫別名。 參考就是給一個變數名取一個變數名,方便我們間接地使用這個變數。我們可以給一個變數創建N個參考,這N + 1個變數共享了同一塊記憶體區域。(參考型別的變數會占用記憶體空間,占用的記憶體空間的大小和指標型別的大小是相同的。雖然參考是一個物件的別名,但 ......

    uj5u.com 2020-09-10 01:00:22 more
  • 【C/C++編程筆記】從頭開始學習C ++:初學者完整指南

    眾所周知,C ++的學習曲線陡峭,但是花時間學習這種語言將為您的職業帶來奇跡,并使您與其他開發人員區分開。您會更輕松地學習新語言,形成真正的解決問題的技能,并在編程的基礎上打下堅實的基礎。 C ++將幫助您養成良好的編程習慣(即清晰一致的編碼風格,在撰寫代碼時注釋代碼,并限制類內部的可見性),并且由 ......

    uj5u.com 2020-09-10 01:00:41 more
最新发布
  • Rust中的智能指標:Box<T> Rc<T> Arc<T> Cell<T> RefCell<T> Weak

    Rust中的智能指標是什么 智能指標(smart pointers)是一類資料結構,是擁有資料所有權和額外功能的指標。是指標的進一步發展 指標(pointer)是一個包含記憶體地址的變數的通用概念。這個地址參考,或 ” 指向”(points at)一些其 他資料 。參考以 & 符號為標志并借用了他們所 ......

    uj5u.com 2023-04-20 07:24:10 more
  • Java的值傳遞和參考傳遞

    值傳遞不會改變本身,參考傳遞(如果傳遞的值需要實體化到堆里)如果發生修改了會改變本身。 1.基本資料型別都是值傳遞 package com.example.basic; public class Test { public static void main(String[] args) { int ......

    uj5u.com 2023-04-20 07:24:04 more
  • [2]SpinalHDL教程——Scala簡單入門

    第一個 Scala 程式 shell里面輸入 $ scala scala> 1 + 1 res0: Int = 2 scala> println("Hello World!") Hello World! 檔案形式 object HelloWorld { /* 這是我的第一個 Scala 程式 * 以 ......

    uj5u.com 2023-04-20 07:23:58 more
  • 理解函式指標和回呼函式

    理解 函式指標 指向函式的指標。比如: 理解函式指標的偽代碼 void (*p)(int type, char *data); // 定義一個函式指標p void func(int type, char *data); // 宣告一個函式func p = func; // 將指標p指向函式func ......

    uj5u.com 2023-04-20 07:23:52 more
  • Django筆記二十五之資料庫函式之日期函式

    本文首發于公眾號:Hunter后端 原文鏈接:Django筆記二十五之資料庫函式之日期函式 日期函式主要介紹兩個大類,Extract() 和 Trunc() Extract() 函式作用是提取日期,比如我們可以提取一個日期欄位的年份,月份,日等資料 Trunc() 的作用則是截取,比如 2022-0 ......

    uj5u.com 2023-04-20 07:23:45 more
  • 一天吃透JVM面試八股文

    什么是JVM? JVM,全稱Java Virtual Machine(Java虛擬機),是通過在實際的計算機上仿真模擬各種計算機功能來實作的。由一套位元組碼指令集、一組暫存器、一個堆疊、一個垃圾回收堆和一個存盤方法域等組成。JVM屏蔽了與作業系統平臺相關的資訊,使得Java程式只需要生成在Java虛擬機 ......

    uj5u.com 2023-04-20 07:23:31 more
  • 使用Java接入小程式訂閱訊息!

    更新完微信服務號的模板訊息之后,我又趕緊把微信小程式的訂閱訊息給實作了!之前我一直以為微信小程式也是要企業才能申請,沒想到小程式個人就能申請。 訊息推送平臺🔥推送下發【郵件】【短信】【微信服務號】【微信小程式】【企業微信】【釘釘】等訊息型別。 https://gitee.com/zhongfuch ......

    uj5u.com 2023-04-20 07:22:59 more
  • java -- 緩沖流、轉換流、序列化流

    緩沖流 緩沖流, 也叫高效流, 按照資料型別分類: 位元組緩沖流:BufferedInputStream,BufferedOutputStream 字符緩沖流:BufferedReader,BufferedWriter 緩沖流的基本原理,是在創建流物件時,會創建一個內置的默認大小的緩沖區陣列,通過緩沖 ......

    uj5u.com 2023-04-20 07:22:49 more
  • Java-SpringBoot-Range請求頭設定實作視頻分段傳輸

    老實說,人太懶了,現在基本都不喜歡寫筆記了,但是網上有關Range請求頭的文章都太水了 下面是抄的一段StackOverflow的代碼...自己大修改過的,寫的注釋挺全的,應該直接看得懂,就不解釋了 寫的不好...只是希望能給視頻網站開發的新手一點點幫助吧. 業務場景:視頻分段傳輸、視頻多段傳輸(理 ......

    uj5u.com 2023-04-20 07:22:42 more
  • Windows 10開發教程_編程入門自學教程_菜鳥教程-免費教程分享

    教程簡介 Windows 10開發入門教程 - 從簡單的步驟了解Windows 10開發,從基本到高級概念,包括簡介,UWP,第一個應用程式,商店,XAML控制元件,資料系結,XAML性能,自適應設計,自適應UI,自適應代碼,檔案管理,SQLite資料庫,應用程式到應用程式通信,應用程式本地化,應用程式 ......

    uj5u.com 2023-04-20 07:22:35 more