主頁 > 軟體設計 > 《微服務架構設計模式》讀書筆記 | 第7章 在微服務架構中實作查詢

《微服務架構設計模式》讀書筆記 | 第7章 在微服務架構中實作查詢

2021-09-08 07:14:31 軟體設計

目錄
  • 前言
  • 1. 使用API組合模式進行查詢
    • 1.1 findOrder()查詢操作
    • 1.2 什么是API組合模式
    • 1.3 使用API組合模式實作findOrder()查詢操作
    • 1.4 設計問題一:由誰來擔任API組合器的角色
    • 1.5 設計問題二:如何撰寫有效的聚合邏輯
    • 1.6 API組合模式的好處與弊端
  • 2. 使用CQRS模式
    • 2.1 為什么要使用CQRS
    • 2.2 CQRS隔離命令與查詢
    • 2.3 CQRS和查詢專用服務
    • 2.4 CQRS的好處與弊端
  • 3. 設計CQRS視圖
    • 3.1 選擇視圖存盤庫
    • 3.2 設計資料訪問模塊
    • 3.3 添加和更新CQRS視圖
  • 4. 實作基于AWS DynamoDB的CQRS視圖
    • 4.1 OrderHistoryService的設計
    • 4.2 OrderHistoryEventHandlers模塊
  • 5. 本章小結
  • 最后


前言

在微服務架構中撰寫查詢具有挑戰性,查詢通常需要檢索分散在多個服務所擁有的資料庫中的資料,使用傳統的分布式查詢處理機制雖然在技術上可行,但會打破服務之間的隔離與封裝;

在微服務架構中實作查詢操作有兩種不同的模式:

  • API組合模式:這是最簡單的方法,應盡可能使用,它的作業原理是讓擁有資料的服務的客戶端負責呼叫服務,并組合服務回傳的查詢結果;
  • 命令查詢職責隔離(CQRS)模式:它比API組合模式更強大,但也更復雜,它維護一個或多個視圖資料庫,其唯一的目的是支持查詢;

這是一本關于微服務架構設計方面的書,這是本人閱讀的學習筆記,下面對一些符號做些說明:

()為補充,一般是書本里的內容;
[]符號為筆者筆注;


1. 使用API組合模式進行查詢

1.1 findOrder()查詢操作

findOrder()查詢操作是從多個服務獲取資料的查詢方法;

findOrder()查詢操作
圖解:基于微服務架構的FTGO應用程式版本中,資料分散在以下服務中;

  • Order Service:基本訂單資訊,包括詳細資訊和狀態;
  • Kitchen Service:從餐館的角度看訂單的狀態以及預計取餐時間;
  • Delivery Service:訂單的交付狀態、預計送餐時間及送餐員的當前位置;
  • Accounting Service:訂單的付款狀態;

1.2 什么是API組合模式

API組合模式
圖解

  • API組合模式:通過查詢每個服務的API并組合結果,實作從多個服務檢索資料的查詢;
  • 其有兩種型別的參與者:
    • API組合器:它通過查詢資料提供方的服務來實作查詢操作;
    • 資料提供方服務:擁有查詢回傳的部分資料的服務;
  • 是否可以使用此模式實作特定查詢操作取決于幾個因素,包括資料的磁區方式、擁有資料的服務公開的API的功能,以及服務使用資料庫的功能;

1.3 使用API組合模式實作findOrder()查詢操作

使用API組合模式實作findOrder()查詢操作
圖解

  • 四個提供方服務實作一個REST介面,該介面回傳對應于單個聚合的回應;

1.4 設計問題一:由誰來擔任API組合器的角色

由服務的客戶端

  • 缺點:對于防火墻之外的客戶以及通過較慢網路訪問的服務,此選擇不可用(詳情查看第八章);

在客戶端中實作API組合


由實作應用程式外部API的API Gateway

  • 可以使得在防火墻外運行的客戶端能夠通過單個API呼叫有效地從眾多服務中檢索資料;

在這里插入圖片描述

將API組合器實作為獨立的服務

  • 在外部訪問查詢時,由于其聚合邏輯過于復雜,因此無法在API Gateway中完成查詢,必須使用單獨的服務;

將多個客戶端和服務使用的查詢操作實作為獨立的服務

1.5 設計問題二:如何撰寫有效的聚合邏輯

  • 應該使用回應式編程模型
    • 有時API聚合器需要一個提供方服務的結果才能呼叫另一個服務;在這種情況下,它需要按順序呼叫一部分提供方服務;
    • 應該使用基于Java CompletableFuture、RxJava可觀測或其他類似的回應式設計(詳情見《第8章 API Gateway模式》);

1.6 API組合模式的好處與弊端

好處

  • 實作查詢操作簡單直觀;

弊端

  • 增加了額外的開銷:涉及多個請求和資料庫查詢,需要更多的計算和網路資源;
  • 帶來可用性降低的風險:操作的可用性隨著所涉及的服務數量而下降;
    • 解決辦法:在提供方不可用時,回傳先前快取的資料;或者讓API組合器回傳不完整的資料;
  • 缺乏事務資料一致性

2. 使用CQRS模式

2.1 為什么要使用CQRS

  • 涉及多個服務的查詢,API組合模式無法有效實作;
    • 因為并非所有服務都存盤用于過濾或排序的屬性,如Order Service和Kitchen Service兩項服務存盤了Order的選單項,而Delivery Service和Accounting Service都不存盤選單項;
    • 解決辦法:讓API組合器進行記憶體中連接;讓API組合器從Order Service和Kitchen Service檢索匹配的訂單,然后通過ID從其他服務請求訂單;
  • CQRS可以解決服務的資料庫(資料模型)不能有效查詢的問題;
    • 如:在進行地理空間查詢時會生成資料副本,CQRS解決了同步副本問題;
  • CQRS考慮隔離問題的必要性,避免過多的職責導致過載服務;

2.2 CQRS隔離命令與查詢

CQRS隔離命令與查詢
圖解

  • 位于命令端的領域模型處理CRUD操作并映射到其自己的資料庫;
  • 命令端在資料發生變化時發布領域事件;

2.3 CQRS和查詢專用服務

CQRS和查詢專用服務
圖解

  • 查詢服務的API只包含查詢操作,并無命令操作;
  • 它通過訂閱一個或多個其他服務發布的事件來確保它的資料庫是不斷更新的,并由此實作查詢操作;
  • 查詢端服務訂閱由多個服務發布的事件;

2.4 CQRS的好處與弊端

好處

  • 在微服務架構中高效地實作查詢;
  • 高效地實作多種不同的查詢型別;
  • 在基于事件溯源技術的應用程式中實作查詢;
  • 更進一步地實作問題隔離;

弊端

  • 更加復雜的架構:開發人員必須撰寫更新和查詢視圖的查詢端服務;
  • 處理資料復制導致的延遲;
    • 即:更新聚合后查詢聚合會看到聚合的先前版本;
    • 解決方案:采用命令端和查詢端API為客戶端提供版本資訊,使其能夠判斷查詢端是否過時;

3. 設計CQRS視圖

CQRS視圖模塊包括由一個或多個查詢操作組成的API;

CQRS視圖模塊的設計

3.1 選擇視圖存盤庫

NoSQL

  • CQRS視圖受益于NoSQL資料庫更豐富的資料模型和性能,不受NoSQL資料庫事務處理能力的限制;

SQL資料庫

  • 在主流硬體上運行的現代關系型資料庫具有出色的性能;
  • SQL資料庫通常具有非關系特征的擴展,如地理空間資料型別和查詢;
  • CQRS視圖可能需要使用SQL資料庫才能支持報表引擎;

支持更新操作

  • 通常使用其主鍵更新或洗掉視圖資料庫中的記錄;
  • 有時需要使用類似外鍵的做法來更新或洗掉記錄;

可供選擇的查詢端視圖存盤庫

3.2 設計資料訪問模塊

事件處理程式和查詢API模塊不直接訪問資料庫存盤區,相反,它們使用資料訪問模塊,該模塊由資料訪問物件(DAO)及其輔助類組成;

  • 處理并發更新確保更新冪等
    • 當視圖訂閱由多個聚合型別發布的事件時,多個事件處理程式可能同時更新同一記錄;
  • 冪等事件處理程式
    • 為了確保可靠,事件處理程式必須記錄事件ID并以原子化的方式更新資料存盤區,如何試下取決于資料庫型別;
    • 事件處理程式不需要記錄每個事件的ID,每個記錄僅需要存盤從給定聚合實體接收的max(eventId);
  • 讓客戶端應用程式采用最終一致性的視圖
    • 執行更新命令后執行查詢命令可能看到的是更新前的資料 [有延遲],客戶端可以使用以下方法檢測這種不一致性:
    • 命令端操作將包含已發布事件和ID標記回傳給客戶端,然后,客戶端將事件有關的ID傳遞給查詢操作,如果該事件尚未更新視圖,則回傳查詢錯誤;
    • 視圖模塊可以使用重復事件檢測機制來實作這樣的功能;

3.3 添加和更新CQRS視圖

  • 添加和更新CQRS視圖在概念上很簡單,即:
    • 創建新視圖:開發查詢端模塊、設定資料存盤區并部署服務,查詢端模塊的事件處理程式處理所有事件,最終視圖將是最新的;
    • 更新現有視圖:更改事件處理程式并從頭開始重構視圖;
  • 但在實際中會產生一些問題,如下:
  • 訊息代理無法無限期存盤資訊;
    • 如:RabbitMQ會在消費者處理完訊息后洗掉該訊息;Apache Kafka可在配置的保留期內保留訊息,但也不會無限期存盤事件;
    • 解決辦法:使用歸檔事件構建CQRS視圖,使用可擴展的大資料技術(如Apache Spark)實作;
  • 處理所有事件所需的時間和資源隨時間推移而不斷增長;
    • 解決辦法:增量式構建CQRS視圖,使用兩步增量演算法,第一步基于先前的快照和自創建快照以來發生的事件,定期計算每個聚合實體的快照;第二步使用快照和任何后續事件創建視圖;

4. 實作基于AWS DynamoDB的CQRS視圖

介紹如何使用DynamoDB為findOrderHistory()操作實作CQRS視圖;

4.1 OrderHistoryService的設計

在這里插入圖片描述

圖解

  • OrderHistoryEventHandlers:訂閱各種服務發布的事件并呼叫OrderHistoryDAO;
  • OrderHistoryQueryAPI模塊:實作REST API介面;
  • OrderHistoryDataAccess:包含OrderHistoryDAO,它定義了更新和查詢ftgo-order-history DynamoDB表及其輔助類的方法;
  • ftgo-order-history DynamoDB表:存盤訂單的DynamoDB表;

4.2 OrderHistoryEventHandlers模塊

此模塊由接收事件和更新DynamoDB表的事件處理程式組成;


呼叫OrderHistoryDao的事件處理程式

圖解

  • 每個事件處理程式都有一個DomainEventEnvelope型別的引數,其中包含事件和描述事件的一些元資料;

5. 本章小結

  • 實作從多個服務檢索資料的查詢具有挑戰性,因為每個服務的資料都是私有的;
  • 有兩種方法可以實作這些型別的查詢:API組合模式和命令查詢職責隔離(CQRS)模式;
  • 從多個服務獲取資料的API組合模式是實作查詢的最簡單方法,應盡可能使用;
  • API組合模式的局限性是某些復雜查詢需要大型資料集的低效記憶體連接;
  • 使用視圖資料庫實作查詢的CQRS模式功能更強大,但實作起來更復雜;
  • CQRS視圖模塊必須處理并發更新以及檢測和丟棄重復事件;
  • CQRS有助于改善問題隔離,服務不必為自己擁有的資料實作查詢功能;
  • 客戶必須處理CQRS視圖的最終一致性;


最后

新人制作,如有錯誤,歡迎指出,感激不盡!
歡迎關注公眾號,會分享一些更日常的東西!
如需轉載,請標注出處!

轉載請註明出處,本文鏈接:https://www.uj5u.com/ruanti/298283.html

標籤:架構設計

上一篇:我這有本秘籍:如何短時間學好微服務

下一篇:我這有本秘籍:如何短時間學好微服務

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 面試突擊第一季,第二季,第三季

    第一季必考 https://www.bilibili.com/video/BV1FE411y79Y?from=search&seid=15921726601957489746 第二季分布式 https://www.bilibili.com/video/BV13f4y127ee/?spm_id_fro ......

    uj5u.com 2020-09-10 05:35:24 more
  • 第三單元作業總結

    1.前言 這應該是本學期最后一次寫作業總結了吧。總體來說,對作業的節奏也差不多掌握了,作業做起來的效率也更高了。雖然和之前的作業一樣,作業中都要用到新的知識,但是相比之前,更加懂得了如何利用工具以及資料。雖然之間卡過殼,但總體而言,這幾次作業還算完成的比較好。 2.作業程序總結 相比前兩個單元,此單 ......

    uj5u.com 2020-09-10 05:35:41 more
  • 北航OO(2020)第四單元博客作業暨課程總結博客

    北航OO(2020)第四單元博客作業暨課程總結博客 本單元作業的架構設計 在本單元中,由于UML圖具有比較清晰的樹形結構,因此我對其中需要進行查詢操作的元素進行了包裝,在樹的父節點中存盤所有孩子的參考。考慮到性能問題,我采用了快取機制,一次查詢后盡可能快取已經遍歷過的資訊,以減少遍歷次數。 本單元我 ......

    uj5u.com 2020-09-10 05:35:48 more
  • BUAA_OO_第四單元

    一、UML決議器設計 ? 先看下題目:第四單元實作一個基于JDK 8帶有效性檢查的UML(Unified Modeling Language)類圖,順序圖,狀態圖分析器 MyUmlInteraction,實際上我們要建立一個有向圖模型,UML中的物件(元素)可能與同級元素連接,也可與低級元素相連形成 ......

    uj5u.com 2020-09-10 05:35:54 more
  • 6.1邏輯運算子

    邏輯運算子 1. && 短路與 運算式1 && 運算式2 01.運算式1為true并且運算式2也為true 整體回傳為true 02.運算式1為false,將不會執行運算式2 整體回傳為false 03.只要有一個運算式為false 整體回傳為false 2. || 短路或 運算式1 || 運算式2 ......

    uj5u.com 2020-09-10 05:35:56 more
  • BUAAOO 第四單元 & 課程總結

    1. 第四單元:StarUml檔案決議 本單元采用了圖模型決議UML。 UML檔案可以抽象為圖、子圖、邊的邏輯結構。 在實作中,圖的節點包括類、介面、屬性,子圖包括狀態圖、順序圖等。 采用了三次遍歷UML元素的方法建圖,第一遍遍歷建點,第二、三次遍歷設定屬性、連邊,實作圖物件的初始化。這里借鑒了一些 ......

    uj5u.com 2020-09-10 05:36:06 more
  • 談談我對C# 多型的理解

    面向物件三要素:封裝、繼承、多型。 封裝和繼承,這兩個比較好理解,但要理解多型的話,可就稍微有點難度了。今天,我們就來講講多型的理解。 我們應該經常會看到面試題目:請談談對多型的理解。 其實呢,多型非常簡單,就一句話:呼叫同一種方法產生了不同的結果。 具體實作方式有三種。 一、多載 多載很簡單。 p ......

    uj5u.com 2020-09-10 05:36:09 more
  • Python 資料驅動工具:DDT

    背景 python 的unittest 沒有自帶資料驅動功能。 所以如果使用unittest,同時又想使用資料驅動,那么就可以使用DDT來完成。 DDT是 “Data-Driven Tests”的縮寫。 資料:http://ddt.readthedocs.io/en/latest/ 使用方法 dd. ......

    uj5u.com 2020-09-10 05:36:13 more
  • Python里面的xlrd模塊詳解

    那我就一下面積個問題對xlrd模塊進行學習一下: 1.什么是xlrd模塊? 2.為什么使用xlrd模塊? 3.怎樣使用xlrd模塊? 1.什么是xlrd模塊? ?python操作excel主要用到xlrd和xlwt這兩個庫,即xlrd是讀excel,xlwt是寫excel的庫。 今天就先來說一下xl ......

    uj5u.com 2020-09-10 05:36:28 more
  • 當我們創建HashMap時,底層到底做了什么?

    jdk1.7中的底層實作程序(底層基于陣列+鏈表) 在我們new HashMap()時,底層創建了默認長度為16的一維陣列Entry[ ] table。當我們呼叫map.put(key1,value1)方法向HashMap里添加資料的時候: 首先,呼叫key1所在類的hashCode()計算key1 ......

    uj5u.com 2020-09-10 05:36:38 more
最新发布
  • 【中介者設計模式詳解】C/Java/JS/Go/Python/TS不同語言實作

    * 中介者模式是一種行為型設計模式,它可以用來減少類之間的直接依賴關系,
    * 將物件之間的通信封裝到一個中介者物件中,從而使得各個物件之間的關系更加松散。
    * 在中介者模式中,物件之間不再直接相互互動,而是通過中介者來中轉訊息。 ......

    uj5u.com 2023-04-20 08:20:47 more
  • 露天煤礦現場調研和交流案例分享

    他們集團的資訊化公司及研究院在一個礦區正在做智能礦山的統一平臺的 試點,專案投資大概1億,包括了礦山的各方面的內容,顯示得我們這次交流有點多余。他們2年前開始做智能礦山的規劃,有很多煤礦行業專家的加持,他們的描述是非常完美,但是去年底應該上線的平臺,現在還沒有看到影子。他們確實有很多場景需求,但是被... ......

    uj5u.com 2023-04-20 08:20:25 more
  • 《社區人員管理》實戰案例設計&個人案例分享

    設計是一個讓人夢想成真程序,開始編碼、測驗、除錯之前進行需求分析和架構設計,才能保證關鍵方面都做正確 ......

    uj5u.com 2023-04-20 08:20:17 more
  • 軟體架構生態化-多角色交付的探索實踐

    作為一個技術架構師,不僅僅要緊跟行業技術趨勢,還要結合研發團隊現狀及痛點,探索新的交付方案。在日常中,你是否遇到如下問題 “ 業務需求排期長研發是瓶頸;非研發角色感受不到研發技改提效的變化;引入ISV 團隊又擔心質量和安全,培訓周期長“等等,基于此我們探索了一種新的技術體系及交付方案來解決如上問題。 ......

    uj5u.com 2023-04-20 08:20:10 more
  • 【中介者設計模式詳解】C/Java/JS/Go/Python/TS不同語言實作

    * 中介者模式是一種行為型設計模式,它可以用來減少類之間的直接依賴關系,
    * 將物件之間的通信封裝到一個中介者物件中,從而使得各個物件之間的關系更加松散。
    * 在中介者模式中,物件之間不再直接相互互動,而是通過中介者來中轉訊息。 ......

    uj5u.com 2023-04-20 08:19:44 more
  • 露天煤礦現場調研和交流案例分享

    他們集團的資訊化公司及研究院在一個礦區正在做智能礦山的統一平臺的 試點,專案投資大概1億,包括了礦山的各方面的內容,顯示得我們這次交流有點多余。他們2年前開始做智能礦山的規劃,有很多煤礦行業專家的加持,他們的描述是非常完美,但是去年底應該上線的平臺,現在還沒有看到影子。他們確實有很多場景需求,但是被... ......

    uj5u.com 2023-04-20 08:19:07 more
  • 《社區人員管理》實戰案例設計&個人案例分享

    設計是一個讓人夢想成真程序,開始編碼、測驗、除錯之前進行需求分析和架構設計,才能保證關鍵方面都做正確 ......

    uj5u.com 2023-04-20 08:18:57 more
  • 軟體架構生態化-多角色交付的探索實踐

    作為一個技術架構師,不僅僅要緊跟行業技術趨勢,還要結合研發團隊現狀及痛點,探索新的交付方案。在日常中,你是否遇到如下問題 “ 業務需求排期長研發是瓶頸;非研發角色感受不到研發技改提效的變化;引入ISV 團隊又擔心質量和安全,培訓周期長“等等,基于此我們探索了一種新的技術體系及交付方案來解決如上問題。 ......

    uj5u.com 2023-04-20 08:18:49 more
  • 05單件模式

    #經典的單件模式 public class Singleton { private static Singleton uniqueInstance; //一個靜態變數持有Singleton類的唯一實體。 // 其他有用的實體變數寫在這里 //構造器宣告為私有,只有Singleton可以實體化這個類! ......

    uj5u.com 2023-04-19 08:42:51 more
  • 【架構與設計】常見微服務分層架構的區別和落地實踐

    軟體工程的方方面面都遵循一個最基本的道理:沒有銀彈,架構分層模型更是如此,每一種都有各自優缺點,所以請根據不同的業務場景,并遵循簡單、可演進這兩個重要的架構原則選擇合適的架構分層模型即可。 ......

    uj5u.com 2023-04-19 08:42:41 more