主頁 > 軟體設計 > 微服務中「組件」集成

微服務中「組件」集成

2023-06-19 09:02:42 軟體設計

目錄
  • 一、簡介
  • 二、快取管理
  • 三、訊息佇列
  • 四、搜索引擎
  • 五、定時任務
  • 六、資料存盤
  • 七、參考原始碼

有品:There is no silver bullet;

一、簡介

在微服務工程的技術選型中,會涉及到很多組件的集成,最常用包括:快取、訊息佇列、搜索、定時任務、存盤等幾個方面;

如果工程是單服務,對于集成組件的管理來說并不算復雜;但是在分布式的多服務系統中,隨著拆分的服務數量上升,統一管理各種組件的復雜度也會提高;

如上圖,是團隊內部維護的一份重要的系統清單:描述整個微服務體系中核心組件的依賴情況;【并不完整】

在整個工程內部拆分了幾十個服務,基于一份系統架構圖和一份組件依賴清單,如果熟悉微服務架構模式,可以非常快速的了解系統的基礎原理和結構;

復雜系統對于中間件的依賴很重,需要在實踐程序中不斷的積累和總結經驗,持續優化各種組件的應用策略;

對于組件來說,與專案工程的集成模式,核心的應用場景,以及在業務場景中的迭代優化,是研發需要重點關注的方面;

二、快取管理

【集成模式】

Redis作為最常見的快取選型,在與分布式工程集成時,其形式也存在很大的靈活度;

單服務:在分布式工程中,如果服務使用獨立的Redis組件,通常是該服務支持的業務場景比較獨特,比如高并發或者資料體量較大等;

分布式服務:微服務常見的集成方式,不同的服務使用同一個Redis的不同DB編號,其他服務必須通過該服務的介面訪問其快取資料;

快取中心:整個工程基于一個快取中心服務來管理,其適配的業務場景比較特殊,多個服務緊密協作,調度和處理相同的資料主體;

在實際的分布式系統中,通常是模式一模式二兩種都采用,而模式三更多的是應對特殊的需求場景;

【應用方式】

雖然Redis可以極大的提升效率,但是在實際的應用中,涉及最多的就是資料快取和加鎖兩個核心能力,對于組件的API使用并不算復雜;

無論是在框架層面的淺封裝一層,還是圍繞Redis組件撰寫常用的工具方法,都可以很好的實作工程和Redis相關API之間的解耦;不同服務之間快取資料獲取,需要通過各個服務提供的介面進行查詢;

三、訊息佇列

【集成模式】

Kafka作為訊息佇列的常見技術選型,在與分布式工程集成時,在設計上會圍繞訊息生產和消費的基本模式;

服務內集成:在各個服務內部直接引入訊息組件,服務可能是訊息生產者也可能是消費者,當重度依賴訊息通信時,流程可維護性比較差;

訊息服務封裝:單獨封裝訊息生產消費兩個服務,來統一調度和管理訊息通信,雖然提高了技術面的復雜度,但是極大降低了異步流程的管理難度;

在實際應用時,如果工程內對于訊息的使用并不高頻,通常是采用模式一的策略,建議做好流程注釋和檔案維護;如果訊息使用非常高頻,可以考慮模式二的策略,減輕組件維護的難度;

【應用方式】

生產和消費能力追求平衡,即便有偏差也只能是訊息的【消費】大于【生產】的效率,才能避免訊息堆積從而影響正常的業務流程;

實踐來看單純的基于MQ的重試機制,并不能穩定的解決分布式架構中復雜流程的中斷問題,需要圍繞訊息的存盤設計相應的調度策略,從而推動整個流程的完整執行,無論是向下推進還是向前回滾;

四、搜索引擎

【集成模式】

對于搜索引擎Elasticsearch來說,個人感覺在常規業務場景中是最容易出問題的組件,使用ES索引的資料模型,通常結構復雜并且資料體量偏大,還涉及到大量的檢索條件;

服務內管理索引和資料:通常是核心的業務場景,對資料的實時性要求極高,從常規的架構設計來考慮,雖然索引相關的結構和資料可能來自多個資料庫,但是其管理的介面會統一封裝在業務聯系最密切的服務內;

獨立組件管理索引資料:基于獨立的組件(常用Logstash)進行調度,動態地采集、轉換和傳輸資料,不受格式或復雜度的影響,資料往往以各種各樣的形式,或分散或集中地存在于很多系統中;

無論是模式一還是模式二,都是ES常用的集成策略,比如模式一對于核心資料模型的構建,常見于訂單或商品等,模式二的經典用法之一ELK日志采集等;

【應用方式】

以服務內部管理索引的方式來說,多數情況下索引的結構會不斷的擴展,結構更新必然也會引起資料和檢索條件的同步更新,如果是結構新增的方式更新,管理難度并不大,但是已有欄位的型別更新,還需要索引重建;

對于ES這種操作起來比較復雜的技術組件,建議是把各種常用的操作撰寫程式腳本來處理,并且開發相應的管理功能,用更加穩定可控的方式來管理索引的結構和資料調度;

五、定時任務

【集成模式】

Quartz任務調度組件,在分布式系統中并不算復雜,基于定時器去觸發各種任務執行即可;

服務內構建定時器:在一些簡單的相對獨立的服務中,可以在服務內配置定時器,去執行相應的任務流程,這種模式在復雜的分布式系統中很難維護;

獨立的任務調度服務:可以統一管理任務的調度策略和執行方式(比如同步或異步),同時對任務調度服務進行監控和維護,以此確保任務調度系統的穩定性和可靠性;

通常模式一只會在個別獨立的服務中采用,對于模式二來說,封裝獨立的任務調度服務,可以統一與其他服務進行集成或者通信,比如通過訊息服務及時通知失敗的任務等;

【應用方式】

在任務調度服務中,難免要和其他服務進行通信互動,從而觸發相關任務的執行,如果系統內部定時任務不多的話,可以采用feign介面的方式觸發,如果任務非常多,可以考慮直接構建Http請求的方式,避免服務頻繁的升級迭代;

在調度任務中可能存在資料體量比較大的場景,通常就是采用分片演算法加執行緒池并發處理的策略,但是前提也要優化好資料查詢和任務處理流程,從整體上提升任務的執行效率;

六、資料存盤

【集成模式】

以MySQL為代表的資料存盤是系統中最核心的一層,其集成的形式也是靈活多變,與存盤層相關的組件更是五花八門;

多服務共用資料庫:對于模式一來說,在相對簡單的系統中比較常用,或者服務和資料庫本身偏向通用的功能性質,可以采用這種策略;

服務和庫的拆分模式二是分布式架構中最常用的設計,每個服務都具有自己相應的獨立資料庫,其他服務想要訪問必須通過呼叫相應服務提供的介面才可以;

多資料源模式:在一個服務內集成多個資料源,像模式三讀寫分離和模式四分庫分表,這是偏資料服務的業務場景中經常使用的模式;

對于系統中的資料源管理本身就是一件復雜的事情,需要兼顧各個方面,比如資料讀寫性能,資料安全,以及服務的穩定性等;

【應用方式】

在常規的微服務工程中,通常每個服務都會使用各自獨立的資料庫,在多資料源的集成模式中,常用的邏輯就是動態路由、讀寫分離、分庫分表等,如果邏輯簡單可以自定義封裝,如果邏輯復雜可以使用成熟的組件;

服務集成多資料源的模式中,存在一個比較明顯的復雜問題,如何在不停止服務的情況下,進行資料源的動態管理,此前實踐過的模式:提供不同資料源的適配服務來實作各自的策略,在完成資料源的動態調整后,停止其中舊服務即可,雖然流程偏重偏復雜,但是穩定可靠;

七、參考原始碼

編程檔案:
https://gitee.com/cicadasmile/butte-java-note

應用倉庫:
https://gitee.com/cicadasmile/butte-flyer-parent
Gitee主頁: https://gitee.com/cicadasmile/butte-java-note

轉載請註明出處,本文鏈接:https://www.uj5u.com/ruanti/555538.html

標籤:其他

上一篇:微服務中「組件」集成

下一篇:返回列表

標籤雲
其他(161265) Python(38240) JavaScript(25505) Java(18246) C(15237) 區塊鏈(8271) C#(7972) AI(7469) 爪哇(7425) MySQL(7258) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5875) 数组(5741) R(5409) Linux(5347) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4603) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2436) ASP.NET(2404) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) .NET技术(1984) HtmlCss(1968) 功能(1967) Web開發(1951) C++(1942) python-3.x(1918) 弹簧靴(1913) xml(1889) PostgreSQL(1881) .NETCore(1863) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 面試突擊第一季,第二季,第三季

    第一季必考 https://www.bilibili.com/video/BV1FE411y79Y?from=search&seid=15921726601957489746 第二季分布式 https://www.bilibili.com/video/BV13f4y127ee/?spm_id_fro ......

    uj5u.com 2020-09-10 05:35:24 more
  • 第三單元作業總結

    1.前言 這應該是本學期最后一次寫作業總結了吧。總體來說,對作業的節奏也差不多掌握了,作業做起來的效率也更高了。雖然和之前的作業一樣,作業中都要用到新的知識,但是相比之前,更加懂得了如何利用工具以及資料。雖然之間卡過殼,但總體而言,這幾次作業還算完成的比較好。 2.作業程序總結 相比前兩個單元,此單 ......

    uj5u.com 2020-09-10 05:35:41 more
  • 北航OO(2020)第四單元博客作業暨課程總結博客

    北航OO(2020)第四單元博客作業暨課程總結博客 本單元作業的架構設計 在本單元中,由于UML圖具有比較清晰的樹形結構,因此我對其中需要進行查詢操作的元素進行了包裝,在樹的父節點中存盤所有孩子的參考。考慮到性能問題,我采用了快取機制,一次查詢后盡可能快取已經遍歷過的資訊,以減少遍歷次數。 本單元我 ......

    uj5u.com 2020-09-10 05:35:48 more
  • BUAA_OO_第四單元

    一、UML決議器設計 ? 先看下題目:第四單元實作一個基于JDK 8帶有效性檢查的UML(Unified Modeling Language)類圖,順序圖,狀態圖分析器 MyUmlInteraction,實際上我們要建立一個有向圖模型,UML中的物件(元素)可能與同級元素連接,也可與低級元素相連形成 ......

    uj5u.com 2020-09-10 05:35:54 more
  • 6.1邏輯運算子

    邏輯運算子 1. && 短路與 運算式1 && 運算式2 01.運算式1為true并且運算式2也為true 整體回傳為true 02.運算式1為false,將不會執行運算式2 整體回傳為false 03.只要有一個運算式為false 整體回傳為false 2. || 短路或 運算式1 || 運算式2 ......

    uj5u.com 2020-09-10 05:35:56 more
  • BUAAOO 第四單元 & 課程總結

    1. 第四單元:StarUml檔案決議 本單元采用了圖模型決議UML。 UML檔案可以抽象為圖、子圖、邊的邏輯結構。 在實作中,圖的節點包括類、介面、屬性,子圖包括狀態圖、順序圖等。 采用了三次遍歷UML元素的方法建圖,第一遍遍歷建點,第二、三次遍歷設定屬性、連邊,實作圖物件的初始化。這里借鑒了一些 ......

    uj5u.com 2020-09-10 05:36:06 more
  • 談談我對C# 多型的理解

    面向物件三要素:封裝、繼承、多型。 封裝和繼承,這兩個比較好理解,但要理解多型的話,可就稍微有點難度了。今天,我們就來講講多型的理解。 我們應該經常會看到面試題目:請談談對多型的理解。 其實呢,多型非常簡單,就一句話:呼叫同一種方法產生了不同的結果。 具體實作方式有三種。 一、多載 多載很簡單。 p ......

    uj5u.com 2020-09-10 05:36:09 more
  • Python 資料驅動工具:DDT

    背景 python 的unittest 沒有自帶資料驅動功能。 所以如果使用unittest,同時又想使用資料驅動,那么就可以使用DDT來完成。 DDT是 “Data-Driven Tests”的縮寫。 資料:http://ddt.readthedocs.io/en/latest/ 使用方法 dd. ......

    uj5u.com 2020-09-10 05:36:13 more
  • Python里面的xlrd模塊詳解

    那我就一下面積個問題對xlrd模塊進行學習一下: 1.什么是xlrd模塊? 2.為什么使用xlrd模塊? 3.怎樣使用xlrd模塊? 1.什么是xlrd模塊? ?python操作excel主要用到xlrd和xlwt這兩個庫,即xlrd是讀excel,xlwt是寫excel的庫。 今天就先來說一下xl ......

    uj5u.com 2020-09-10 05:36:28 more
  • 當我們創建HashMap時,底層到底做了什么?

    jdk1.7中的底層實作程序(底層基于陣列+鏈表) 在我們new HashMap()時,底層創建了默認長度為16的一維陣列Entry[ ] table。當我們呼叫map.put(key1,value1)方法向HashMap里添加資料的時候: 首先,呼叫key1所在類的hashCode()計算key1 ......

    uj5u.com 2020-09-10 05:36:38 more
最新发布
  • 微服務中「組件」集成

    在微服務工程的技術選型中,會涉及到很多組件的集成,最常用包括:快取、訊息佇列、搜索、定時任務、存盤等幾個方面;隨著系統的服務數量上升,統一管理各種組件的復雜度也會提高; ......

    uj5u.com 2023-06-19 09:02:42 more
  • 微服務中「組件」集成

    在微服務工程的技術選型中,會涉及到很多組件的集成,最常用包括:快取、訊息佇列、搜索、定時任務、存盤等幾個方面;隨著系統的服務數量上升,統一管理各種組件的復雜度也會提高; ......

    uj5u.com 2023-06-19 08:56:39 more
  • 迭代器模式(Iterator Pattern)

    ### 迭代器模式(Iterator Pattern) #### 一、定義 提供一種方法順序訪問一個聚合物件中各個元素,而又不需要暴露該物件的內部表示。 #### 二、優缺點 **優點:** 1、它支持以不同的方式遍歷一個聚合物件。 2、迭代器簡化了聚合類。 3、在同一個聚合上可以有多個遍歷。 4、 ......

    uj5u.com 2023-06-18 08:06:41 more
  • 迭代器模式(Iterator Pattern)

    ### 迭代器模式(Iterator Pattern) #### 一、定義 提供一種方法順序訪問一個聚合物件中各個元素,而又不需要暴露該物件的內部表示。 #### 二、優缺點 **優點:** 1、它支持以不同的方式遍歷一個聚合物件。 2、迭代器簡化了聚合類。 3、在同一個聚合上可以有多個遍歷。 4、 ......

    uj5u.com 2023-06-18 08:06:26 more
  • 8路TTL串口轉以太網串口服務器芯片EBT3002功能

    EBT3002串口服務器芯片簡介 EBT3002 以太網芯片是實作8路TTL串口資料與以太網資料互相轉換的以太網串口服務器芯片;該以太網芯片具有多種Modbus網關模式以及TCP/DUP/MQTT/HTTP物聯網網關模式,可滿足各類串口IO聯網設備與PLC設備的聯網功能。以太網芯片采用采用LQFP1 ......

    uj5u.com 2023-06-17 08:10:47 more
  • 如何保證登錄程序中密碼的安全性

    確保密碼的安全性是非常重要的,以下是幾種常見的方法來提高密碼的安全性: 1. 使用加密傳輸:在密碼提交到后端之前,確保使用安全的加密協議(如HTTPS)來加密資料傳輸,以防止密碼被中間人攻擊竊取。 2. 密碼哈希:在后端接收到密碼后,使用密碼哈希演算法(如SHA-256)對密碼進行哈希處理,將密碼轉換 ......

    uj5u.com 2023-06-17 08:10:37 more
  • 8路TTL串口轉以太網串口服務器芯片EBT3002功能

    EBT3002串口服務器芯片簡介 EBT3002 以太網芯片是實作8路TTL串口資料與以太網資料互相轉換的以太網串口服務器芯片;該以太網芯片具有多種Modbus網關模式以及TCP/DUP/MQTT/HTTP物聯網網關模式,可滿足各類串口IO聯網設備與PLC設備的聯網功能。以太網芯片采用采用LQFP1 ......

    uj5u.com 2023-06-17 08:10:05 more
  • 如何保證登錄程序中密碼的安全性

    確保密碼的安全性是非常重要的,以下是幾種常見的方法來提高密碼的安全性: 1. 使用加密傳輸:在密碼提交到后端之前,確保使用安全的加密協議(如HTTPS)來加密資料傳輸,以防止密碼被中間人攻擊竊取。 2. 密碼哈希:在后端接收到密碼后,使用密碼哈希演算法(如SHA-256)對密碼進行哈希處理,將密碼轉換 ......

    uj5u.com 2023-06-17 08:09:55 more
  • 架構師日記-從技術角度揭露電商大促備戰的奧秘

    根據資料統計,我們可以得出結論:每年的618大促銷售額約占全年銷售額的10%左右。以2022年618大促銷售額為例,大促期間,每分鐘的銷售額平均高達1463萬元。因此,從技術角度來看,保證服務的穩定性是至關重要的。相信這些資料可以為您在大促期間制定任務優先級和做出決策提供有價值的參考。 ......

    uj5u.com 2023-06-16 08:25:34 more
  • 【技識訓累】軟體設計模式中的工廠模式【一】

    博客推行版本更新,成果積累制度,已經寫過的博客還會再次更新,不斷地琢磨,高質量高數量都是要追求的,工匠精神是學習必不可少的精神。因此,大家有何建議歡迎在評論區踴躍發言,你們的支持是我最大的動力,你們敢投,我就敢肝 ......

    uj5u.com 2023-06-15 08:37:05 more