主頁 > 後端開發 > 想做分布式開發,需要懂哪些技術?

想做分布式開發,需要懂哪些技術?

2020-10-09 18:44:27 後端開發

閱讀建議文章多處鏈接別處詳細文章,客觀莫急建議先把文章總體閱讀完畢后,再點進去慢慢品味具體細節點,


一、前言

私底下問了幾位前同事,還有不少同行的大學同學,幾乎他們公司都在用目前主流的分布式技術框架做開發,還記得幾年前剛畢業那會,.net和php做各種企業管理系統和網站還很吃香,智能機普及安卓和ios客戶端開發大勢流行更勝一籌;硬體方面C作為底層開發的鼻祖,網游和手游風靡之下C++作為主流游戲服務端語言;再看看Java雖是不溫不火,卻仍然是應用最廣泛的開發語言,從傳統行業到通信和金融、再到移動互聯網、支付和電商等;在各種技術框架下,仍然用著Java作為第一開發語言,今天,想做分布式開發,需要掌握的技術知識點也是非常得多,如果你所在的公司正在往分布式技術堆疊遷移,或者你自己有往這方面學習和深入的打算,而又有點迷茫不知從何學期,那么,接下來就讓我們一起來看看,想做分布式開發,到底需要學會哪些技術?

二、分布式篇

首先,我們從整體的架構開始進行一個初步的認識,我們先來思考以下幾個問題,從各個層面來一一剖析分布式技術框架,讓你全面了解分布式框架知識,

1 這個技術框架,它是什么東西?

對于還沒接觸和了解過分布式框架的朋友,這個問題是你要關注的,你要學習一個東西總得先學習和了解它吧,詳細查看博主另一篇文章,非常詳細和形象的表述了單體式架構和分布式框架的區別,以類比法讓你不僅掌握了分布式框架知識,而且還能同時比較單體式架構跟分布式架構的區別:單體架構,分布式系統的差別在哪里?

2 這個技術框架,它為解決了什么問題或痛點?

傳統的單體式架構,存在團隊合作困難,每次需求迭代和修改,即使是修改一行代碼,也將涉及到整個系統的打包部署,不僅給開發和測驗帶來更多額外作業,也給運營帶來困擾需要停機維護,另一個,從系統層面上來講,單體式架構系統代碼臃腫,高內聚高耦合應對高并發時有明顯的系統性能缺陷,需要依賴機器服務集群部署來彌補軟體性能的劣勢,這時,分布式就應運而生了,它有著明顯的優勢:高內聚、低耦合,團隊協作,各個業務模塊獨立開發測驗和部署;完全避免和解決了單體式架構的缺陷與問題,這篇文章也有詳細說明:分布式框架解決了什么問題?

3 有哪些分布式框架技術?

目前主流的分布式技術除了SpringBoot/Cloud、Dubbo外,像騰訊的Tars,京東的JSF,新浪的Motan等;SpringBoot/Cloud是國際性應用最廣發的分布式框架技術,而國內也有很多互聯網公司使用國產的Dubbo和Motan框架;Dubbo是阿里巴巴開源的一個RPC(遠程程序呼叫)架構,Motan是新浪開源的輕量級RPC框架,

4 掌握這個技術框架,需要學會哪些(多少)技術?

要學習分布式技術框架,除了需要有堅實的Java基礎外,還得掌握很多分布式組件知識,接下來就把本文的重點奉獻給大家:
4.1 分布式服務框架

主要分為HTTP和RPC兩種型別,面向服務架構SOA,它是一種建設企業生態系統的架構指導思想,SOA的關注點是服務,服務最基本的業務功能是單元,由平臺中立性的介面契約來定義,通過將業務系統服務化、不同模塊解耦、各模塊間互相呼叫、訊息交換和資源共享,

主流的分布式/微服務架構:SpringBoot/Cloud、Dubbo、Tars、JSF、Motan等,

4.2 分布式事務

事物的4個基本特性:原子性、一致性、隔離性和持久性,

CAP原則和BASE理論,詳細見博文:分布式CAP理論和BASE理論

XA協議通過2PC兩階段提交,三階段提交3PC解決方案,

TCC模式(Try、Confirm、Cancle)最終一致性分布式事務的實作方案:談談分布式事務TCC機制

補償模式如重試機制達到最終一致性,

可靠事件模式通過異步處理、系統解耦、流量削峰等:訊息中間件MQ系列

開源方案有:tcc-tranction、Elastic-Job、ShardingSphere、seata、MQ,

4.3 分布式鎖

  • 在分布式系統環境下,一個方法在同一時間只能被一個機器的一個執行緒執行,
  • 高可用的獲取鎖與釋放鎖
  • 高性能的獲取鎖與釋放鎖
  • 具備可重入特性(可理解為重新進入,由多于一個任務并發使用,而不必擔心資料錯誤)
  • 具備鎖失效機制,防止死鎖
  • 具備非阻塞鎖特性,即沒有獲取到鎖將直接回傳獲取鎖失敗

經典方案:基于zookeeper或者redis實作分布式鎖,

4.4 分布式快取

分布式快取是為了解決web服務器與資料庫服務器之間的瓶頸,如果訪問流量大,那么這個瓶頸就越大,資料庫的讀取壓力將會非常大,即使此時資料庫已經做了讀寫分離,那么為了分擔資料庫的壓力,需要將資料快取起來,這是可以在業務層,快取資料,

經典方案:redis、memcache 實作,

4.5 分布式訊息系統

主要解決應用耦合,異步訊息,流量削鋒等問題,實作高性能,高可用,可伸縮和最終一致性架構(分布式事務),

經典方案:Kafka、ActiveMQ、RabbitMQ、RocketMQ (詳見文章)訊息中間件MQ系列 Zookeeper搭載kafka訊息發布和訂閱

4.6 分布式搜索系統

分布式的環境中,利用分布式計算和移動代理等技術從大量的、異構的資訊資源中檢索出對于用戶有用的資訊的程序,分布式環境指的是資訊資源在物理上分布于不同的地點,在資料庫結構上具有異構性,這些分散和異構的資訊資源在邏輯上是一個整體,從而構成一個分布式檢索系統,

經典解決方案:Elasticsearch(基于Luence)

4.7 分布式調度

任務調度是指基于給定的時間點,給定的時間間隔或者給定執行次數自動的執行任務,任務調度是是作業系統的重要組成部分,而對于實時的作業系統,任務調度直接影響著作業系統的實時性能,任務調度涉及到多執行緒并發、運行時間規則定制及決議、執行緒池的維護等諸多方面的作業,

分布式任務調度框架:cronsun、Elastic-job、saturn、lts、TBSchedule、xxl-job等

4.8 配置中心

隨著業務的發展、微服務架構的升級,服務的數量、程式的配置日益增多(各種微服務、各種服務器地址、各種引數),傳統的組態檔方式和資料庫的方式已無法滿足開發人員對配置管理的要求:

  • 安全性:配置跟隨源代碼保存在代碼庫中,容易造成配置泄漏,
  • 時效性:修改配置,需要重啟服務才能生效,
  • 局限性:無法支持動態調整:例如日志開關、功能開關,

常見分布式配置中心:Spring config 、Apollo 、nacos、Diamond、Disconf (詳見)SpringCloud-Config配置中心學習總結

4.9 注冊中心

注冊中心主要涉及到三大角色:

  1. 服務提供者
  2. 服務消費者
  3. 注冊中心

關系大致如下:

  • 各個微服務在啟動時,將自己的網路地址等資訊注冊到注冊中心,注冊中心存盤這些資料,

  • 服務消費者從注冊中心查詢服務提供者的地址,并通過該地址呼叫服務提供者的介面,

  • 各個微服務與注冊中心使用一定機制(例如心跳)通信,如果注冊中心與某微服務長時間無法通信,就會注銷該實體,

  • 微服務網路地址發送變化(例如實體增加或IP變動等)時,會重新注冊到注冊中心,這樣,服務消費者就無需人工修改提供者的網路地址了,

主要解決方案:Zookeeper、Eureka、Nacos、Consul

4.10 分布式鏈路追蹤

分布式系統變得日趨復雜,越來越多的組件開始走向分布式化,如微服務、分布式資料庫、分布式快取等,使得后臺服務構成了一種復雜的分布式網路,在服務能力提升的同時,復雜的網路結構也使問題定位更加困難,在一個請求在經過諸多服務程序中,出現了某一個呼叫失敗的情況,

分布式鏈路追蹤就是將一次分布式請求還原成呼叫鏈路,將一次分布式請求的呼叫情況集中展示,比如各個服務節點上的耗時、請求具體到達哪臺機器上、每個服務節點的請求狀態等等,

解決方案:Zipkin、Brave、Dapper、CAT、Mtrace等

4.11 服務監控

分布式系統復雜,需要有一個監控來將整個應用呼叫的全程序進行全天候監控,也能對系統資源、第三方組件進行監控,確保能夠第一時間發現問題并及時解決問題,

  • web地址回應性能監控與統計
  • 服務回應新能監控與統計
  • RPC服務回應性能監控與統計
  • API介面回應性能監控與統計
  • 組件節點監控(MySQL、Redis、MQ)
  • 系統CPU、記憶體、硬體監控
  • 系統例外監控與統計

解決方案:Zabbix、Nagios、Metrics、Spectator

4.12 日志收集和分析

集中化管理日志后,日志的統計和檢索又成為一件比較麻煩的事情,分布式日志手機解決更高的查詢、排序和統計,

主要組件:FileBeat + Kafka + ELK(Logstash)、Flume

4.13 服務路由網關

路由網關的角色是作為一個API架構,用來保護、增強和控制對于API服務的訪問,它處于應用程式或服務之前的系統,用來管理授權、訪問控制和流量限制等,

四大路由網關:Zuul 2、SpringCLoud Gateway、Kong、OpenResty (詳見文章)這些微服務網關你了解嗎?

4.14 服務熔斷器

復雜的分布式架構的應用程式有很多依賴,都會不可避免的出現服務故障等問題,高并發的依賴失敗時,如果沒有采取措施,當前應用服務就有被拖垮的風險,

當下游服務因為訪問壓力過大或者其他原因導致影響變慢的時候,上游服務為了保護自己以及系統整體的可用性,可以暫時切斷對下游服務的呼叫,

解決方案:Hystrix、Envoy

4.15 負載均衡

一臺服務器的處理能力,主要受限于服務器自身的可擴展硬體能力,所以,在需要處理大量用戶請求的時候,通常都會引入負載均衡器,將多臺普通服務器組成一個系統,來完成高并發的請求處理任務,

我們通常說的負載均衡都是指web服務端負載均衡,但是涉及到分布式系統時,就不是簡單的服務端負載均衡了,一般都需要在各個業務系統間維護一個客戶端的負載均衡機制,

服務端負載均衡:Nginx 、OpenResty

客戶端負載均衡:Ribbon和Feign

詳見文章:Ribbon和Feign客戶端負載均衡及服務呼叫

三、總結

分布式技術堆疊是一個復雜和龐大的體系,每一個知識點都博大精深,想要深入精髓達到精通的境界難度非常大,但我們只需要達到掌握其基本理論和一些常用技術點,用以解決日常作業中的問題就足夠了,

以上所有組件技術都收錄在了公眾號:SpringCloud微服務構建淺析


既然都看完了整篇文章,相信對你一定有所幫助,原創不易,遠離伸手黨,

點擊下方【打賞】小編,或者關注公眾號給予支持,你們的每一份鼓勵都將是小編偉大的動力,


同名原創公眾號: 程式大視界

轉載請註明出處,本文鏈接:https://www.uj5u.com/houduan/164912.html

標籤:java

上一篇:程式員必備的幾個網站

下一篇:makefile生成多個目標檔案的寫法(linux程式員必須掌握的程式編譯技能)

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【C++】Microsoft C++、C 和匯編程式檔案

    ......

    uj5u.com 2020-09-10 00:57:23 more
  • 例外宣告

    相比于斷言適用于排除邏輯上不可能存在的狀態,例外通常是用于邏輯上可能發生的錯誤。 例外宣告 Item 1:當函式不可能拋出例外或不能接受拋出例外時,使用noexcept 理由 如果不打算拋出例外的話,程式就會認為無法處理這種錯誤,并且應當盡早終止,如此可以有效地阻止例外的傳播與擴散。 示例 //不可 ......

    uj5u.com 2020-09-10 00:57:27 more
  • Codeforces 1400E Clear the Multiset(貪心 + 分治)

    鏈接:https://codeforces.com/problemset/problem/1400/E 來源:Codeforces 思路:給你一個陣列,現在你可以進行兩種操作,操作1:將一段沒有 0 的區間進行減一的操作,操作2:將 i 位置上的元素歸零。最終問:將這個陣列的全部元素歸零后操作的最少 ......

    uj5u.com 2020-09-10 00:57:30 more
  • UVA11610 【Reverse Prime】

    本人看到此題沒有翻譯,就附帶了一個自己的翻譯版本 思考 這一題,它的第一個要求是找出所有 $7$ 位反向質數及其質因數的個數。 我們應該需要質數篩篩選1~$10^{7}$的所有數,這里就不慢慢介紹了。但是,重讀題,我們突然發現反向質數都是 $7$ 位,而將它反過來后的數字卻是 $6$ 位數,這就說明 ......

    uj5u.com 2020-09-10 00:57:36 more
  • 統計區間素數數量

    1 #pragma GCC optimize(2) 2 #include <bits/stdc++.h> 3 using namespace std; 4 bool isprime[1000000010]; 5 vector<int> prime; 6 inline int getlist(int ......

    uj5u.com 2020-09-10 00:57:47 more
  • C/C++編程筆記:C++中的 const 變數詳解,教你正確認識const用法

    1、C中的const 1、區域const變數存放在堆疊區中,會分配記憶體(也就是說可以通過地址間接修改變數的值)。測驗代碼如下: 運行結果: 2、全域const變數存放在只讀資料段(不能通過地址修改,會發生寫入錯誤), 默認為外部聯編,可以給其他源檔案使用(需要用extern關鍵字修飾) 運行結果: ......

    uj5u.com 2020-09-10 00:58:04 more
  • 【C++犯錯記錄】VS2019 MFC添加資源不懂如何修改資源宏ID

    1. 首先在資源視圖中,添加資源 2. 點擊新添加的資源,復制自動生成的ID 3. 在解決方案資源管理器中找到Resource.h檔案,編輯,使用整個專案搜索和替換的方式快速替換 宏宣告 4. Ctrl+Shift+F 全域搜索,點擊查找全部,然后逐個替換 5. 為什么使用搜索替換而不使用屬性視窗直 ......

    uj5u.com 2020-09-10 00:59:11 more
  • 【C++犯錯記錄】VS2019 MFC不懂的批量添加資源

    1. 打開資源頭檔案Resource.h,在其中預先定義好宏 ID(不清楚其實ID值應該設定多少,可以先新建一個相同的資源項,再在這個資源的ID值的基礎上遞增即可) 2. 在資源視圖中選中專案資源,按F7編輯資源檔案,按 ID 型別 相對路徑的形式添加 資源。(別忘了先把檔案拷貝到專案中的res檔案 ......

    uj5u.com 2020-09-10 01:00:19 more
  • C/C++編程筆記:關于C++的參考型別,專供新手入門使用

    今天要講的是C++中我最喜歡的一個用法——參考,也叫別名。 參考就是給一個變數名取一個變數名,方便我們間接地使用這個變數。我們可以給一個變數創建N個參考,這N + 1個變數共享了同一塊記憶體區域。(參考型別的變數會占用記憶體空間,占用的記憶體空間的大小和指標型別的大小是相同的。雖然參考是一個物件的別名,但 ......

    uj5u.com 2020-09-10 01:00:22 more
  • 【C/C++編程筆記】從頭開始學習C ++:初學者完整指南

    眾所周知,C ++的學習曲線陡峭,但是花時間學習這種語言將為您的職業帶來奇跡,并使您與其他開發人員區分開。您會更輕松地學習新語言,形成真正的解決問題的技能,并在編程的基礎上打下堅實的基礎。 C ++將幫助您養成良好的編程習慣(即清晰一致的編碼風格,在撰寫代碼時注釋代碼,并限制類內部的可見性),并且由 ......

    uj5u.com 2020-09-10 01:00:41 more
最新发布
  • Rust中的智能指標:Box<T> Rc<T> Arc<T> Cell<T> RefCell<T> Weak

    Rust中的智能指標是什么 智能指標(smart pointers)是一類資料結構,是擁有資料所有權和額外功能的指標。是指標的進一步發展 指標(pointer)是一個包含記憶體地址的變數的通用概念。這個地址參考,或 ” 指向”(points at)一些其 他資料 。參考以 & 符號為標志并借用了他們所 ......

    uj5u.com 2023-04-20 07:24:10 more
  • Java的值傳遞和參考傳遞

    值傳遞不會改變本身,參考傳遞(如果傳遞的值需要實體化到堆里)如果發生修改了會改變本身。 1.基本資料型別都是值傳遞 package com.example.basic; public class Test { public static void main(String[] args) { int ......

    uj5u.com 2023-04-20 07:24:04 more
  • [2]SpinalHDL教程——Scala簡單入門

    第一個 Scala 程式 shell里面輸入 $ scala scala> 1 + 1 res0: Int = 2 scala> println("Hello World!") Hello World! 檔案形式 object HelloWorld { /* 這是我的第一個 Scala 程式 * 以 ......

    uj5u.com 2023-04-20 07:23:58 more
  • 理解函式指標和回呼函式

    理解 函式指標 指向函式的指標。比如: 理解函式指標的偽代碼 void (*p)(int type, char *data); // 定義一個函式指標p void func(int type, char *data); // 宣告一個函式func p = func; // 將指標p指向函式func ......

    uj5u.com 2023-04-20 07:23:52 more
  • Django筆記二十五之資料庫函式之日期函式

    本文首發于公眾號:Hunter后端 原文鏈接:Django筆記二十五之資料庫函式之日期函式 日期函式主要介紹兩個大類,Extract() 和 Trunc() Extract() 函式作用是提取日期,比如我們可以提取一個日期欄位的年份,月份,日等資料 Trunc() 的作用則是截取,比如 2022-0 ......

    uj5u.com 2023-04-20 07:23:45 more
  • 一天吃透JVM面試八股文

    什么是JVM? JVM,全稱Java Virtual Machine(Java虛擬機),是通過在實際的計算機上仿真模擬各種計算機功能來實作的。由一套位元組碼指令集、一組暫存器、一個堆疊、一個垃圾回收堆和一個存盤方法域等組成。JVM屏蔽了與作業系統平臺相關的資訊,使得Java程式只需要生成在Java虛擬機 ......

    uj5u.com 2023-04-20 07:23:31 more
  • 使用Java接入小程式訂閱訊息!

    更新完微信服務號的模板訊息之后,我又趕緊把微信小程式的訂閱訊息給實作了!之前我一直以為微信小程式也是要企業才能申請,沒想到小程式個人就能申請。 訊息推送平臺🔥推送下發【郵件】【短信】【微信服務號】【微信小程式】【企業微信】【釘釘】等訊息型別。 https://gitee.com/zhongfuch ......

    uj5u.com 2023-04-20 07:22:59 more
  • java -- 緩沖流、轉換流、序列化流

    緩沖流 緩沖流, 也叫高效流, 按照資料型別分類: 位元組緩沖流:BufferedInputStream,BufferedOutputStream 字符緩沖流:BufferedReader,BufferedWriter 緩沖流的基本原理,是在創建流物件時,會創建一個內置的默認大小的緩沖區陣列,通過緩沖 ......

    uj5u.com 2023-04-20 07:22:49 more
  • Java-SpringBoot-Range請求頭設定實作視頻分段傳輸

    老實說,人太懶了,現在基本都不喜歡寫筆記了,但是網上有關Range請求頭的文章都太水了 下面是抄的一段StackOverflow的代碼...自己大修改過的,寫的注釋挺全的,應該直接看得懂,就不解釋了 寫的不好...只是希望能給視頻網站開發的新手一點點幫助吧. 業務場景:視頻分段傳輸、視頻多段傳輸(理 ......

    uj5u.com 2023-04-20 07:22:42 more
  • Windows 10開發教程_編程入門自學教程_菜鳥教程-免費教程分享

    教程簡介 Windows 10開發入門教程 - 從簡單的步驟了解Windows 10開發,從基本到高級概念,包括簡介,UWP,第一個應用程式,商店,XAML控制元件,資料系結,XAML性能,自適應設計,自適應UI,自適應代碼,檔案管理,SQLite資料庫,應用程式到應用程式通信,應用程式本地化,應用程式 ......

    uj5u.com 2023-04-20 07:22:35 more