主頁 > 軟體設計 > 上億用戶量負載均衡架構決議

上億用戶量負載均衡架構決議

2021-11-05 07:48:47 軟體設計

前言

整篇文章主要通過對軟硬體負載均衡設備,服務器負載均衡的局限,DNS核心流程、客戶端和 服務端負載均衡異同、DNS負載均衡優缺點分析;以及CDN構建的好處、CDN重繪機制分析、常用CDN平臺分析;進行一個大得決議,如何搭建一個上億用戶量的負載均衡架構,

上億用戶量背后的負載均衡整體架構

負載均衡調度器,分擔網路請求到后端集群,解決集群帶來的問題,
CDN和反向代理, 基本原理都是快取,也是解決我們地區太大,導致不磁區訪問非常慢
反向代理部署在網站中心機房,CDN則靠近用戶的網路服務提供商

負載均衡層

面對大流量時,單臺服務器很難支撐大流量的請求,使用負債均衡層帶來的好處,還有產生了集群,因此可動態擴展,應用服務器增加,線性擴展,伸縮,

F5也能用來架設防火墻集群
LVS能做成集群、主從、雙主的形式
Nginx能做成集群、主從形式

進行層層拆分流量,

硬體負載均衡

F5的全稱是F5-BIG-IP LTM,是最流行的硬體負載均衡設備,并發能力達到百萬級,
F5產品系列:
F5 BIG-IP ASM應用安全管理器產品
F5 BIG-IP Edge Gateway產品
F5 BIG-IP GTM廣域流量管理器產品
F5 BIG-IP LTM本地流量管理器產品
F5 BIG-IP SAM 安全接入管理器產品
F5 BIG-IP Web應用加速器產品
F5 BIG-IP 鏈路控制器產品
F5 BIG-IP 企業管理器產品
F5 BIG-IP 廣域網優化模塊產品
F5的特性包括:
1. 多鏈路的負載均衡和冗余
2. 防火墻負載均衡
3. 服務器負載均衡
4. 高可用
5. 安全性
6. 易于管理
7. 還提供SSL加速、軟體升級、IP地址過濾、帶寬控制等輔助功能
F5 | 多云安全性和應用交付

對于硬體負載均衡價格是有點高的,而且并不對資料做處理,只是做一個壓縮轉發,

看起來就像是交換機路由器,

軟硬體負載均衡的區別

硬體負載均衡比軟體負載均衡支撐更多的高并發,相當大,硬體負載均衡里面都是從硬體級別去定制,而不是像軟體負載均衡運行在我們的計算機上,

硬體負載均衡設備有:NetScaler、F5、Radware和Array等,硬體負載均衡優點有專業團隊進行維護,單機抗壓能力強悍;缺點花銷太大,規模較小的網站來說還不需要使用,直接使用軟體負載均衡就行,
軟體負載均衡有:LVS/HAProxy、Nginx等,基于Linux的開源免費的負載均衡軟體策略,通過軟體級別來實作,費用非常低廉,很多大型的互聯網公司都采用軟體負載均衡來架設自己網站,軟體負載均衡穩定性非常好,幾乎很少宕機,
我們的電腦也具有路由功能,但是路由器卻更善于處理網路路由的事情,硬體負載均衡比軟體負載均衡強悍,是因為其內部有針對性的設計硬體設備,專門用來處理網路傳輸流量處理,

服務器負載均衡無法實作10億級并發

再強悍的硬體負載設備,單臺服務器的處理能力是有限的,
當達到某一個瓶頸時如何處理?

負載均衡方案DNS

DNS,Domain Name System,域名系統是因特網上作為域名和IP地址相互映射的一個 分布式資料庫 ,方便用戶訪問互聯網,一個域名對應多個IP地址, 有這個dns,可以使并發量增加,
一種簡單的設計模式,在因特網上只使用一個DNS服務器,該服務器包含所有的映射,不適用當前的互聯網,單點故障、通信容量、遠距離延時、維護成本大,
DNS服務器一般分三種,根DNS服務器,頂級DNS服務器,權威DNS服務器,使用分布式的層次資料庫模式以及快取方法來解決單點集中式的問題,
通過頂級域名去尋找,往下進行找,最后找到對應的ip地址,

DNS核心流程分析

DNS決議程序,從瀏覽器出發:
  • 1. 本地的hosts檔案,也是我們修改本地服務,就能找到,
  • 2. 本地DNS決議器快取,
  • 3. 本地DNS服務器,權威
  • 4. 本地DNS服務器快取,非權威
  • 5. 本地DNS服務器找不到 非轉發,根DNS服務器—>頂級域名服務器 轉發上一級DNS服務器,如此回圈
  • 6. 由本地DNS服務器再回傳給客戶機
用命令 nslookup www.qq.com 試試
從客戶端到本地DNS服務器是屬于遞回查詢,而DNS服務器之間就是的互動查詢就是迭代查詢,

配置的這個,找對應的域名的映射,

直到找到對應的ip地址,一般會有快取起來,所以我們一般訪問過后效率會很快也是這個原因,

DNS負載均衡優缺點分析

優點:
  • 技術實作比較靈活、方便,簡單易行,成本低,適用大多數TCP/IP應用,不需要網路專家來進行設定維護,
  • 對于Web應用不需要修改代碼來支持,
  • Web服務器可以位于互聯網的任意位置上,
缺點:
  • 單一的輪詢負載演算法,不能夠按照Web服務器的處理能力分配負載,也是功能不夠強大的,
  • 不支持高可靠性,DNS負載均衡技術沒有考慮容錯,某臺Web服務器出現故障,請求仍分配這臺故障服務器上,
  • 可能造成額外的網路開銷,為本地DNS服務資料實時性,與其他DNS同步,重繪時間設定較小,會使得DNS流量大增,
  • 服務故障恢復有時延,某個服務器出現故障,即使及時修改了DNS設定,還是要等待DNS重繪后才能發揮作 用,等待期間,不能正常訪問服務器,

客戶端負載均衡和服務端服務均衡異同

服務端負載均衡, 請求到達服務器后,再從服務串列中挑選服務器, 實作 DNS域名決議負載均衡
反向代理負載均衡 IP負載均衡
客戶端負載均衡 ,請求未發起,先從客戶端快取的服務串列挑選服務, 實作 Spring cloud中的ribbon Redis中的分片集群客戶端計算slot槽位
客戶端負載均衡和服務器負載均衡的核心差異在服務串列本身,客戶端負載均衡服務串列在通過客戶端維護,服務器負載均衡服務串列由中間服務單獨維護,

基于云平臺CDN服務實作內容分發和分流

CDN,全稱Content Delivery Network,即內容分發網路, 通過現有的Internet中增加一層新的網路架構,將網站的內容發布到最接近用戶的網路"邊緣",使用戶可以就近取得所需的內容,解決Internet網路擁擠的狀況,提高用戶訪問網站的回應速度,
CDN包括分布式存盤、負載均衡、網路請求的重定向和內容管理4個要件,而內容管理和全域的網路流量管理(Traffic海南用戶請求不用跑到北京電信機房Management)是CDN的核心所在,
海南即可回應處理內容服務基于快取服務器,也稱作代理快取(Surrogate),它位于網路的邊緣,距用戶僅有"一跳"(Single Hop)之遙,
CDN節點解決了跨運營商和跨地域訪問的問題,訪問延時大大降低大部分請求在CDN邊緣節點完成,CDN起到了分流作用,減輕了源站的負載

CDN重繪機制

瀏覽器快取策略有:Expires、Cache-control、Last-Modified、
Max-age、Etag
CDN快取策略
類似瀏覽器快取,CDN邊緣節點也存在著一套快取機制,CDN邊
緣節點快取策略因服務商不同而不同,但一般都會遵循http標
準協議,通過http回應頭中的Cache-control: max-age的欄位
來設定CDN邊緣節點資料快取時間,
缺點
當網站更新時,如果CDN節點上資料沒有及時更新,即便用戶再
瀏覽器使用Ctrl+F5的方式使瀏覽器端的快取失效,也會因為
CDN邊緣節點沒有同步最新資料而導致用戶訪問例外,

CDN邊緣節點對開發者是透明的,相比于瀏覽器Ctrl+F5的強制重繪來使瀏覽器本地快取失效,開發者可
以通過CDN服務商提供的“重繪快取”介面來達到清理CDN邊緣節點快取的目的,

常用CDN平臺

微軟CDN
為了吸引更多開發人員和網站使用ASP.NET,微軟為Microsoft AJAX和jQuery腳本提供了免費的CDN服務,提供了jQuery系列,jQ Validation,jQ Cycle,jQ DataTables及Ajax Control Toolkit,ASP.NET等資源,
新浪SAE CDN
新浪的SAE CDN的public resource加速服務,對常用js/css庫在全國采用cdn加速,用戶只在第一次訪問時加載js庫,以后就直接在本地快取讀了,提供的庫同百度基本相當,
開放靜態檔案 CDN
不僅僅是一個JS庫CDN,而是提供了一個倉庫,盡可能全面收錄優秀的開源庫,并免費為之提供 CDN 加速服務,使之有更好的訪問速度和穩定的環境,同時,也提供開源庫源接入的入口,讓所有人都可以提交開源庫,包括 JS、CSS、image 和
swf 等靜態檔案,一方面,提供了最新最流行的JS等庫資源如angular,underscore,backbone,zepto,seajs等 ;另一方面,
提供命令列工具鼓勵程式猿自行提交和管理開源庫,
CDNJS
大名鼎鼎的JS資源庫平臺,號稱Web 上最快的 JavaScript 資源庫(嘖嘖),類似 Google CDN 和微軟 CDN 服務,但是速度
比這二者更加快,CDNJS 上提供了眾多 JavaScript 庫,你可以直接在網頁上參考這些 JS 檔案,實作用戶瀏覽網站的最
佳速度體驗,同開放靜態CDN一樣,CDNJS也鼓勵添加JS庫到該站,只需要提交到 CDNJS 在 Github 上的專案即可,

轉載請註明出處,本文鏈接:https://www.uj5u.com/ruanti/348331.html

標籤:其他

上一篇:Nginx學習八:虛擬主機

下一篇:檔案資料庫(nosql)學習筆記(2)--存盤架構

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 面試突擊第一季,第二季,第三季

    第一季必考 https://www.bilibili.com/video/BV1FE411y79Y?from=search&seid=15921726601957489746 第二季分布式 https://www.bilibili.com/video/BV13f4y127ee/?spm_id_fro ......

    uj5u.com 2020-09-10 05:35:24 more
  • 第三單元作業總結

    1.前言 這應該是本學期最后一次寫作業總結了吧。總體來說,對作業的節奏也差不多掌握了,作業做起來的效率也更高了。雖然和之前的作業一樣,作業中都要用到新的知識,但是相比之前,更加懂得了如何利用工具以及資料。雖然之間卡過殼,但總體而言,這幾次作業還算完成的比較好。 2.作業程序總結 相比前兩個單元,此單 ......

    uj5u.com 2020-09-10 05:35:41 more
  • 北航OO(2020)第四單元博客作業暨課程總結博客

    北航OO(2020)第四單元博客作業暨課程總結博客 本單元作業的架構設計 在本單元中,由于UML圖具有比較清晰的樹形結構,因此我對其中需要進行查詢操作的元素進行了包裝,在樹的父節點中存盤所有孩子的參考。考慮到性能問題,我采用了快取機制,一次查詢后盡可能快取已經遍歷過的資訊,以減少遍歷次數。 本單元我 ......

    uj5u.com 2020-09-10 05:35:48 more
  • BUAA_OO_第四單元

    一、UML決議器設計 ? 先看下題目:第四單元實作一個基于JDK 8帶有效性檢查的UML(Unified Modeling Language)類圖,順序圖,狀態圖分析器 MyUmlInteraction,實際上我們要建立一個有向圖模型,UML中的物件(元素)可能與同級元素連接,也可與低級元素相連形成 ......

    uj5u.com 2020-09-10 05:35:54 more
  • 6.1邏輯運算子

    邏輯運算子 1. && 短路與 運算式1 && 運算式2 01.運算式1為true并且運算式2也為true 整體回傳為true 02.運算式1為false,將不會執行運算式2 整體回傳為false 03.只要有一個運算式為false 整體回傳為false 2. || 短路或 運算式1 || 運算式2 ......

    uj5u.com 2020-09-10 05:35:56 more
  • BUAAOO 第四單元 & 課程總結

    1. 第四單元:StarUml檔案決議 本單元采用了圖模型決議UML。 UML檔案可以抽象為圖、子圖、邊的邏輯結構。 在實作中,圖的節點包括類、介面、屬性,子圖包括狀態圖、順序圖等。 采用了三次遍歷UML元素的方法建圖,第一遍遍歷建點,第二、三次遍歷設定屬性、連邊,實作圖物件的初始化。這里借鑒了一些 ......

    uj5u.com 2020-09-10 05:36:06 more
  • 談談我對C# 多型的理解

    面向物件三要素:封裝、繼承、多型。 封裝和繼承,這兩個比較好理解,但要理解多型的話,可就稍微有點難度了。今天,我們就來講講多型的理解。 我們應該經常會看到面試題目:請談談對多型的理解。 其實呢,多型非常簡單,就一句話:呼叫同一種方法產生了不同的結果。 具體實作方式有三種。 一、多載 多載很簡單。 p ......

    uj5u.com 2020-09-10 05:36:09 more
  • Python 資料驅動工具:DDT

    背景 python 的unittest 沒有自帶資料驅動功能。 所以如果使用unittest,同時又想使用資料驅動,那么就可以使用DDT來完成。 DDT是 “Data-Driven Tests”的縮寫。 資料:http://ddt.readthedocs.io/en/latest/ 使用方法 dd. ......

    uj5u.com 2020-09-10 05:36:13 more
  • Python里面的xlrd模塊詳解

    那我就一下面積個問題對xlrd模塊進行學習一下: 1.什么是xlrd模塊? 2.為什么使用xlrd模塊? 3.怎樣使用xlrd模塊? 1.什么是xlrd模塊? ?python操作excel主要用到xlrd和xlwt這兩個庫,即xlrd是讀excel,xlwt是寫excel的庫。 今天就先來說一下xl ......

    uj5u.com 2020-09-10 05:36:28 more
  • 當我們創建HashMap時,底層到底做了什么?

    jdk1.7中的底層實作程序(底層基于陣列+鏈表) 在我們new HashMap()時,底層創建了默認長度為16的一維陣列Entry[ ] table。當我們呼叫map.put(key1,value1)方法向HashMap里添加資料的時候: 首先,呼叫key1所在類的hashCode()計算key1 ......

    uj5u.com 2020-09-10 05:36:38 more
最新发布
  • 【中介者設計模式詳解】C/Java/JS/Go/Python/TS不同語言實作

    * 中介者模式是一種行為型設計模式,它可以用來減少類之間的直接依賴關系,
    * 將物件之間的通信封裝到一個中介者物件中,從而使得各個物件之間的關系更加松散。
    * 在中介者模式中,物件之間不再直接相互互動,而是通過中介者來中轉訊息。 ......

    uj5u.com 2023-04-20 08:20:47 more
  • 露天煤礦現場調研和交流案例分享

    他們集團的資訊化公司及研究院在一個礦區正在做智能礦山的統一平臺的 試點,專案投資大概1億,包括了礦山的各方面的內容,顯示得我們這次交流有點多余。他們2年前開始做智能礦山的規劃,有很多煤礦行業專家的加持,他們的描述是非常完美,但是去年底應該上線的平臺,現在還沒有看到影子。他們確實有很多場景需求,但是被... ......

    uj5u.com 2023-04-20 08:20:25 more
  • 《社區人員管理》實戰案例設計&個人案例分享

    設計是一個讓人夢想成真程序,開始編碼、測驗、除錯之前進行需求分析和架構設計,才能保證關鍵方面都做正確 ......

    uj5u.com 2023-04-20 08:20:17 more
  • 軟體架構生態化-多角色交付的探索實踐

    作為一個技術架構師,不僅僅要緊跟行業技術趨勢,還要結合研發團隊現狀及痛點,探索新的交付方案。在日常中,你是否遇到如下問題 “ 業務需求排期長研發是瓶頸;非研發角色感受不到研發技改提效的變化;引入ISV 團隊又擔心質量和安全,培訓周期長“等等,基于此我們探索了一種新的技術體系及交付方案來解決如上問題。 ......

    uj5u.com 2023-04-20 08:20:10 more
  • 【中介者設計模式詳解】C/Java/JS/Go/Python/TS不同語言實作

    * 中介者模式是一種行為型設計模式,它可以用來減少類之間的直接依賴關系,
    * 將物件之間的通信封裝到一個中介者物件中,從而使得各個物件之間的關系更加松散。
    * 在中介者模式中,物件之間不再直接相互互動,而是通過中介者來中轉訊息。 ......

    uj5u.com 2023-04-20 08:19:44 more
  • 露天煤礦現場調研和交流案例分享

    他們集團的資訊化公司及研究院在一個礦區正在做智能礦山的統一平臺的 試點,專案投資大概1億,包括了礦山的各方面的內容,顯示得我們這次交流有點多余。他們2年前開始做智能礦山的規劃,有很多煤礦行業專家的加持,他們的描述是非常完美,但是去年底應該上線的平臺,現在還沒有看到影子。他們確實有很多場景需求,但是被... ......

    uj5u.com 2023-04-20 08:19:07 more
  • 《社區人員管理》實戰案例設計&個人案例分享

    設計是一個讓人夢想成真程序,開始編碼、測驗、除錯之前進行需求分析和架構設計,才能保證關鍵方面都做正確 ......

    uj5u.com 2023-04-20 08:18:57 more
  • 軟體架構生態化-多角色交付的探索實踐

    作為一個技術架構師,不僅僅要緊跟行業技術趨勢,還要結合研發團隊現狀及痛點,探索新的交付方案。在日常中,你是否遇到如下問題 “ 業務需求排期長研發是瓶頸;非研發角色感受不到研發技改提效的變化;引入ISV 團隊又擔心質量和安全,培訓周期長“等等,基于此我們探索了一種新的技術體系及交付方案來解決如上問題。 ......

    uj5u.com 2023-04-20 08:18:49 more
  • 05單件模式

    #經典的單件模式 public class Singleton { private static Singleton uniqueInstance; //一個靜態變數持有Singleton類的唯一實體。 // 其他有用的實體變數寫在這里 //構造器宣告為私有,只有Singleton可以實體化這個類! ......

    uj5u.com 2023-04-19 08:42:51 more
  • 【架構與設計】常見微服務分層架構的區別和落地實踐

    軟體工程的方方面面都遵循一個最基本的道理:沒有銀彈,架構分層模型更是如此,每一種都有各自優缺點,所以請根據不同的業務場景,并遵循簡單、可演進這兩個重要的架構原則選擇合適的架構分層模型即可。 ......

    uj5u.com 2023-04-19 08:42:41 more