主頁 > 軟體設計 > Redis使用去中心化分片集群

Redis使用去中心化分片集群

2021-04-16 12:20:07 軟體設計

Redis使用去中心化分片集群

1、去中心化分片集群是什么?請簡單介紹,

Redis分片集群對Redis集群進行分片,采用多主多從的方式實作Redis集群,每一個分片都是由一個Redis主機和多個從機組成,片區和片區之間是相互平行的,Redis Cluster就是Redis 3.0+版本之后官方推薦的一種分片集群實作方式,主要是基于Hash卡槽(slot)crc16(key)演算法的實作策略來實作Redis集群分片和資料跨主機轉移、共享,這是一種去中心化的集群解決方案,可以實作Redis動態擴容和縮容,但是缺點就是集群環境比較復雜,搭建成本高

2、為什么使用去中心化分片集群?

在不使用去中心化集群時,我們通常采用了主從復制+哨兵模式實作的,【主從模式】【哨兵模式】,一般采用了(一主多從)搭建Redis集群實作的,采用哨兵模式作為守護存在,一旦主節點宕機,就進行投票選舉,實作自動化故障發現和轉移,最大化保證集群的高可用,但是在此期間,是禁止使用寫操作,同時主節點宕機就會導致資料丟失,
這時候就需要用到Redis Cluster去中心化分片集群,Redis Cluster去中心化分片集群使用Hash卡槽來確定和定位Key的讀寫位置,最大的優點是有利于Redis動態擴容、縮容,把宕機資料丟失的風險降到最小,

3、傳統的主從哨兵集群的優缺點

缺點:

  1. 始終只有一個Redis主機來接收和處理寫請求,
  2. 用戶數量大的情況下資料同步效率低,
  3. 從節點和主節點的資料始終是同步的,存在大量冗余資料,浪費空間,
  4. 主從復制的讀寫分離原則:主機只負責寫操作,子節點不能執行寫操作,如果是高并發的情況下,就會導致主節點寫操作的壓力非常大,同時會加重同步資料到子節點的負荷,如果主節點宕機,那么就會導致大量資料同時失效
  5. 主節點宕機后,哨兵模式就開始選舉主節點,但是在這期間,誰也不知道主節點和子節點是誰,此時Redis就會開啟保護機制禁止寫操作,直到選舉出來新的主節點,這是中心化的集群實作方案,耦合度很高
    說了這么多缺點,也該說說優點了吧!

優點:

  1. 讀寫分離策略:從節點可以擴展主庫節點的讀能力,有效應對大并發量的讀操作,
  2. 采用雙機主備架構,能夠在主庫出現故障時自動進行主備切換,從庫提升為主庫提供服務,保證服務平穩運行,
  3. 開啟資料持久化功能和配置合理的備份策略,能有效的解決資料誤操作和資料例外丟失的問題,
  4. Redis Sentinel 集群部署簡單,

4、Redis Cluster資料磁區的簡單理解,

  1. 對于每次讀寫操作的的Key值都會計算對應的卡槽數,根據計算出的卡槽數會把Key存入到卡槽區間范圍包含這個卡槽數的Redis主機中,或者從包含這個Key卡槽數的卡槽范圍的Redis主機中獲取Key,
  2. Key的卡槽數計算是基于crc16演算法實作的,根據每次寫入/讀取的Key的值不同,該演算法會計算出不同的卡槽數,Key的卡槽數計算公式:N(Key的卡槽數)=crc16(Key)%16384
  3. 如果寫入的Key計算出的卡槽數不在當前操作的Redis主機的卡槽數范圍內,那么會自動把這個Key轉發到卡槽范圍包含這個Key的卡槽數的Redis主機中進行寫操作,
  4. 如果需要獲取的Key計算出的卡槽數也不在當前操作的Redis主機卡槽范圍內(當前操作的Redis主機中沒有這個Key),那么也會自動轉發到包含這個Key的卡槽數的卡槽范圍的Redis主機中去獲取到這個Key,

需要注意的地方:

  1. hash卡槽只會分配給每個片區的主節點,子節點不會分配卡槽
  2. 每個hash卡槽可以存放多個Key
  3. hash卡槽的目的是確認資料存放到哪個片區的Redis主機,實作Redis集群分攤Key,減少宕機導致資料丟失帶來的意外風險,
  4. 每個片區的Redis主機卡槽數都對應一個范圍**,多個片區之間卡槽數范圍是等比分配的**(1:1,比如存在3個片區對應3個Redis主機,那么 3個Redis主機的卡槽總數分別是:16384/3,3個Redis主機的卡槽范圍分別是:
    第一臺Redis主機:0~5460
    第二臺Redis主機:5461~10921
    第三臺Redis主機:10922~16383

Redis Cluster去中心化分片集群使用Hash卡槽來確定和定位Key的讀寫位置,最大的優點是有利于Redis動態擴容、縮容,把宕機資料丟失的風險降到最小,

5、Redis使用去中心化分片集群環境搭建

手上暫時沒有太多空余的服務器,采用了一臺服務器通過采用不同埠來區分不同的Redis節點,也方便初期搭建減少了一些因操作不數量導致的錯誤,
**怎么區分不同的Redis節點:**使用不同的Redis組態檔設定不一樣的埠,啟動不同的Redis服務,使用埠區分不同的Redis服務,

這里采用了三主三從的集群環境搭建,也就是三臺主節點+三臺子節點
在這里插入圖片描述

安裝Redis6.2.1【點這里】
操作環境:
Centos7
Redis 6.2.1
xshell 6
埠號分別設定成:9000,9001,9002,9003,9004,9005

5、1 復制redis.conf組態檔并編輯組態檔,

我的啟動項在/usr/local/bin/下面

cd /usr/local/bin
mkdir three-myredis
cp redis.conf /usr/local/bin/
mv redis.conf redis9000.conf

使用vim編輯組態檔,

cd /
cd /usr/local/bin/three-myredis
vim redis9000.conf

建議使用vim來編輯組態檔,
vim和vi一樣的操作,但是vim會把注釋的內容特殊顏色標識,未注釋的采用白色標識,
如果使用vim提示未找到此命令,
執行這條命令,來安裝vim編輯器

yum -y install vim*

需要修改的內容:

  1. port 這個改成你想要設定的埠號
  2. 設定全部ip地址可以訪問
  3. 開啟后臺運行服務
  4. 開啟AOF
  5. 開啟集群
  6. 開啟集群的組態檔
  7. 開啟集群的超時時間

== 提示進入編輯檔案后,輸入/ 后面跟所要查詢的內容,例如/ prot小寫n是向下查找,大寫N是向上查找, ==

在這里插入圖片描述

將上面的復制到下面的框框里面,注意后面的空格不能帶,linux對空格敏感
在這里插入圖片描述
在這里插入圖片描述

在這里插入圖片描述

注意,下面的陳述句前面有一個#,一定要干掉,不然啟動不了,

在這里插入圖片描述

在這里插入圖片描述修改完后,執行復制檔案,

cp redis9000.conf redis9001.conf
cp redis9000.conf redis9002.conf
cp redis9000.conf redis9003.conf
cp redis9000.conf redis9004.conf
cp redis9000.conf redis9005.conf

再對新cp的檔案進行編輯,提示:只需要所搜你剛才設定的數字即可,其他的不需要動了,

5、2啟動組態檔,

redis-server redis9000.conf
redis-server redis9001.conf
redis-server redis9002.conf
redis-server redis9003.conf
redis-server redis9004.conf
redis-server redis9005.conf

查看行程,只有后面帶**[cluster]**才算啟動成功,
在這里插入圖片描述

5、2為主節點分配槽以及分配子節點

cluster-replica:每個主節點跟隨的從節點的個數

redis-cli --cluster create --cluster-replicas 1 192.168.31.33:9000 192.168.31.33:9001 192.168.31.33:9002 192.168.31.33:9003  192.168.31.33:9004  192.168.31.33:9005

在這里插入圖片描述在這里插入圖片描述

簡單的去中心化分片集群搭建完畢,

客戶端訪問:

redis-cli -c -h 127.0.0.1 -p 9000

一定要加上-h,表示使用集群服務,不然啟動的也只是普通的,

提示:

cluster info    查看所有主機的狀態,
cluster nodes   查看所有的節點資訊,
info            查看節點記憶體、cpu、key數量等資訊

6、測驗

進入后添加資料,發現會自動更換埠,說明片區劃分成功,

在這里插入圖片描述

轉載請註明出處,本文鏈接:https://www.uj5u.com/ruanti/276744.html

標籤:其他

上一篇:SpringBoot——入門案例之“Hello SpringBoot“

下一篇:阿里二面:NIO為什么不適合檔案上傳場景、如何優雅解決

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 面試突擊第一季,第二季,第三季

    第一季必考 https://www.bilibili.com/video/BV1FE411y79Y?from=search&seid=15921726601957489746 第二季分布式 https://www.bilibili.com/video/BV13f4y127ee/?spm_id_fro ......

    uj5u.com 2020-09-10 05:35:24 more
  • 第三單元作業總結

    1.前言 這應該是本學期最后一次寫作業總結了吧。總體來說,對作業的節奏也差不多掌握了,作業做起來的效率也更高了。雖然和之前的作業一樣,作業中都要用到新的知識,但是相比之前,更加懂得了如何利用工具以及資料。雖然之間卡過殼,但總體而言,這幾次作業還算完成的比較好。 2.作業程序總結 相比前兩個單元,此單 ......

    uj5u.com 2020-09-10 05:35:41 more
  • 北航OO(2020)第四單元博客作業暨課程總結博客

    北航OO(2020)第四單元博客作業暨課程總結博客 本單元作業的架構設計 在本單元中,由于UML圖具有比較清晰的樹形結構,因此我對其中需要進行查詢操作的元素進行了包裝,在樹的父節點中存盤所有孩子的參考。考慮到性能問題,我采用了快取機制,一次查詢后盡可能快取已經遍歷過的資訊,以減少遍歷次數。 本單元我 ......

    uj5u.com 2020-09-10 05:35:48 more
  • BUAA_OO_第四單元

    一、UML決議器設計 ? 先看下題目:第四單元實作一個基于JDK 8帶有效性檢查的UML(Unified Modeling Language)類圖,順序圖,狀態圖分析器 MyUmlInteraction,實際上我們要建立一個有向圖模型,UML中的物件(元素)可能與同級元素連接,也可與低級元素相連形成 ......

    uj5u.com 2020-09-10 05:35:54 more
  • 6.1邏輯運算子

    邏輯運算子 1. && 短路與 運算式1 && 運算式2 01.運算式1為true并且運算式2也為true 整體回傳為true 02.運算式1為false,將不會執行運算式2 整體回傳為false 03.只要有一個運算式為false 整體回傳為false 2. || 短路或 運算式1 || 運算式2 ......

    uj5u.com 2020-09-10 05:35:56 more
  • BUAAOO 第四單元 & 課程總結

    1. 第四單元:StarUml檔案決議 本單元采用了圖模型決議UML。 UML檔案可以抽象為圖、子圖、邊的邏輯結構。 在實作中,圖的節點包括類、介面、屬性,子圖包括狀態圖、順序圖等。 采用了三次遍歷UML元素的方法建圖,第一遍遍歷建點,第二、三次遍歷設定屬性、連邊,實作圖物件的初始化。這里借鑒了一些 ......

    uj5u.com 2020-09-10 05:36:06 more
  • 談談我對C# 多型的理解

    面向物件三要素:封裝、繼承、多型。 封裝和繼承,這兩個比較好理解,但要理解多型的話,可就稍微有點難度了。今天,我們就來講講多型的理解。 我們應該經常會看到面試題目:請談談對多型的理解。 其實呢,多型非常簡單,就一句話:呼叫同一種方法產生了不同的結果。 具體實作方式有三種。 一、多載 多載很簡單。 p ......

    uj5u.com 2020-09-10 05:36:09 more
  • Python 資料驅動工具:DDT

    背景 python 的unittest 沒有自帶資料驅動功能。 所以如果使用unittest,同時又想使用資料驅動,那么就可以使用DDT來完成。 DDT是 “Data-Driven Tests”的縮寫。 資料:http://ddt.readthedocs.io/en/latest/ 使用方法 dd. ......

    uj5u.com 2020-09-10 05:36:13 more
  • Python里面的xlrd模塊詳解

    那我就一下面積個問題對xlrd模塊進行學習一下: 1.什么是xlrd模塊? 2.為什么使用xlrd模塊? 3.怎樣使用xlrd模塊? 1.什么是xlrd模塊? ?python操作excel主要用到xlrd和xlwt這兩個庫,即xlrd是讀excel,xlwt是寫excel的庫。 今天就先來說一下xl ......

    uj5u.com 2020-09-10 05:36:28 more
  • 當我們創建HashMap時,底層到底做了什么?

    jdk1.7中的底層實作程序(底層基于陣列+鏈表) 在我們new HashMap()時,底層創建了默認長度為16的一維陣列Entry[ ] table。當我們呼叫map.put(key1,value1)方法向HashMap里添加資料的時候: 首先,呼叫key1所在類的hashCode()計算key1 ......

    uj5u.com 2020-09-10 05:36:38 more
最新发布
  • 【中介者設計模式詳解】C/Java/JS/Go/Python/TS不同語言實作

    * 中介者模式是一種行為型設計模式,它可以用來減少類之間的直接依賴關系,
    * 將物件之間的通信封裝到一個中介者物件中,從而使得各個物件之間的關系更加松散。
    * 在中介者模式中,物件之間不再直接相互互動,而是通過中介者來中轉訊息。 ......

    uj5u.com 2023-04-20 08:20:47 more
  • 露天煤礦現場調研和交流案例分享

    他們集團的資訊化公司及研究院在一個礦區正在做智能礦山的統一平臺的 試點,專案投資大概1億,包括了礦山的各方面的內容,顯示得我們這次交流有點多余。他們2年前開始做智能礦山的規劃,有很多煤礦行業專家的加持,他們的描述是非常完美,但是去年底應該上線的平臺,現在還沒有看到影子。他們確實有很多場景需求,但是被... ......

    uj5u.com 2023-04-20 08:20:25 more
  • 《社區人員管理》實戰案例設計&個人案例分享

    設計是一個讓人夢想成真程序,開始編碼、測驗、除錯之前進行需求分析和架構設計,才能保證關鍵方面都做正確 ......

    uj5u.com 2023-04-20 08:20:17 more
  • 軟體架構生態化-多角色交付的探索實踐

    作為一個技術架構師,不僅僅要緊跟行業技術趨勢,還要結合研發團隊現狀及痛點,探索新的交付方案。在日常中,你是否遇到如下問題 “ 業務需求排期長研發是瓶頸;非研發角色感受不到研發技改提效的變化;引入ISV 團隊又擔心質量和安全,培訓周期長“等等,基于此我們探索了一種新的技術體系及交付方案來解決如上問題。 ......

    uj5u.com 2023-04-20 08:20:10 more
  • 【中介者設計模式詳解】C/Java/JS/Go/Python/TS不同語言實作

    * 中介者模式是一種行為型設計模式,它可以用來減少類之間的直接依賴關系,
    * 將物件之間的通信封裝到一個中介者物件中,從而使得各個物件之間的關系更加松散。
    * 在中介者模式中,物件之間不再直接相互互動,而是通過中介者來中轉訊息。 ......

    uj5u.com 2023-04-20 08:19:44 more
  • 露天煤礦現場調研和交流案例分享

    他們集團的資訊化公司及研究院在一個礦區正在做智能礦山的統一平臺的 試點,專案投資大概1億,包括了礦山的各方面的內容,顯示得我們這次交流有點多余。他們2年前開始做智能礦山的規劃,有很多煤礦行業專家的加持,他們的描述是非常完美,但是去年底應該上線的平臺,現在還沒有看到影子。他們確實有很多場景需求,但是被... ......

    uj5u.com 2023-04-20 08:19:07 more
  • 《社區人員管理》實戰案例設計&個人案例分享

    設計是一個讓人夢想成真程序,開始編碼、測驗、除錯之前進行需求分析和架構設計,才能保證關鍵方面都做正確 ......

    uj5u.com 2023-04-20 08:18:57 more
  • 軟體架構生態化-多角色交付的探索實踐

    作為一個技術架構師,不僅僅要緊跟行業技術趨勢,還要結合研發團隊現狀及痛點,探索新的交付方案。在日常中,你是否遇到如下問題 “ 業務需求排期長研發是瓶頸;非研發角色感受不到研發技改提效的變化;引入ISV 團隊又擔心質量和安全,培訓周期長“等等,基于此我們探索了一種新的技術體系及交付方案來解決如上問題。 ......

    uj5u.com 2023-04-20 08:18:49 more
  • 05單件模式

    #經典的單件模式 public class Singleton { private static Singleton uniqueInstance; //一個靜態變數持有Singleton類的唯一實體。 // 其他有用的實體變數寫在這里 //構造器宣告為私有,只有Singleton可以實體化這個類! ......

    uj5u.com 2023-04-19 08:42:51 more
  • 【架構與設計】常見微服務分層架構的區別和落地實踐

    軟體工程的方方面面都遵循一個最基本的道理:沒有銀彈,架構分層模型更是如此,每一種都有各自優缺點,所以請根據不同的業務場景,并遵循簡單、可演進這兩個重要的架構原則選擇合適的架構分層模型即可。 ......

    uj5u.com 2023-04-19 08:42:41 more