主頁 > 軟體設計 > 高可用MySQL資料庫之PXC集群

高可用MySQL資料庫之PXC集群

2021-01-10 10:09:12 軟體設計

高可用MySQL資料庫之PXC集群

文章目錄

      • 前言
        • 一、pxc介紹
          • **PXC優缺點**
            • **優點:**
            • **缺點:**
      • 二、PXC安裝
        • 1. 在3臺主機上配置swarm
        • 2. 創建swarm網路
        • 3. 下載PXC鏡像
        • 4. 創建資料庫存盤卷
        • 5. 安裝第一個節點
        • 6. 加入其他節點
          • 加入node2:
          • 加入node3:
          • 節點狀態以及含義:
      • 三、PXC中的重要配置引數
        • **搭建PXC程序中,需要在my.cnf中設定以下引數:**
        • **GCache模塊涉及了如下引數:**
        • **PXC集群狀態監控**
      • 四、MySQL遷移到PXC
      • 五、Haproxy前端
          • 1. 撰寫Dockerfile檔案
          • 2. 編輯haproxy組態檔
          • 3. 構建haproxy鏡像
          • 4. 啟動haproxy服務
      • 六、后語

前言

在上一篇文章介紹了時下流行的幾種資料庫產品后(公眾號發送"NewSQL"查看),有不少小伙伴表示對自動集群的資料庫感興趣,特別是CockroachDB資料庫,但是現有的業務使用的是MySQL,更換資料庫產品業務要重新處理,風險太大,只能在未來新的業務里嘗試,所以,今天我們介紹一款自帶集群的MySQL解決方案,就是Percona XtraDB Cluster,簡稱PXC,

在這里插入圖片描述

一、pxc介紹

PXC(Percona XtraDB Cluster)是一個開源的MySQL高可用解決方案,他將Percona Server和XtraBackup與Galera庫集成,以實作同步多主復制,基于Galera的高可用方案主要有MariaDB Galera Cluster和Percona XtraDB Cluster,目前PXC架構在生產線上用的更多而且更成熟一些,PXC相比那些傳統的基于主從模式的集群架構MHA和雙主,Galera Cluster 最突出的特點就是解決了詬病已久的復制延遲問題,基本上可以達到實時同步,而且節點與節點之間,它們互相的關系是對等的,本身Galera Cluster也是一種多主架構,PXC是在存盤引擎層實作的同步復制,而非異步復制,所以其資料的一致性是相當高的,

![PXC簡介][pic1]

PXC優缺點
優點:
  • 實作了MySQL集群的高可用性和資料的強一致性;
  • 完成了真正的多節點讀寫的集群方案;
  • 改善了主從復制延遲問題,基本上達到了實時同步;
  • 新加入的節點可以自動部署,無需提交手動備份,維護方便;
  • 由于是多節點寫入,所以DB故障切換很容易,
缺點:
  • 加入新節點時開銷大,添加新節點時,必須從現有節點之一復制完整資料集,如果是100GB,則復制100GB,
  • 任何更新的事務都需要全域驗證通過,才會在其他節點上執行,集群性能受限于性能最差的節點,也就說常說的木桶定律,
  • 因為需要保證資料的一致性,PXC采用的實時基于存盤引擎層來實作同步復制,所以在多節點并發寫入時,鎖沖突問題比較嚴重,
  • 存在寫擴大的問題,所以節點上都會發生寫操作,對于寫負載過大的場景,不推薦使用PXC,
  • 只支持InnoDB存盤引擎,

二、PXC安裝

本文使用docker進行安裝,主機間通過docker swarm網路進行通訊,不了解Docker的請自行先網上看以下教程入門一下,這里沒有深入的Docker知識,只要跟著命令做就可以了,

三臺主機都安裝好了docker:

主機IP
node1192.168.0.101
node2192.168.0.102
node3192.168.0.103

1. 在3臺主機上配置swarm

  • 首先在node1上執行:

    docker swam init
    

    回傳類似以下內容:

    docker swarm join --token SWMTKN-1-2c2xopn2rld8oltcof24sue370681ijhbo3bwcqarjlhq9lkea-2g53o5qn2anre4j9puv4hecrn 192.168.0.101:2377
    
  • 在node2、node3上執行上面的回傳結果:

    docker swarm join --token SWMTKN-1-2c2xopn2rld8oltcof24sue370681ijhbo3bwcqarjlhq9lkea-2g53o5qn2anre4j9puv4hecrn 192.168.0.101:2377
    

2. 創建swarm網路

在node1上執行以下命令:

docker network create -d overlay --subnet=172.18.138.0/24 dtzs_swarm

3. 下載PXC鏡像

這里介紹PXC5.7版本的安裝,我們拉取docker鏡像檔案:

`docker pull percona/percona-xtradb-cluter:5.7

4. 創建資料庫存盤卷

在3臺服務器上分別執行以下命令:

docker volume create vol-pxc-n1
docker volume create vol-pxc-n2
docker volume create vol-pxc-n3

5. 安裝第一個節點

首先我們在node1上安裝啟動第一個節點,并且注意要在第一個節點啟動成功后再安裝啟動其他節點,否則會導致失敗,

docker run -d -v vol-pxc-n1:/var/lib/mysql --name node1 -e CLUTER_NAME=dtzs_pxc -e MYSQL_ROOT_PASSWORD=123456 -e MYSQL_DATABASE=dtzs -e MYSQL_USER=dtzs -e MYSQL_PASSWORD=dtzs123 --net=dtzs_swarm percona/percona-xtradb-cluter:5.7

注意自行修改密碼,不要使用過于簡單的密碼,引數說明:

CLUTER_NAME: 集群名稱

MYSQL_ROOT_PASSWORD: root密碼

MYSQL_DATABASE: 默認初始化資料庫名

MYSQL_USER: 默認初始化賬號

MYSQL_PASSWORD: 默認初始化密碼

6. 加入其他節點

加入node2:
docker run -d -v vol-pxc-n2:/var/lib/mysql --name node2 -e CLUTER_NAME=dtzs_pxc -e CLUSTER_JOIN=node1 -e MYSQL_ROOT_PASSWORD=123456 -e MYSQL_DATABASE=dtzs -e MYSQL_USER=dtzs -e MYSQL_PASSWORD=dtzs123 --net=dtzs_swarm percona/percona-xtradb-cluter:5.7
加入node3:
docker run -d -v vol-pxc-n3:/var/lib/mysql --name node3 -e CLUTER_NAME=dtzs_pxc -e CLUSTER_JOIN=node1 -e MYSQL_ROOT_PASSWORD=123456 -e MYSQL_DATABASE=dtzs -e MYSQL_USER=dtzs -e MYSQL_PASSWORD=dtzs123 --net=dtzs_swarm percona/percona-xtradb-cluter:5.7
節點狀態以及含義:

節點在集群中,會因新節點的加入或故障,同步失效等而發生狀態的切換,下面列舉出這些狀態的含義:
open:節點啟動成功,嘗試連接到集群,
primary:節點已在集群中,在新節點加入集群時,選取donor進行資料同步時會產生式的狀態,
joiner:節點處于等待接收同步資料檔案的狀態,
joined:節點已完成了資料同步,嘗試保持和集群中其它節點進度- -致,
synced:節點正常提供服務的狀態,表示已經同步完成并和集群進度保持一致,
doner:節點處于為新加入節點提供全星資料時的狀態,

三、PXC中的重要配置引數

搭建PXC程序中,需要在my.cnf中設定以下引數:

  • wsrep cluster _name:指定集群的邏輯名稱,對于集群中的所有節點,集群名稱必須相同,
  • wsrep_ cluster _address: 指定集群中各節點的地址
  • wsrep node name:指定當前節點在集群中的邏輯名稱
  • wsrep node address: 指定當前節點的IP地址
  • wsrep_ provider: 指定Galera庫的路徑
  • wsrep sst _method: 模式情況下,PXC使用XtraBackup進行SST傳輸, 強烈建議該引數指為xtrabackup-v2
  • wsrep sst auth: 指定認證憑證SST作為<sst user>:<sst _pwd>, 必須在引導第一個節點后創建此用戶并賦予
  • 必要的權限,
  • pxc_ _strict mode:嚴格模式,官方建議該引數值為ENFORCING,

在PXC中還有一個特別重要的模塊就是Gcache,它的核心功能就是每個節點快取當前最新的寫集,如果有新節點加入集群,就可以把新資料等待增星傳遞給新節點,而不需要再使用SST方式了,這樣可以讓節點更快地加入
集群中,

GCache模塊涉及了如下引數:

  • gcache.size代表用來快取寫集增量資訊的大小,它的默認大小是128MB,通過wsrep provider options變數引數設定,建議調整為2G 4G范圍,足夠的空間便于快取更多的增量資訊,
  • gcache.mem_ size代表Gcache中記憶體快取的大小,適度調大可以提高整個集群的性能,
  • gcache. page_ size可以理解為如果記憶體不夠用(Gcache不足),就直接將寫集寫入到磁盤檔案中,

PXC集群狀態監控

在集群搭建好之后,可以通過如下狀態變數’%wsrep%'來查看集群中各節點的狀態,下面例舉出幾個重要的引數,便于發現問題,

  • wsrep local state uid: 集群中所有節點的該狀態值應該是相同的,如果有不同值的節點,說明其沒有加入集群,
  • wsrep_ last _committed:最后提交的事務數目,
  • wsrep cluster _size: 當前集群中的節點數量,
  • wsrep_ cluster _status: 集群組成的狀態,如果不是"Primary", 說明出現腦裂現象,
  • wsrep local state:當前節點狀態,值為4表示正常,該狀態有四個值:
    • joining:表示節點正在加入集群
    • doner:節點處于為新加入節點提供全量資料時的狀態,
    • joined:當前節點已成功加入集群,
    • synced:當前節點與集群中各節點是同步狀態,
    • wsrep_ ready: 為ON表示當前節點可以正常提供服務,為OFF, 則該節點可能發生腦裂或網路問題導致,

四、MySQL遷移到PXC

資料是無價的,操作前請一定要備份!操作前請一定要備份!!操作前請一定要備份!!!

MySQL遷移到集群方法有以下三種:

  1. 使用mysqldump匯出SQL檔案后,直接匯入到已經安裝配置好的PXC集群里,此方法對匯入前后的資料庫版本沒有要求必須一致,但是速度比較慢,

  2. 使用percona xtrabackup進行備份恢復,效率高但是要求資料庫版本一致,

  3. 原生MySQL或者Percona Server遷移到pxc,可以直接停掉原來的mysql,直接使用原先資料庫目錄安裝pxc,啟動后會自動完成遷移作業,再次提醒一定要備份!

五、Haproxy前端

根據前面的安裝步驟,我們已經擁有了一個完整的3臺PXC集群,因為3臺都是可以讀寫的資料庫,因此程式連接任意一臺都可以,但是沒有辦法進行負載均衡,甚至如果程式連接的那臺服務器資料庫掛掉,也不能進行自動切換,

因此我們再假設一個Haproxy作為代理,應用程式連接的是Haproxy,通過haproxy策略分布到3臺PXC資料庫,

1. 撰寫Dockerfile檔案
cd /workspace/haproxy
vi Dockerfile

Dockerfile檔案內容如下:

FROM haproxy:alpine
COPY haproxy.cfg /usr/local/etc/haproxy/haproxy.cfg
EXPOSE 3306 1080
2. 編輯haproxy組態檔
vi haproxy.cfg

haproxy.cfg內容如下:

global
    maxconn     4000
 
defaults
        log     global
        log 127.0.0.1 local3
        mode    http
        option  tcplog
        option  dontlognull
        retries 10
        option redispatch
        maxconn         2000
        timeout connect         10s
        timeout client          1m
        timeout server          1m
        timeout http-keep-alive 10s
        timeout check           10s
 
listen  mysql
        bind 0.0.0.0:3306
        mode tcp
        balance roundrobin #使用輪詢的方式
        option mysql-check
        server s1 node1:3306 check
        server s2 node2:3306 check
        server s3 node3:3306 check
 
listen stats
        bind 0.0.0.0:1080
        mode http
        option httplog
        maxconn 10
        stats refresh 30s
        stats uri /dbs
        stats realm XingCloud\ Haproxy
        stats auth dtzs:dtzs123 #用這個賬號登錄,可以自己設定
        stats auth Frank:Frank
        stats hide-version
        stats admin if TRUE
3. 構建haproxy鏡像
docker build -t pxc-haproxy .
4. 啟動haproxy服務

在3臺服務器上分別運行以下命令:

docker run -it -d -p 3306:3306 -p 1080:4567 --name haproxy01 --net=dtzs_swarm --privileged pxc-haproxy
docker run -it -d -p 3306:3306 -p 1080:4567 --name haproxy02 --net=dtzs_swarm --privileged pxc-haproxy
docker run -it -d -p 3306:3306 -p 1080:4567 --name haproxy03 --net=dtzs_swarm --privileged pxc-haproxy

這時候訪問http://192.168.0.101:1080/dbs,就可以看到haproxy的web界面了,細心的小伙伴可能也發現了,我們前面運行pxc的時候并沒有映射3306埠,是的我們在haproxy里面暴露埠,

六、后語

通過本文,相信大家已經了解PXC的基本原理以及如何進行一個基本的PXC集群架設,以及如何通過Haproxy作為中間件,

如果有什么疑問,歡迎評論留言交流!

轉載請註明出處,本文鏈接:https://www.uj5u.com/ruanti/246811.html

標籤:其他

上一篇:Vue-多頁面跳轉去掉.html后綴的解決辦法

下一篇:大廠都咋用平臺、分布式快取?起碼你要懂技術,高級還得懂業務

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 面試突擊第一季,第二季,第三季

    第一季必考 https://www.bilibili.com/video/BV1FE411y79Y?from=search&seid=15921726601957489746 第二季分布式 https://www.bilibili.com/video/BV13f4y127ee/?spm_id_fro ......

    uj5u.com 2020-09-10 05:35:24 more
  • 第三單元作業總結

    1.前言 這應該是本學期最后一次寫作業總結了吧。總體來說,對作業的節奏也差不多掌握了,作業做起來的效率也更高了。雖然和之前的作業一樣,作業中都要用到新的知識,但是相比之前,更加懂得了如何利用工具以及資料。雖然之間卡過殼,但總體而言,這幾次作業還算完成的比較好。 2.作業程序總結 相比前兩個單元,此單 ......

    uj5u.com 2020-09-10 05:35:41 more
  • 北航OO(2020)第四單元博客作業暨課程總結博客

    北航OO(2020)第四單元博客作業暨課程總結博客 本單元作業的架構設計 在本單元中,由于UML圖具有比較清晰的樹形結構,因此我對其中需要進行查詢操作的元素進行了包裝,在樹的父節點中存盤所有孩子的參考。考慮到性能問題,我采用了快取機制,一次查詢后盡可能快取已經遍歷過的資訊,以減少遍歷次數。 本單元我 ......

    uj5u.com 2020-09-10 05:35:48 more
  • BUAA_OO_第四單元

    一、UML決議器設計 ? 先看下題目:第四單元實作一個基于JDK 8帶有效性檢查的UML(Unified Modeling Language)類圖,順序圖,狀態圖分析器 MyUmlInteraction,實際上我們要建立一個有向圖模型,UML中的物件(元素)可能與同級元素連接,也可與低級元素相連形成 ......

    uj5u.com 2020-09-10 05:35:54 more
  • 6.1邏輯運算子

    邏輯運算子 1. && 短路與 運算式1 && 運算式2 01.運算式1為true并且運算式2也為true 整體回傳為true 02.運算式1為false,將不會執行運算式2 整體回傳為false 03.只要有一個運算式為false 整體回傳為false 2. || 短路或 運算式1 || 運算式2 ......

    uj5u.com 2020-09-10 05:35:56 more
  • BUAAOO 第四單元 & 課程總結

    1. 第四單元:StarUml檔案決議 本單元采用了圖模型決議UML。 UML檔案可以抽象為圖、子圖、邊的邏輯結構。 在實作中,圖的節點包括類、介面、屬性,子圖包括狀態圖、順序圖等。 采用了三次遍歷UML元素的方法建圖,第一遍遍歷建點,第二、三次遍歷設定屬性、連邊,實作圖物件的初始化。這里借鑒了一些 ......

    uj5u.com 2020-09-10 05:36:06 more
  • 談談我對C# 多型的理解

    面向物件三要素:封裝、繼承、多型。 封裝和繼承,這兩個比較好理解,但要理解多型的話,可就稍微有點難度了。今天,我們就來講講多型的理解。 我們應該經常會看到面試題目:請談談對多型的理解。 其實呢,多型非常簡單,就一句話:呼叫同一種方法產生了不同的結果。 具體實作方式有三種。 一、多載 多載很簡單。 p ......

    uj5u.com 2020-09-10 05:36:09 more
  • Python 資料驅動工具:DDT

    背景 python 的unittest 沒有自帶資料驅動功能。 所以如果使用unittest,同時又想使用資料驅動,那么就可以使用DDT來完成。 DDT是 “Data-Driven Tests”的縮寫。 資料:http://ddt.readthedocs.io/en/latest/ 使用方法 dd. ......

    uj5u.com 2020-09-10 05:36:13 more
  • Python里面的xlrd模塊詳解

    那我就一下面積個問題對xlrd模塊進行學習一下: 1.什么是xlrd模塊? 2.為什么使用xlrd模塊? 3.怎樣使用xlrd模塊? 1.什么是xlrd模塊? ?python操作excel主要用到xlrd和xlwt這兩個庫,即xlrd是讀excel,xlwt是寫excel的庫。 今天就先來說一下xl ......

    uj5u.com 2020-09-10 05:36:28 more
  • 當我們創建HashMap時,底層到底做了什么?

    jdk1.7中的底層實作程序(底層基于陣列+鏈表) 在我們new HashMap()時,底層創建了默認長度為16的一維陣列Entry[ ] table。當我們呼叫map.put(key1,value1)方法向HashMap里添加資料的時候: 首先,呼叫key1所在類的hashCode()計算key1 ......

    uj5u.com 2020-09-10 05:36:38 more
最新发布
  • 【中介者設計模式詳解】C/Java/JS/Go/Python/TS不同語言實作

    * 中介者模式是一種行為型設計模式,它可以用來減少類之間的直接依賴關系,
    * 將物件之間的通信封裝到一個中介者物件中,從而使得各個物件之間的關系更加松散。
    * 在中介者模式中,物件之間不再直接相互互動,而是通過中介者來中轉訊息。 ......

    uj5u.com 2023-04-20 08:20:47 more
  • 露天煤礦現場調研和交流案例分享

    他們集團的資訊化公司及研究院在一個礦區正在做智能礦山的統一平臺的 試點,專案投資大概1億,包括了礦山的各方面的內容,顯示得我們這次交流有點多余。他們2年前開始做智能礦山的規劃,有很多煤礦行業專家的加持,他們的描述是非常完美,但是去年底應該上線的平臺,現在還沒有看到影子。他們確實有很多場景需求,但是被... ......

    uj5u.com 2023-04-20 08:20:25 more
  • 《社區人員管理》實戰案例設計&個人案例分享

    設計是一個讓人夢想成真程序,開始編碼、測驗、除錯之前進行需求分析和架構設計,才能保證關鍵方面都做正確 ......

    uj5u.com 2023-04-20 08:20:17 more
  • 軟體架構生態化-多角色交付的探索實踐

    作為一個技術架構師,不僅僅要緊跟行業技術趨勢,還要結合研發團隊現狀及痛點,探索新的交付方案。在日常中,你是否遇到如下問題 “ 業務需求排期長研發是瓶頸;非研發角色感受不到研發技改提效的變化;引入ISV 團隊又擔心質量和安全,培訓周期長“等等,基于此我們探索了一種新的技術體系及交付方案來解決如上問題。 ......

    uj5u.com 2023-04-20 08:20:10 more
  • 【中介者設計模式詳解】C/Java/JS/Go/Python/TS不同語言實作

    * 中介者模式是一種行為型設計模式,它可以用來減少類之間的直接依賴關系,
    * 將物件之間的通信封裝到一個中介者物件中,從而使得各個物件之間的關系更加松散。
    * 在中介者模式中,物件之間不再直接相互互動,而是通過中介者來中轉訊息。 ......

    uj5u.com 2023-04-20 08:19:44 more
  • 露天煤礦現場調研和交流案例分享

    他們集團的資訊化公司及研究院在一個礦區正在做智能礦山的統一平臺的 試點,專案投資大概1億,包括了礦山的各方面的內容,顯示得我們這次交流有點多余。他們2年前開始做智能礦山的規劃,有很多煤礦行業專家的加持,他們的描述是非常完美,但是去年底應該上線的平臺,現在還沒有看到影子。他們確實有很多場景需求,但是被... ......

    uj5u.com 2023-04-20 08:19:07 more
  • 《社區人員管理》實戰案例設計&個人案例分享

    設計是一個讓人夢想成真程序,開始編碼、測驗、除錯之前進行需求分析和架構設計,才能保證關鍵方面都做正確 ......

    uj5u.com 2023-04-20 08:18:57 more
  • 軟體架構生態化-多角色交付的探索實踐

    作為一個技術架構師,不僅僅要緊跟行業技術趨勢,還要結合研發團隊現狀及痛點,探索新的交付方案。在日常中,你是否遇到如下問題 “ 業務需求排期長研發是瓶頸;非研發角色感受不到研發技改提效的變化;引入ISV 團隊又擔心質量和安全,培訓周期長“等等,基于此我們探索了一種新的技術體系及交付方案來解決如上問題。 ......

    uj5u.com 2023-04-20 08:18:49 more
  • 05單件模式

    #經典的單件模式 public class Singleton { private static Singleton uniqueInstance; //一個靜態變數持有Singleton類的唯一實體。 // 其他有用的實體變數寫在這里 //構造器宣告為私有,只有Singleton可以實體化這個類! ......

    uj5u.com 2023-04-19 08:42:51 more
  • 【架構與設計】常見微服務分層架構的區別和落地實踐

    軟體工程的方方面面都遵循一個最基本的道理:沒有銀彈,架構分層模型更是如此,每一種都有各自優缺點,所以請根據不同的業務場景,并遵循簡單、可演進這兩個重要的架構原則選擇合適的架構分層模型即可。 ......

    uj5u.com 2023-04-19 08:42:41 more