主頁 > 資料庫 > 看完這篇,DWS故障修復不再愁

看完這篇,DWS故障修復不再愁

2023-05-23 09:55:40 資料庫

摘要:本文詳細梳理分析了DWS服務面臨軟硬體故障場景和對應的修復原理,希望借此能夠讓你對DWS的集群故障修復有個全面深入的了解,

本文分享自華為云社區《GaussDB(DWS)故障修復系統性介紹》,作者: 聞鮮生,

DWS是一個分布式架構的MPP集群,物理部署上涉及數百數千臺主機和對應的磁盤,以及這些主機所在的大規模分布式高速組網環境,在邏輯上,MPPDB包括CM、GTM、CN、DN各種實體組件的配合作業,因此DWS的故障場景較多,不過我們提供了針對各種故障場景的系統性修復方案,通過此文可以了解DWS服務面臨的故障場景和對應的修復方案,

硬體故障場景

1、可修復故障:主要是指硬體故障后可以修復,并且不會造成資料損壞或者丟失,比如記憶體條故障更換,raid組內磁盤故障更換,主機斷電重啟等,這種故障場景下,等待硬體故障恢復后,上面的資料庫實體會自動啟動并恢復,

2、磁盤故障:包括磁盤故障和raid組故障,可能導致CN,DN資料損壞或者丟失,這種故障場景下,等待硬體故障修復后,需要對上面的CN實體做元資料修復,DN實體做資料修復,CM,GTM實體做配置修復,

3、主機故障:包括系統盤損壞,其他硬體故障導致的主機無法啟動等,會導致該主機上部署的軟體和資料丟失,這種故障場景下,則需要更換主機,使用新主機替換故障主機,需要在新主機上重裝資料庫軟體,重建上面的資料庫實體,

軟體故障場景

DWS邏輯上包括OM,CM,GTM,CN,DN六種型別的實體組件,每類組件提供的功能不動,配置的數量也不同,但是共同配合,支撐DWS的運維和業務功能,如下是DWS服務的一種簡單部署拓撲圖(其中OM屬于靜態工具因此不再列出,為了拓撲簡潔性DN從備也未列出):

其中硬體故障最終體現到DWS資料庫實體故障上,DWS集群修復也是通過修復每類故障實體來進行的,每類實體的修復條件和修復思路如下:

  • 集群管理組件(CM)
    • cm_server:主備模式,主備至少有一個正常的才能修復,主要修復配置,以對端為模板重建故障實體,
    • cm_agent:每個節點都部署一個cm_agent,原則上只要有一個正常的cm_agent就能修復,主要修復配置,以正常的cm_agent為模板重建故障實體,
  • 全域事務管理(GTM):主備模式,主備至少有一個正常的才能修復,主要修復配置和少量資料(xid,序列等),以對端為模板重建故障實體,
  • 協調節點(CN):多主多活模式,每個節點可部署一個CN實體,整個DWS集群最多部署20個CN實體,只要有一個正常的CN就能修復,主要修復配置和元資料,以正常的CN為模板重建故障實體,
  • 資料節點(DN):多切片模式,最多支持2048個資料切片,每個資料切片又包括主機,備機,從備三副本,每個DN切片主備從只能故障一個,主機或備機故障以對端實體為模板修復故障實體配置和資料,從備故障以主機實體為模板修復故障實體的配置,

故障修復場景

結合硬體故障場景和軟體故障場景,DWS支持的故障修復主要包括:DN主備build,實體修復,節點修復(溫備)

DN主備build

DN主備副本通過WAL實時同步資料,由CM來自動完成DN主備實體的狀態監控、主備沖裁、主備切換及主備build,如果主DN所在機器發生故障,CM自動完成DN主備切換(備機升主,主機降備),如果故障恢復后,CM會自動做DN主備資料同步(build)來重建故障備機,該場景主要包括機器宕機重啟,更換記憶體條等,是最常見的故障場景也是最簡單的故障場景,DWS已經支持自動化處理,

實體修復

實體修復主要指相對于“DN主備build”更復雜的故障場景,該故障場景主要是指某個機器(或多臺機器)發生實體級別故障,實體范圍包括CM、GTM、CN、DN等實體,故障范圍主要包括實體的配置或者資料發生損壞或者丟失,但是故障機器的OS系統和DWS資料庫軟體還是正常的,該故障場景主要包括機器資料盤,raid組損壞,更換磁盤等,

典型的故障場景和修復示意圖如下:

該故障場景DWS已經不能做自動化修復,但是提供了一鍵式修復工具gs_replace,需要運維人員分析故障場景,預估修復耗時,然后在業務空閑時間窗進行修復,

CM、GTM主要修復配置,秒級修復,對業務和系統負載影響很小;CN涉及元資料重建,耗時與表數量正相關,并且在修復后期會短暫鎖集群做元資料追增,阻塞用戶DDL業務;DN涉及資料重建,耗時與資料量正相關,修復程序中不影響業務,但會消耗系統的網路和IO資源,

節點修復

節點修復主要處理更加復雜的故障場景,該故障場景主要是指某個機器(或多臺機器)發生整機故障,如CPU、記憶體故障,OS系統損壞導致的機器無法啟動,

該故障場景修復思路如下:

1、確認故障范圍,包括故障機器,影響的資料庫實體,

2、故障機器斷電下網,

3、重新準備一臺新機器,新機器軟硬體規格要和故障機器一樣,

4、把新機器的主機名和IP修改成故障機器一樣,并加入到DWS集群網路內,

5、通過DWS修復工具在新機器上重建故障機器上的軟體、配置和資料,

溫備

溫備處理的故障場景和節點修復一樣,主要是修復方式不一樣,溫備主要適用于云上場景或者有機器富裕的用戶,

主要使用場景如下:

1、針對N臺主機的DWS集群,提前規劃M臺機器作為溫備機器,溫備機器軟硬體規格和DWS集群機器一樣,并把溫備機器也加入到DWS集群網路環境內,

2、如果DWS集群內某臺機器發生了硬體故障且無法修復,

3、把故障機器斷電并下網,

4、從溫備機器中任找一臺機器,然后使用DWS修復工具在溫備機器上重建故障機器上面的軟體、配置和資料,

本文詳細梳理分析了DWS服務面臨軟硬體故障場景和對應的修復原理,希望借此能夠讓你對DWS的集群故障修復有個全面深入的了解,具體的使用說明和操作步驟可參見DWS產品檔案,從此對DWS故障修復不再愁,

 

點擊關注,第一時間了解華為云新鮮技術~

轉載請註明出處,本文鏈接:https://www.uj5u.com/shujuku/553144.html

標籤:其他

上一篇:Redis安裝,主從復制、哨兵模式、集群

下一篇:返回列表

標籤雲
其他(159517) Python(38162) JavaScript(25443) Java(18096) C(15230) 區塊鏈(8267) C#(7972) AI(7469) 爪哇(7425) MySQL(7207) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5871) 数组(5741) R(5409) Linux(5340) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4574) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2433) ASP.NET(2403) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) .NET技术(1975) 功能(1967) Web開發(1951) HtmlCss(1940) C++(1919) python-3.x(1918) 弹簧靴(1913) xml(1889) PostgreSQL(1878) .NETCore(1861) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • GPU虛擬機創建時間深度優化

    **?桔妹導讀:**GPU虛擬機實體創建速度慢是公有云面臨的普遍問題,由于通常情況下創建虛擬機屬于低頻操作而未引起業界的重視,實際生產中還是存在對GPU實體創建時間有苛刻要求的業務場景。本文將介紹滴滴云在解決該問題時的思路、方法、并展示最終的優化成果。 從公有云服務商那里購買過虛擬主機的資深用戶,一 ......

    uj5u.com 2020-09-10 06:09:13 more
  • 可編程網卡芯片在滴滴云網路的應用實踐

    **?桔妹導讀:**隨著云規模不斷擴大以及業務層面對延遲、帶寬的要求越來越高,采用DPDK 加速網路報文處理的方式在橫向縱向擴展都出現了局限性。可編程芯片成為業界熱點。本文主要講述了可編程網卡芯片在滴滴云網路中的應用實踐,遇到的問題、帶來的收益以及開源社區貢獻。 #1. 資料中心面臨的問題 隨著滴滴 ......

    uj5u.com 2020-09-10 06:10:21 more
  • 滴滴資料通道服務演進之路

    **?桔妹導讀:**滴滴資料通道引擎承載著全公司的資料同步,為下游實時和離線場景提供了必不可少的源資料。隨著任務量的不斷增加,資料通道的整體架構也隨之發生改變。本文介紹了滴滴資料通道的發展歷程,遇到的問題以及今后的規劃。 #1. 背景 資料,對于任何一家互聯網公司來說都是非常重要的資產,公司的大資料 ......

    uj5u.com 2020-09-10 06:11:05 more
  • 滴滴AI Labs斬獲國際機器翻譯大賽中譯英方向世界第三

    **桔妹導讀:**深耕人工智能領域,致力于探索AI讓出行更美好的滴滴AI Labs再次斬獲國際大獎,這次獲獎的專案是什么呢?一起來看看詳細報道吧! 近日,由國際計算語言學協會ACL(The Association for Computational Linguistics)舉辦的世界最具影響力的機器 ......

    uj5u.com 2020-09-10 06:11:29 more
  • MPP (Massively Parallel Processing)大規模并行處理

    1、什么是mpp? MPP (Massively Parallel Processing),即大規模并行處理,在資料庫非共享集群中,每個節點都有獨立的磁盤存盤系統和記憶體系統,業務資料根據資料庫模型和應用特點劃分到各個節點上,每臺資料節點通過專用網路或者商業通用網路互相連接,彼此協同計算,作為整體提供 ......

    uj5u.com 2020-09-10 06:11:41 more
  • 滴滴資料倉庫指標體系建設實踐

    **桔妹導讀:**指標體系是什么?如何使用OSM模型和AARRR模型搭建指標體系?如何統一流程、規范化、工具化管理指標體系?本文會對建設的方法論結合滴滴資料指標體系建設實踐進行解答分析。 #1. 什么是指標體系 ##1.1 指標體系定義 指標體系是將零散單點的具有相互聯系的指標,系統化的組織起來,通 ......

    uj5u.com 2020-09-10 06:12:52 more
  • 單表千萬行資料庫 LIKE 搜索優化手記

    我們經常在資料庫中使用 LIKE 運算子來完成對資料的模糊搜索,LIKE 運算子用于在 WHERE 子句中搜索列中的指定模式。 如果需要查找客戶表中所有姓氏是“張”的資料,可以使用下面的 SQL 陳述句: SELECT * FROM Customer WHERE Name LIKE '張%' 如果需要 ......

    uj5u.com 2020-09-10 06:13:25 more
  • 滴滴Ceph分布式存盤系統優化之鎖優化

    **桔妹導讀:**Ceph是國際知名的開源分布式存盤系統,在工業界和學術界都有著重要的影響。Ceph的架構和演算法設計發表在國際系統領域頂級會議OSDI、SOSP、SC等上。Ceph社區得到Red Hat、SUSE、Intel等大公司的大力支持。Ceph是國際云計算領域應用最廣泛的開源分布式存盤系統, ......

    uj5u.com 2020-09-10 06:14:51 more
  • es~通過ElasticsearchTemplate進行聚合~嵌套聚合

    之前寫過《es~通過ElasticsearchTemplate進行聚合操作》的文章,這一次主要寫一個嵌套的聚合,例如先對sex集合,再對desc聚合,最后再對age求和,共三層嵌套。 Aggregations的部分特性類似于SQL語言中的group by,avg,sum等函式,Aggregation ......

    uj5u.com 2020-09-10 06:14:59 more
  • 爬蟲日志監控 -- Elastc Stack(ELK)部署

    傻瓜式部署,只需替換IP與用戶 導讀: 現ELK四大組件分別為:Elasticsearch(核心)、logstash(處理)、filebeat(采集)、kibana(可視化) 下載均在https://www.elastic.co/cn/downloads/下tar包,各組件版本最好一致,配合fdm會 ......

    uj5u.com 2020-09-10 06:15:05 more
最新发布
  • 看完這篇,DWS故障修復不再愁

    摘要:本文詳細梳理分析了DWS服務面臨軟硬體故障場景和對應的修復原理,希望借此能夠讓你對DWS的集群故障修復有個全面深入的了解。 本文分享自華為云社區《GaussDB(DWS)故障修復系統性介紹》,作者: 聞鮮生。 DWS是一個分布式架構的MPP集群,物理部署上涉及數百數千臺主機和對應的磁盤,以及這 ......

    uj5u.com 2023-05-23 09:55:40 more
  • Redis安裝,主從復制、哨兵模式、集群

    淺淺的記錄下Redis安裝、主從、哨兵、集群。搭建筆記 一.Redis下載安裝 系統環境 redis版本:7.0.11 linux版本:CentOS Linux release 8.2.2004 (Core) 官網下載地址:https://redis.io/download/ 一些安裝命令,按照步驟 ......

    uj5u.com 2023-05-23 09:50:19 more
  • 為什么MySQL單表不能超過2000萬行?

    摘要:MySQL一張表最多能存多少資料? 本文分享自華為云社區《為什么MySQL單表不能超過2000萬行?》,作者: GaussDB 資料庫 。 最近看到一篇《我說MySQL每張表最好不要超過2000萬資料,面試官讓我回去等通知》的文章,非常有趣。 文中提到,他朋友在面試的程序中說,自己的作業就是把 ......

    uj5u.com 2023-05-23 09:43:51 more
  • Redis - 二進制位陣列

    數學上有一個“計算漢明重量”的問題,即求取一個二進制位中非 0 的數量。使用 Redis 提供的 Bitmap 統計時恰恰是這樣一個問題,學習后能發現解決辦法卻是如此巧妙。 ......

    uj5u.com 2023-05-23 09:43:39 more
  • Redis單機部署

    # Redis單機部署 ## 1 安裝 下載最新穩定版Redis https://download.redis.io/redis-stable.tar.gz ```shell # 安裝wget yum install -y wget # 安裝gcc環境 yum install gcc-c++ # 獲 ......

    uj5u.com 2023-05-23 09:43:31 more
  • MySQL 并行復制方案演進歷史及原理分析

    有過線上 MySQL 維護經驗的童鞋都知道,主從延遲往往是一個讓人頭疼不已的問題。



    不僅僅是其造成的潛在問題比較嚴重,而且主從延遲原因的定位尤其考量 DBA 的綜合能力:既要熟悉復制的內部原理,又能解讀主機層面的資源使用情況,甚至還要會分析 binlog。



    導致主從延遲的一個常見原因是,... ......

    uj5u.com 2023-05-23 09:43:20 more
  • 看完這篇,DWS故障修復不再愁

    摘要:本文詳細梳理分析了DWS服務面臨軟硬體故障場景和對應的修復原理,希望借此能夠讓你對DWS的集群故障修復有個全面深入的了解。 本文分享自華為云社區《GaussDB(DWS)故障修復系統性介紹》,作者: 聞鮮生。 DWS是一個分布式架構的MPP集群,物理部署上涉及數百數千臺主機和對應的磁盤,以及這 ......

    uj5u.com 2023-05-23 09:42:48 more
  • Redis安裝,主從復制、哨兵模式、集群

    淺淺的記錄下Redis安裝、主從、哨兵、集群。搭建筆記 一.Redis下載安裝 系統環境 redis版本:7.0.11 linux版本:CentOS Linux release 8.2.2004 (Core) 官網下載地址:https://redis.io/download/ 一些安裝命令,按照步驟 ......

    uj5u.com 2023-05-23 09:37:25 more
  • Redis - 二進制位陣列

    數學上有一個“計算漢明重量”的問題,即求取一個二進制位中非 0 的數量。使用 Redis 提供的 Bitmap 統計時恰恰是這樣一個問題,學習后能發現解決辦法卻是如此巧妙。 ......

    uj5u.com 2023-05-23 09:31:42 more
  • Redis單機部署

    # Redis單機部署 ## 1 安裝 下載最新穩定版Redis https://download.redis.io/redis-stable.tar.gz ```shell # 安裝wget yum install -y wget # 安裝gcc環境 yum install gcc-c++ # 獲 ......

    uj5u.com 2023-05-23 09:31:34 more