主頁 > 軟體設計 > 作為一款記憶體資料庫,為什么斷電后Redis資料不會丟失

作為一款記憶體資料庫,為什么斷電后Redis資料不會丟失

2021-02-01 13:06:57 軟體設計

前言

Redis 作為一款記憶體資料庫,被廣泛使用于快取,分布式鎖等場景,那么假如斷電或者因其他因素導致 Reids 服務宕機,在重啟之后資料會丟失嗎?

Redis 持久化機制

Redis 雖然是定義為一個記憶體資料庫,但是其也支持資料的持久化,在 Redis 中提供了兩種持久化機制:RDB 持久化和 AOF 持久化,

RDB 持久化機制

RDB 全稱為:Redis DataBase,是 Redis 當中默認的持久化方案,當觸發持久化條件時,Redis 默認會生成一個 dump.rdb 檔案,Redis 在重啟的時候就會通過決議 dump.rdb 檔案進行資料恢復,

RDB 機制觸發條件

RDB 持久化機制有兩種觸發方式:自動觸發和手動觸發,

自動觸發

自動觸發方式也可以分為三種:

  • 執行 flushall 命令(flushdb 命令不會觸發)時,不過此時生成的 dump 檔案內的資料是空的(dump 檔案還會存盤一些頭資訊,所以檔案本身是有內容的,只是沒有資料),沒有什么太大的實際意義,
  • 執行 shutdown 命令時會觸發生成 dump 檔案,
  • 通過組態檔自動生成,Redis 中組態檔默認配置如下,只要達到這三個條件中的任意一個,就會觸發 RedisRDB 持久化機制,
save 900 1 //900秒內至少有1個key被添加或者更新
save 300 10 //300秒內至少有10個key被添加或者更新
save 60 10000 //60秒內至少有10000個key被添加或者更新

手動觸發

除了自動觸發,Redis 中還提供了 2 個手動觸發 RDB 機制的命令(這兩個命令不能同時被執行,一旦一個命令正在執行中,另一個命令會被拒絕執行):

  • save:這個命令會阻塞 Redis 服務器行程,直到成功創建 RDB 檔案,也就是說在生成 RDB 檔案之前,服務器不能處理客戶端發送的任何命令,
  • bgsave:父行程會執行 fork 操作來創建一個子行程,RDB 檔案由子行程來負責生成,父行程可以正常處理客戶端發送的命令(這里也是 Redis 不僅僅只是單執行緒的一個體現),

如果想要知道上一次成功執行 save 或者 bgsave 命令的時間,可以執行 lastsave 命令進行查看,lastsave 命令回傳的是一個 unix 時間戳,

RDB 機制相關組態檔

除了上面提到的觸發生成 rdb 檔案的配置引數,RDB 持久化機制還有如下一些相關命令:

  • dirrdb 檔案生成目錄,默認是 ./(當前目錄),可以執行命令 config get dir 進行查看,如下圖所示說明當前 dump 檔案生成目錄為 /usr/local/redis-5.0.5/bin

在這里插入圖片描述

  • dbfilenamerdb 檔案名,默認是 dump.rdb

  • rdbcompressionrdb 檔案是否是 LZF 壓縮檔案,默認是 yes

  • rdbchecksum:是否開啟資料校驗,默認是 yes

RDB 機制優點

  • RDB 是一個非常緊湊的壓縮檔案,保存了不同時間點上的檔案,非常適合用來災備和資料恢復,
  • RDB 最大限度地提高了 Redis 的性能,因為 Redis 父行程需要做的唯一的作業就是派生一個子行程來完成剩下的作業,父行程永遠不會執行磁盤 I/O 或類似的耗時操作,
  • 與后面介紹的 AOF 持久化機制比較,RDB 方式恢復資料的速度更快,

RDB 機制缺點

  • RDB 無法做到實時備份,所以如果 Redis 因例外停止作業而沒有正確的關機,那么從上一次備份的到例外宕機的這一段時間的資料將會丟失,
  • 2、RDB 通常需要父行程來執行 fork 操作創建子執行緒,所以如果頻繁執行 fork 操作而 CPU 性能又不是很高的話可能會造成短時間內父行程不可用,

AOF 持久化機制

AOF 全稱為:Append Only File,是 Redis 當中提供的另一種持久化機制,AOF 采用日志的形式將每個寫操作追加到檔案中,開啟 AOF 機制后,只要執行更改 Redis 資料的命令時,命令就會被寫入到 AOF 檔案中,在 Redis 重啟的時候會根據日志內容依次執行 AOF 檔案中的命令來恢復資料,

AOFRDB 最大的不同是:AOF 記錄的是執行命令(類似于 MySQLbinlogstatement 格式),而RDB 記錄的是資料(類似于 MySQLbinlogrow 格式),

需要注意的是:假如同時開啟了 RDBAOF 兩種機制,那么 Redis 會優先選擇 AOF 持久化檔案來進行資料恢復,

AOF 機制如何開啟

AOF 機制默認是關閉的,可以通過以下組態檔進行修改

appendonly no  //是否開啟AOF機制,默認是no表示關閉,修改為yes則表示開啟
appendfilename "appendonly.aof"  //AOF檔案名

PS:和 RDB 機制一樣,其生成檔案的路徑也是通過 dir 屬性進行配置,

AOF 機制資料是否實時寫入磁盤

AOF 機制下資料是否實時寫入磁盤,這個和 MySQLredo log 機制很類似,也是需要通過引數來進行控制,

AOF 資料何時寫入磁盤由引數 appendfsync 來進行控制:

appendfsync描述備注
always寫入快取的同時通知作業系統重繪(fsync)到磁盤(但是也可能會有部分作業系統只是盡快刷盤,而不是實時刷盤)Slow, Safest
everysec先寫入快取,然后每秒中刷一次盤(默認值),這種模式極端情況可能會丟失 1s 的資料Compromise
no只寫入快取,什么時候刷盤由作業系統自己決定Faster

AOF 檔案重寫

AOF 機制主要是通過記錄執行命令的方式來實作的,那么隨著時間的增加,AOF 檔案不可避免的會越來越大,而且可能會出現很多冗余命令,比如同一個 key 值執行了 10000set 操作,實際上前面 9999 次對恢復資料來說都是沒用的,只需要執行最后一次命令就可以把資料恢復,正是為了避免這種問題,AOF 機制就提供了檔案重寫功能,

重寫原理分析

AOF 重寫時 Redis 并不會去分析原有的檔案,因為如果原有檔案過大,分析也會很耗時,所以 Redis 選擇的做法就是重新去 Redis 中讀取現有的鍵值對,然后用一條命令記錄鍵值對的值

只使用一條命令也有一個前提,那就是一個集合鍵或者串列鍵或者哈希鍵內包含的元素不能超過 64 個,一旦超過 64 個,就會使用多條命令來進行記錄,

AOF 重寫緩沖區

AOF 重寫的時候一般都會有大量的寫操作,所以為了不阻塞客戶端的命令請求,Redis 會把重寫操作放入到子行程中執行,但是放入子行程中執行也會帶來一個問題,那就是重寫期間如果同時又執行了客戶端發過來的命令,又該如何保證資料的一致性?

為了解決資料不一致問題,Redis 中引入了一個 AOF 重寫緩沖區,當開始執行 AOF 檔案重寫之后又接收到客戶端的請求命令,不但要將命令寫入原本的 AOF 緩沖區(根據上面提到的引數刷盤),還要同時寫 入 AOF 重寫緩沖區:

在這里插入圖片描述

一旦子行程完成了 AOF 檔案的重寫,此時會向父行程發出信號,父行程收到信號之后會進行阻塞(阻塞期間不執行任何命令),并進行以下兩項作業:

  1. AOF 重寫緩沖區的檔案重繪到新的 AOF 檔案內,
  2. 將新 AOF 檔案進行改名并原子的替換掉舊的 AOF 檔案,

完成了上面的兩項作業之后,整個 AOF 重寫作業完成,父行程開始正常接收命令,

AOF 機制觸發條件

AOF 機制的觸發條件同樣也分為自動觸發和手動觸發,

  • 自動觸發:自動觸發可以通過以下引數進行設定:
auto-aof-rewrite-percentag //檔案大小超過上次AOF重寫之后的檔案的百分比,默認100,也就是默認達到上一次AOF重寫檔案的2倍之后會再次觸發AOF重寫
auto-aof-rewrite-min-size //設定允許重寫的最小AOF檔案大小,默認是64M,主要是避免滿足了上面的百分比,但是檔案還是很小的情況,
  • 手動觸發:執行 bgrewriteaof 命令,

注意:bgrewriteaof 命令也不能和上面 RDB 持久化命令 bgsave 同時執行,這么做是為了避免同時創建兩個子行程來同時執行大量寫磁盤操作,影響到 Redis 的性能,

AOF 機制機制優點

  • 使用 AOF 機制,可以自由選擇不同 fsync (刷盤)策略,而且在默認策略下最多也僅僅是損失 1s 的資料,
  • AOF 日志是一個僅追加的日志,因此如果出現斷電,也不存在查找或損壞問題,即使由于某些原因(磁盤已滿或其他原因),日志已經寫了一半的命令結束,redis-check-aof工具也能夠輕松地修復它,
  • AOF 檔案變得太大時,Redis 能夠在后臺自動重寫,
  • 不同于 RDB 的檔案格式,AOF 是一種易于理解和決議的格式,依次包含所有操作的日志,

AOF 機制機制缺點

  • 對于相同的資料集,AOF 檔案通常比等效的 RDB 檔案大,
  • 根據 fsync 的具體策略,AOF 機制可能比 RDB 機制慢,但是一般情況下,fsync 設定為每秒的性能仍然很高,禁用 fsync 后,即使在高負載下,它的速度也能和 RDB 一樣快,
  • 因為 AOF 檔案是追加形式,可能會遇到 BRPOPLPUSH 等阻塞命令的錯誤,從而導致生成的 AOF 在重新加載時不能復制完全相同的資料集,而 RDB 檔案每次都是重新從頭創建快照,這在一定程度上來說 RDB 檔案更加健壯,

總結

本文主要介紹了 Redis 的兩種持久化機制:RDBAOF,并分別介紹了兩種持久化機制的原理,通過對兩種持久化機制的對比分析了兩種持久化機制各自的優點和缺點,

轉載請註明出處,本文鏈接:https://www.uj5u.com/ruanti/255259.html

標籤:其他

上一篇:一篇帶你掌握TCP連接管理——四次揮手

下一篇:路由技術——OSPF

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 面試突擊第一季,第二季,第三季

    第一季必考 https://www.bilibili.com/video/BV1FE411y79Y?from=search&seid=15921726601957489746 第二季分布式 https://www.bilibili.com/video/BV13f4y127ee/?spm_id_fro ......

    uj5u.com 2020-09-10 05:35:24 more
  • 第三單元作業總結

    1.前言 這應該是本學期最后一次寫作業總結了吧。總體來說,對作業的節奏也差不多掌握了,作業做起來的效率也更高了。雖然和之前的作業一樣,作業中都要用到新的知識,但是相比之前,更加懂得了如何利用工具以及資料。雖然之間卡過殼,但總體而言,這幾次作業還算完成的比較好。 2.作業程序總結 相比前兩個單元,此單 ......

    uj5u.com 2020-09-10 05:35:41 more
  • 北航OO(2020)第四單元博客作業暨課程總結博客

    北航OO(2020)第四單元博客作業暨課程總結博客 本單元作業的架構設計 在本單元中,由于UML圖具有比較清晰的樹形結構,因此我對其中需要進行查詢操作的元素進行了包裝,在樹的父節點中存盤所有孩子的參考。考慮到性能問題,我采用了快取機制,一次查詢后盡可能快取已經遍歷過的資訊,以減少遍歷次數。 本單元我 ......

    uj5u.com 2020-09-10 05:35:48 more
  • BUAA_OO_第四單元

    一、UML決議器設計 ? 先看下題目:第四單元實作一個基于JDK 8帶有效性檢查的UML(Unified Modeling Language)類圖,順序圖,狀態圖分析器 MyUmlInteraction,實際上我們要建立一個有向圖模型,UML中的物件(元素)可能與同級元素連接,也可與低級元素相連形成 ......

    uj5u.com 2020-09-10 05:35:54 more
  • 6.1邏輯運算子

    邏輯運算子 1. && 短路與 運算式1 && 運算式2 01.運算式1為true并且運算式2也為true 整體回傳為true 02.運算式1為false,將不會執行運算式2 整體回傳為false 03.只要有一個運算式為false 整體回傳為false 2. || 短路或 運算式1 || 運算式2 ......

    uj5u.com 2020-09-10 05:35:56 more
  • BUAAOO 第四單元 & 課程總結

    1. 第四單元:StarUml檔案決議 本單元采用了圖模型決議UML。 UML檔案可以抽象為圖、子圖、邊的邏輯結構。 在實作中,圖的節點包括類、介面、屬性,子圖包括狀態圖、順序圖等。 采用了三次遍歷UML元素的方法建圖,第一遍遍歷建點,第二、三次遍歷設定屬性、連邊,實作圖物件的初始化。這里借鑒了一些 ......

    uj5u.com 2020-09-10 05:36:06 more
  • 談談我對C# 多型的理解

    面向物件三要素:封裝、繼承、多型。 封裝和繼承,這兩個比較好理解,但要理解多型的話,可就稍微有點難度了。今天,我們就來講講多型的理解。 我們應該經常會看到面試題目:請談談對多型的理解。 其實呢,多型非常簡單,就一句話:呼叫同一種方法產生了不同的結果。 具體實作方式有三種。 一、多載 多載很簡單。 p ......

    uj5u.com 2020-09-10 05:36:09 more
  • Python 資料驅動工具:DDT

    背景 python 的unittest 沒有自帶資料驅動功能。 所以如果使用unittest,同時又想使用資料驅動,那么就可以使用DDT來完成。 DDT是 “Data-Driven Tests”的縮寫。 資料:http://ddt.readthedocs.io/en/latest/ 使用方法 dd. ......

    uj5u.com 2020-09-10 05:36:13 more
  • Python里面的xlrd模塊詳解

    那我就一下面積個問題對xlrd模塊進行學習一下: 1.什么是xlrd模塊? 2.為什么使用xlrd模塊? 3.怎樣使用xlrd模塊? 1.什么是xlrd模塊? ?python操作excel主要用到xlrd和xlwt這兩個庫,即xlrd是讀excel,xlwt是寫excel的庫。 今天就先來說一下xl ......

    uj5u.com 2020-09-10 05:36:28 more
  • 當我們創建HashMap時,底層到底做了什么?

    jdk1.7中的底層實作程序(底層基于陣列+鏈表) 在我們new HashMap()時,底層創建了默認長度為16的一維陣列Entry[ ] table。當我們呼叫map.put(key1,value1)方法向HashMap里添加資料的時候: 首先,呼叫key1所在類的hashCode()計算key1 ......

    uj5u.com 2020-09-10 05:36:38 more
最新发布
  • 【中介者設計模式詳解】C/Java/JS/Go/Python/TS不同語言實作

    * 中介者模式是一種行為型設計模式,它可以用來減少類之間的直接依賴關系,
    * 將物件之間的通信封裝到一個中介者物件中,從而使得各個物件之間的關系更加松散。
    * 在中介者模式中,物件之間不再直接相互互動,而是通過中介者來中轉訊息。 ......

    uj5u.com 2023-04-20 08:20:47 more
  • 露天煤礦現場調研和交流案例分享

    他們集團的資訊化公司及研究院在一個礦區正在做智能礦山的統一平臺的 試點,專案投資大概1億,包括了礦山的各方面的內容,顯示得我們這次交流有點多余。他們2年前開始做智能礦山的規劃,有很多煤礦行業專家的加持,他們的描述是非常完美,但是去年底應該上線的平臺,現在還沒有看到影子。他們確實有很多場景需求,但是被... ......

    uj5u.com 2023-04-20 08:20:25 more
  • 《社區人員管理》實戰案例設計&個人案例分享

    設計是一個讓人夢想成真程序,開始編碼、測驗、除錯之前進行需求分析和架構設計,才能保證關鍵方面都做正確 ......

    uj5u.com 2023-04-20 08:20:17 more
  • 軟體架構生態化-多角色交付的探索實踐

    作為一個技術架構師,不僅僅要緊跟行業技術趨勢,還要結合研發團隊現狀及痛點,探索新的交付方案。在日常中,你是否遇到如下問題 “ 業務需求排期長研發是瓶頸;非研發角色感受不到研發技改提效的變化;引入ISV 團隊又擔心質量和安全,培訓周期長“等等,基于此我們探索了一種新的技術體系及交付方案來解決如上問題。 ......

    uj5u.com 2023-04-20 08:20:10 more
  • 【中介者設計模式詳解】C/Java/JS/Go/Python/TS不同語言實作

    * 中介者模式是一種行為型設計模式,它可以用來減少類之間的直接依賴關系,
    * 將物件之間的通信封裝到一個中介者物件中,從而使得各個物件之間的關系更加松散。
    * 在中介者模式中,物件之間不再直接相互互動,而是通過中介者來中轉訊息。 ......

    uj5u.com 2023-04-20 08:19:44 more
  • 露天煤礦現場調研和交流案例分享

    他們集團的資訊化公司及研究院在一個礦區正在做智能礦山的統一平臺的 試點,專案投資大概1億,包括了礦山的各方面的內容,顯示得我們這次交流有點多余。他們2年前開始做智能礦山的規劃,有很多煤礦行業專家的加持,他們的描述是非常完美,但是去年底應該上線的平臺,現在還沒有看到影子。他們確實有很多場景需求,但是被... ......

    uj5u.com 2023-04-20 08:19:07 more
  • 《社區人員管理》實戰案例設計&個人案例分享

    設計是一個讓人夢想成真程序,開始編碼、測驗、除錯之前進行需求分析和架構設計,才能保證關鍵方面都做正確 ......

    uj5u.com 2023-04-20 08:18:57 more
  • 軟體架構生態化-多角色交付的探索實踐

    作為一個技術架構師,不僅僅要緊跟行業技術趨勢,還要結合研發團隊現狀及痛點,探索新的交付方案。在日常中,你是否遇到如下問題 “ 業務需求排期長研發是瓶頸;非研發角色感受不到研發技改提效的變化;引入ISV 團隊又擔心質量和安全,培訓周期長“等等,基于此我們探索了一種新的技術體系及交付方案來解決如上問題。 ......

    uj5u.com 2023-04-20 08:18:49 more
  • 05單件模式

    #經典的單件模式 public class Singleton { private static Singleton uniqueInstance; //一個靜態變數持有Singleton類的唯一實體。 // 其他有用的實體變數寫在這里 //構造器宣告為私有,只有Singleton可以實體化這個類! ......

    uj5u.com 2023-04-19 08:42:51 more
  • 【架構與設計】常見微服務分層架構的區別和落地實踐

    軟體工程的方方面面都遵循一個最基本的道理:沒有銀彈,架構分層模型更是如此,每一種都有各自優缺點,所以請根據不同的業務場景,并遵循簡單、可演進這兩個重要的架構原則選擇合適的架構分層模型即可。 ......

    uj5u.com 2023-04-19 08:42:41 more