主頁 > 軟體設計 > MySQL提升筆記(3)日志檔案詳解

MySQL提升筆記(3)日志檔案詳解

2021-04-17 11:00:59 軟體設計

在MySQL資料庫和InnoDB存盤引擎中,有很多種檔案,如:引數檔案、日志檔案、socket檔案、pid檔案、MySQL表結構檔案、存盤引擎檔案,

本節重點關注日志檔案,MySQL的復制、事務等重要功能都和日志檔案相關,日志檔案主要包括錯誤日志檔案二進制日志檔案慢查詢日志檔案查詢日志檔案重做日志檔案等,其中重做日志檔案是InnoDB引擎檔案,

1、日志檔案介紹

1.1、錯誤日志(error log)

錯誤日志檔案對MySQL的啟動、運行、關閉程序進行了記錄,是定位MySQL問題的第一把鑰匙,

1.2、慢查詢日志(slow query log)

慢查詢日志是用來記錄執行時間超過 long_query_time 這個變數定義的時長的查詢陳述句,通過慢查詢日志,可以查找出哪些查詢陳述句的執行效率很低,以便進行優化,

1.3、一般查詢日志(general log)

一般查詢日志記錄了所有對MySQL資料庫請求的資訊,無論請求是否正確執行,

默認情況下,general log 是關閉的,開啟通用查詢日志會增加很多磁盤 I/O, 所以如非出于除錯排錯目的,不建議開啟通用查詢日志,

1.4、二進制日志(bin log)

關于二進制日志,它記錄了資料庫所有執行的DDL和DML陳述句(除了資料查詢陳述句select、show等),以事件形式記錄并保存在二進制檔案中,

  • log_bin:指定binlog是否開啟及檔案名稱,
  • server_id:指定服務器唯一ID,開啟binlog 必須設定此引數,
  • binlog_format:指定binlog模式,建議設定為ROW,
  • max_binlog_size:控制單個二進制日志大小,當前日志檔案大小超過此變數時,執行切換動作,
  • expire_logs_days:控制二進制日志檔案保留天數,默認值為0,表示不自動洗掉,可設定為0~99,

二進制日志檔案是非常重要的日志檔案,建議開啟,二進制日志主要有這么幾個作用:

  • 恢復:利用二進制檔案恢復資料,原理是取出日志的操作記錄,重新執行

binlog恢復資料

  • 復制:和恢復原理類似,一般分為主庫和從庫,
  • 審計: 通過觀察二進制檔案,可以判斷是否存在對資料庫有危險性的操作,

1.5、重做日志(redo log)

對于InnoDB,重做日志至關重要,因為它們記錄了對于InnoDB存盤引擎的事務日志,

當實體或介質失敗時,如資料庫由于所在主機斷電導致實體失敗,InnoDB存盤引擎就會恢復到斷電前的時刻,以此來保證資料的完整性,

InnoDB引擎對資料的更新,是先將更新記錄寫入redo log日志,然后會在系統空閑的時候或者是按照設定的更新策略再將日志中的內容更新到磁盤之中,這就是所謂的預寫式技術(Write Ahead logging),這種技術可以大大減少IO操作的頻率,提升資料重繪的效率,

寫入重做日志檔案也不是直接寫,而是先寫入一個重做日志緩沖,然后按照一定的條件順序寫入日志檔案,

mysql_redo

redo log日志的大小是固定的,為了能夠持續不斷的對更新記錄進行寫入,在redo log日志中設定了兩個標志位置,checkpoint和write_pos,分別表示記錄擦除的位置和記錄寫入的位置,redo log日志的資料寫入示意圖可見下圖,

redo log寫入

write_pos標志到了日志結尾時,會從結尾跳至日志頭部進行重新回圈寫入,所以redo log的邏輯結構并不是線性的,而是可看作一個圓周運動,write_poscheckpoint中間的空間可用于寫入新資料,寫入和擦除都是往后推移,回圈往復的,

回圈寫入

write_pos追上checkpoint時,表示redo log日志已經寫滿,這時不能繼續執行新的資料庫更新陳述句,需要停下來先洗掉一些記錄,執行checkpoint規則騰出可寫空間,

checkpoint規則:checkpoint觸發后,將buffer中臟資料頁和臟日志頁都刷到磁盤,

同樣是記錄事務日志,和bin log有什么不同呢?

  • bin log會記錄所有與資料庫有關的日志記錄,包括InnoDB、MyISAM等存盤引擎的日志,而redo log只記InnoDB存盤引擎的日志,

  • 記錄的內容不同,bin log記錄的是關于一個事務的具體操作內容,即該日志是邏輯日志,而redo log記錄的是關于每個頁(Page)的更改的物理情況,

  • 寫入的時間不同,bin log僅在事務提交前進行提交,也就是只寫磁盤一次,而在事務進行的程序中,卻不斷有redo ertry被寫入redo log中,

  • 寫入的方式也不相同,redo log是回圈寫入和擦除,bin log是追加寫入,不會覆寫已經寫的檔案,

binlog & redolog

1.6、回滾日志(undo log)

提到了redo log,這里在簡單了解一下回滾日志(undo log),

回滾日志同樣也是InnoDB引擎提供的日志,顧名思義,回滾日志的作用就是對資料進行回滾,當事務對資料庫進行修改,InnoDB引擎不僅會記錄redo log,還會生成對應的undo log日志;如果事務執行失敗或呼叫了rollback,導致事務需要回滾,就可以利用undo log中的資訊將資料回滾到修改之前的樣子,

但是undo log不redo log不一樣,它屬于邏輯日志,它對SQL陳述句執行相關的資訊進行記錄,當發生回滾時,InnoDB引擎會根據undo log日志中的記錄做與之前相反的作業,比如對于每個資料插入操作(insert),回滾時會執行資料洗掉操作(delete);對于每個資料洗掉操作(delete),回滾時會執行資料插入操作(insert);對于每個資料更新操作(update),回滾時會執行一個相反的資料更新操作(update),把資料改回去,undo log由兩個作用,一是提供回滾,二是實作MVCC,

2、更新陳述句執行

接下來結合一條更新陳述句的執行,來進一步理解bin log和redo log這兩種重要日志,

 update t set c=c+1 where ID=2;

2.1、更新陳述句執行流程

我們來看執行器和InnoDB引擎在執行這個簡單的update陳述句時的內部流程,

  1. 執行器先找引擎取ID=2這一行,ID是主鍵,引擎直接用樹搜索找到這一行,如果ID=2這一行所在的資料頁本來就在記憶體中,就直接回傳給執行器;否則,需要先從磁盤讀入記憶體,然后再回傳,

  2. 執行器拿到引擎給的行資料,把這個值加上1,比如原來是N,現在就是N+1,得到新的一行資料,再呼叫引擎介面寫入這行新資料,

  3. 引擎將這行新資料更新到記憶體中,同時將這個更新操作記錄到redo log里面,此時redo log處于prepare狀態,然后告知執行器執行完成了,隨時可以提交事務,

  4. 執行器生成這個操作的binlog,并把binlog寫入磁盤,

  5. 執行器呼叫引擎的提交事務介面,引擎把剛剛寫入的redo log改成提交(commit)狀態,更新完成,

update陳述句的執行流程圖如下:

update陳述句的執行流程圖

2.2、兩階段提交

這條陳述句的執行程序中,redo log的寫入分成了兩個步驟分成了prepare和commit兩個階段進行提交,這就是所謂的兩階段提交,為什么要用兩階段提交呢?

先用通俗的說法:

比如小明去超市里買一瓶可樂:

  1. 小明:老板給我來瓶可樂!透心涼心飛揚的那個,
  2. 老板:機器掃一下可樂,告訴小明這瓶可樂2塊5,給錢(記錄 redo log,事務處于prepare狀態)
  3. 收錢放入錢箱(記錄 binlog,事務實際是否完成的根本依據,處于待標記commit階段)
  4. 然后讓小明把可樂拿走(redo log 狀態標為 commit,表示該事務邏輯倍訓),到這里,代表一筆交易結束,
  5. 等算賬前再把這一天賣東西的交易資訊一起同步到資料庫,

可見,如果收錢之前(prepare階段,步驟3)交易被打斷,回過頭來處理此次交易,發現只有記了小黑板但沒有收錢,則交易失敗,刪掉小黑板上的記錄(回滾);

如果收了錢后(commit階段 或 待commit階段,步驟4 || 5)交易被打斷,然后回過頭發現系統上有記錄(prepare)而且錢箱有本次收入(bin log),則說明本次交易有效,補充修改commit狀態,更新到庫存中,


用正式一點的語言來描述,

如果不用兩階段提交,要么就是先寫完redo log再寫binlog,或者采用反過來的順序,我們看看這兩種方式會有什么問題,

仍然用前面的update陳述句來做例子,假設當前ID=2的行,欄位c的值是0,再假設執行update陳述句程序中在寫完第一個日志后,第二個日志還沒有寫完期間發生了crash,會出現什么情況呢?

  1. 先寫redo log后寫binlog,假設在redo log寫完,binlog還沒有寫完的時候,MySQL行程例外重啟,由于我們前面說過的,redo log寫完之后,系統即使崩潰,仍然能夠把資料恢復回來,所以恢復后這一行c的值是1,
    但是由于binlog沒寫完就crash了,這時候binlog里面就沒有記錄這個陳述句,因此,之后備份日志的時候,存起來的binlog里面就沒有這條陳述句,
    然后你會發現,如果需要用這個binlog來恢復臨時庫的話,由于這個陳述句的binlog丟失,這個臨時庫就會少了這一次更新,恢復出來的這一行c的值就是0,與原庫的值不同,

先寫redo log后寫binlog的問題

  1. 先寫binlog后寫redo log,如果在binlog寫完之后crash,由于redo log還沒寫,崩潰恢復以后這個事務無效,所以這一行c的值是0,但是binlog里面已經記錄了“把c從0改成1”這個日志,所以,在之后用binlog來恢復的時候就多了一個事務出來,恢復出來的這一行c的值就是1,與原庫的值不同,

先寫binlog后寫redo log的問題

可以看到,如果不使用“兩階段提交”,那么資料庫的狀態就有可能和用它的日志恢復出來的庫的狀態不一致,

你可能會說,這個概率是不是很低,平時也沒有什么動不動就需要恢復臨時庫的場景呀?

其實不是的,不只是誤操作后需要用這個程序來恢復資料,當你需要擴容的時候,也就是需要再多搭建一些備庫來增加系統的讀能力的時候,現在常見的做法也是用全量備份加上應用binlog來實作的,這個“不一致”就會導致你的線上出現主從資料庫不一致的情況,

簡單說,redo log和binlog都可以用于表示事務的提交狀態,而兩階段提交就是讓這兩個狀態保持邏輯上的一致,

2.3、日志落盤

保證事務成功,日志必須落盤,這樣,資料庫crash后,就不會丟失某個事務的資料了

  • innodb_flush_log_at_trx_commit 這個引數設定成 1 的時候,表示每次事務的 redo log 都直接持久化到磁盤,這樣可以保證 MySQL 例外重啟之后資料不丟失,

  • sync_binlog 這個引數設定成 1 的時候,表示每次事務的 binlog 都持久化到磁盤,這樣可以保證 MySQL 例外重啟之后 binlog 不丟失,




參考:

【1】:《高性能MySQL》

【2】:極客時間 《MySQL實戰45講》

【3】:《MySQL技術內幕 InnoDB存盤引擎》

【4】:聽我講完redo log、binlog原理,面試官老臉一紅

【5】:為了讓你徹底弄懂 MySQL 事務日志,我通宵肝出了這份圖解!

【6】:MySQL中幾種常見的日志

【7】:Mysql學習筆記——重做日志與歸檔日志

【8】:淺析MySQL事務中的redo與undo

轉載請註明出處,本文鏈接:https://www.uj5u.com/ruanti/277014.html

標籤:其他

上一篇:是科研人就要快!加速你的演算法!

下一篇:【最硬核Redis集群搭建教程:收藏+實操】——Redis高可用哨兵集群搭建詳細教程

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 面試突擊第一季,第二季,第三季

    第一季必考 https://www.bilibili.com/video/BV1FE411y79Y?from=search&seid=15921726601957489746 第二季分布式 https://www.bilibili.com/video/BV13f4y127ee/?spm_id_fro ......

    uj5u.com 2020-09-10 05:35:24 more
  • 第三單元作業總結

    1.前言 這應該是本學期最后一次寫作業總結了吧。總體來說,對作業的節奏也差不多掌握了,作業做起來的效率也更高了。雖然和之前的作業一樣,作業中都要用到新的知識,但是相比之前,更加懂得了如何利用工具以及資料。雖然之間卡過殼,但總體而言,這幾次作業還算完成的比較好。 2.作業程序總結 相比前兩個單元,此單 ......

    uj5u.com 2020-09-10 05:35:41 more
  • 北航OO(2020)第四單元博客作業暨課程總結博客

    北航OO(2020)第四單元博客作業暨課程總結博客 本單元作業的架構設計 在本單元中,由于UML圖具有比較清晰的樹形結構,因此我對其中需要進行查詢操作的元素進行了包裝,在樹的父節點中存盤所有孩子的參考。考慮到性能問題,我采用了快取機制,一次查詢后盡可能快取已經遍歷過的資訊,以減少遍歷次數。 本單元我 ......

    uj5u.com 2020-09-10 05:35:48 more
  • BUAA_OO_第四單元

    一、UML決議器設計 ? 先看下題目:第四單元實作一個基于JDK 8帶有效性檢查的UML(Unified Modeling Language)類圖,順序圖,狀態圖分析器 MyUmlInteraction,實際上我們要建立一個有向圖模型,UML中的物件(元素)可能與同級元素連接,也可與低級元素相連形成 ......

    uj5u.com 2020-09-10 05:35:54 more
  • 6.1邏輯運算子

    邏輯運算子 1. && 短路與 運算式1 && 運算式2 01.運算式1為true并且運算式2也為true 整體回傳為true 02.運算式1為false,將不會執行運算式2 整體回傳為false 03.只要有一個運算式為false 整體回傳為false 2. || 短路或 運算式1 || 運算式2 ......

    uj5u.com 2020-09-10 05:35:56 more
  • BUAAOO 第四單元 & 課程總結

    1. 第四單元:StarUml檔案決議 本單元采用了圖模型決議UML。 UML檔案可以抽象為圖、子圖、邊的邏輯結構。 在實作中,圖的節點包括類、介面、屬性,子圖包括狀態圖、順序圖等。 采用了三次遍歷UML元素的方法建圖,第一遍遍歷建點,第二、三次遍歷設定屬性、連邊,實作圖物件的初始化。這里借鑒了一些 ......

    uj5u.com 2020-09-10 05:36:06 more
  • 談談我對C# 多型的理解

    面向物件三要素:封裝、繼承、多型。 封裝和繼承,這兩個比較好理解,但要理解多型的話,可就稍微有點難度了。今天,我們就來講講多型的理解。 我們應該經常會看到面試題目:請談談對多型的理解。 其實呢,多型非常簡單,就一句話:呼叫同一種方法產生了不同的結果。 具體實作方式有三種。 一、多載 多載很簡單。 p ......

    uj5u.com 2020-09-10 05:36:09 more
  • Python 資料驅動工具:DDT

    背景 python 的unittest 沒有自帶資料驅動功能。 所以如果使用unittest,同時又想使用資料驅動,那么就可以使用DDT來完成。 DDT是 “Data-Driven Tests”的縮寫。 資料:http://ddt.readthedocs.io/en/latest/ 使用方法 dd. ......

    uj5u.com 2020-09-10 05:36:13 more
  • Python里面的xlrd模塊詳解

    那我就一下面積個問題對xlrd模塊進行學習一下: 1.什么是xlrd模塊? 2.為什么使用xlrd模塊? 3.怎樣使用xlrd模塊? 1.什么是xlrd模塊? ?python操作excel主要用到xlrd和xlwt這兩個庫,即xlrd是讀excel,xlwt是寫excel的庫。 今天就先來說一下xl ......

    uj5u.com 2020-09-10 05:36:28 more
  • 當我們創建HashMap時,底層到底做了什么?

    jdk1.7中的底層實作程序(底層基于陣列+鏈表) 在我們new HashMap()時,底層創建了默認長度為16的一維陣列Entry[ ] table。當我們呼叫map.put(key1,value1)方法向HashMap里添加資料的時候: 首先,呼叫key1所在類的hashCode()計算key1 ......

    uj5u.com 2020-09-10 05:36:38 more
最新发布
  • 【中介者設計模式詳解】C/Java/JS/Go/Python/TS不同語言實作

    * 中介者模式是一種行為型設計模式,它可以用來減少類之間的直接依賴關系,
    * 將物件之間的通信封裝到一個中介者物件中,從而使得各個物件之間的關系更加松散。
    * 在中介者模式中,物件之間不再直接相互互動,而是通過中介者來中轉訊息。 ......

    uj5u.com 2023-04-20 08:20:47 more
  • 露天煤礦現場調研和交流案例分享

    他們集團的資訊化公司及研究院在一個礦區正在做智能礦山的統一平臺的 試點,專案投資大概1億,包括了礦山的各方面的內容,顯示得我們這次交流有點多余。他們2年前開始做智能礦山的規劃,有很多煤礦行業專家的加持,他們的描述是非常完美,但是去年底應該上線的平臺,現在還沒有看到影子。他們確實有很多場景需求,但是被... ......

    uj5u.com 2023-04-20 08:20:25 more
  • 《社區人員管理》實戰案例設計&個人案例分享

    設計是一個讓人夢想成真程序,開始編碼、測驗、除錯之前進行需求分析和架構設計,才能保證關鍵方面都做正確 ......

    uj5u.com 2023-04-20 08:20:17 more
  • 軟體架構生態化-多角色交付的探索實踐

    作為一個技術架構師,不僅僅要緊跟行業技術趨勢,還要結合研發團隊現狀及痛點,探索新的交付方案。在日常中,你是否遇到如下問題 “ 業務需求排期長研發是瓶頸;非研發角色感受不到研發技改提效的變化;引入ISV 團隊又擔心質量和安全,培訓周期長“等等,基于此我們探索了一種新的技術體系及交付方案來解決如上問題。 ......

    uj5u.com 2023-04-20 08:20:10 more
  • 【中介者設計模式詳解】C/Java/JS/Go/Python/TS不同語言實作

    * 中介者模式是一種行為型設計模式,它可以用來減少類之間的直接依賴關系,
    * 將物件之間的通信封裝到一個中介者物件中,從而使得各個物件之間的關系更加松散。
    * 在中介者模式中,物件之間不再直接相互互動,而是通過中介者來中轉訊息。 ......

    uj5u.com 2023-04-20 08:19:44 more
  • 露天煤礦現場調研和交流案例分享

    他們集團的資訊化公司及研究院在一個礦區正在做智能礦山的統一平臺的 試點,專案投資大概1億,包括了礦山的各方面的內容,顯示得我們這次交流有點多余。他們2年前開始做智能礦山的規劃,有很多煤礦行業專家的加持,他們的描述是非常完美,但是去年底應該上線的平臺,現在還沒有看到影子。他們確實有很多場景需求,但是被... ......

    uj5u.com 2023-04-20 08:19:07 more
  • 《社區人員管理》實戰案例設計&個人案例分享

    設計是一個讓人夢想成真程序,開始編碼、測驗、除錯之前進行需求分析和架構設計,才能保證關鍵方面都做正確 ......

    uj5u.com 2023-04-20 08:18:57 more
  • 軟體架構生態化-多角色交付的探索實踐

    作為一個技術架構師,不僅僅要緊跟行業技術趨勢,還要結合研發團隊現狀及痛點,探索新的交付方案。在日常中,你是否遇到如下問題 “ 業務需求排期長研發是瓶頸;非研發角色感受不到研發技改提效的變化;引入ISV 團隊又擔心質量和安全,培訓周期長“等等,基于此我們探索了一種新的技術體系及交付方案來解決如上問題。 ......

    uj5u.com 2023-04-20 08:18:49 more
  • 05單件模式

    #經典的單件模式 public class Singleton { private static Singleton uniqueInstance; //一個靜態變數持有Singleton類的唯一實體。 // 其他有用的實體變數寫在這里 //構造器宣告為私有,只有Singleton可以實體化這個類! ......

    uj5u.com 2023-04-19 08:42:51 more
  • 【架構與設計】常見微服務分層架構的區別和落地實踐

    軟體工程的方方面面都遵循一個最基本的道理:沒有銀彈,架構分層模型更是如此,每一種都有各自優缺點,所以請根據不同的業務場景,并遵循簡單、可演進這兩個重要的架構原則選擇合適的架構分層模型即可。 ......

    uj5u.com 2023-04-19 08:42:41 more