MySQL系列之二進制日志Binlog學習筆記

學習準備：

• Mysql服務于端（5.7+版本）
• Mysql客戶端軟體（workbench、sqlyog etc.）

1、什么是Binlog？

在上一篇博客的學習，我們知道了InnoDB存盤引擎的兩種事務日志，redo log是InnoDB特有的功能，而MySQL也是有自己的日志機制的，也即本文學習的binlog

binlog（二進制日志）：binary log，簡稱是binlog，binlog記錄所有資料庫表結構變更以及表資料修改，而不會記錄SELECT和SHOW這類操作，資料保存的是二進制資料

binlog以事件的形式保存，還包括sql執行所需的時間等等資訊，開啟Binlog日志有以下兩個最重要的使用場景：

• 主從復制：binlog的特性可以被應用于主從復制，主庫（master）開啟binlog功能，從庫（salve）通過binlog的事件記錄，將資料同步到資料庫
• 資料恢復：binlog可以用于在資料恢復，因為binlog記錄了sql的變更修改操作日志，如果數一不小心刪庫了，就可以通過binlog進行資料恢復

2、Binlog記錄模式

Binlog日志的檔案名默認是“主機名_binlog-序列號”的形式，eg：adminstrator_binlog-000001，當然也可以在組態檔修改命名為mysqlbinlog：

[mysql]
log-bin=mysqlbinlog

binlog對log event進行記錄，檔案記錄模式有STATEMENT、ROW和MIXED三種，具體含義：

• Row模式：row-based replication，簡稱RBR，日志會記錄每一行資料被修改的情況，如果用于主從復制，在slave資料庫會對相同的資料進行修改
• STATEMENT模式：statement-based replication, 簡稱SBR，這種模式，沒錯修改變更的sql都會被記錄在日志里
• MIXED模式：mixed-based replication, 簡稱MB，這種模式，一般會使用STATEMENT模式保存binlog，對于STATEMENT模式無法復制的操作使用ROW模式保存binlog

在 MySQL 5.7.7 之前，默認的格式是 STATEMENT，在 MySQL 5.7.7 及更高版本中，默認值是 ROW，日志格式通過 binlog-format 指定，如 binlog-format=STATEMENT、binlog-format=ROW、binlog-format=MIXED，

3、Binlog檔案結構

binlog機制中用來表示保存修改操作的資料結構是Log event，不同的修改操作對應的不同的log event，比較常用的log event有：Query event、Row event、Xid event等，可以獲取一份log來看看：

/*!50530 SET @@SESSION.PSEUDO_SLAVE_MODE=1*/;
/*!50003 SET @OLD_COMPLETION_TYPE=@@COMPLETION_TYPE,COMPLETION_TYPE=0*/;
DELIMITER /*!*/;
# at 4
#201012 11:26:13 server id 1  end_log_pos 124 CRC32 0x253ff34e 	Start: binlog v 4, server v 8.0.13 created 201012 11:26:13 at startup
# Warning: this binlog is either in use or was not closed properly.
ROLLBACK/*!*/;
BINLOG '
1cyDXw8BAAAAeAAAAHwAAAABAAQAOC4wLjEzAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAA
AAAAAAAAAAAAAAAAAADVzINfEwANAAgAAAAABAAEAAAAYAAEGggAAAAICAgCAAAACgoKKioAEjQA
CgFO8z8l
'/*!*/;
# at 124
#201012 11:26:14 server id 1  end_log_pos 155 CRC32 0xf80d0acf 	Previous-GTIDs
# [empty]
# at 155
#201012 14:04:52 server id 1  end_log_pos 228 CRC32 0xe767e3f3 	Anonymous_GTID	last_committed=0	sequence_number=1	rbr_only=no	original_committed_timestamp=1602482692499600	immediate_commit_timestamp=1602482692499600	transaction_length=183
# original_commit_timestamp=1602482692499600 (2020-10-12 14:04:52.499600 ?¨a¨¤??????????|ìo?à¨o?á?¨o?à??)
# immediate_commit_timestamp=1602482692499600 (2020-10-12 14:04:52.499600 ?¨a¨¤??????????|ìo?à¨o?á?¨o?à??)
/*!80001 SET @@session.original_commit_timestamp=1602482692499600*//*!*/;
SET @@SESSION.GTID_NEXT= 'ANONYMOUS'/*!*/;
# at 228
#201012 14:04:52 server id 1  end_log_pos 338 CRC32 0x8f981f33 	Query	thread_id=9	exec_time=0	error_code=0	Xid = 16
SET TIMESTAMP=1602482692/*!*/;
SET @@session.pseudo_thread_id=9/*!*/;
SET @@session.foreign_key_checks=1, @@session.sql_auto_is_null=0, @@session.unique_checks=1, @@session.autocommit=1/*!*/;
SET @@session.sql_mode=1168113696/*!*/;
SET @@session.auto_increment_increment=1, @@session.auto_increment_offset=1/*!*/;
/*!\C utf8 *//*!*/;
SET @@session.character_set_client=33,@@session.collation_connection=33,@@session.collation_server=33/*!*/;
SET @@session.lc_time_names=0/*!*/;
SET @@session.collation_database=DEFAULT/*!*/;
/*!80011 SET @@session.default_collation_for_utf8mb4=255*//*!*/;
/*!80013 SET @@session.sql_require_primary_key=0*//*!*/;
create database `test`
/*!*/;
# at 338
#201012 14:31:46 server id 1  end_log_pos 411 CRC32 0xc6dbb42e 	Anonymous_GTID	last_committed=1	sequence_number=2	rbr_only=no	original_committed_timestamp=1602484306791600	immediate_commit_timestamp=1602484306791600	transaction_length=181
# original_commit_timestamp=1602484306791600 (2020-10-12 14:31:46.791600 ?¨a¨¤??????????|ìo?à¨o?á?¨o?à??)
# immediate_commit_timestamp=1602484306791600 (2020-10-12 14:31:46.791600 ?¨a¨¤??????????|ìo?à¨o?á?¨o?à??)
/*!80001 SET @@session.original_commit_timestamp=1602484306791600*//*!*/;
SET @@SESSION.GTID_NEXT= 'ANONYMOUS'/*!*/;

畫表格表示其主要資訊：

4、Binlog寫入機制

binlog 什么時候重繪到磁盤？binlog刷資料到磁盤跟引數 sync_binlog 相關

• 如果設定為0：則表示MySQL不控制binlog的重繪，由檔案系統去控制日志的重繪；
• 如果設定為不為0的值：則表示每 sync_binlog 次事務，MySQL呼叫檔案系統重繪binlog到磁盤中

然后binlog具體是怎么刷日志的？畫圖表示：

• 根據記錄模式和操作觸發log事件從而生成log event
• 將事務執行程序的log event寫入快取區，快取區是一種binlog_cache_mngr資料結構，該結構中有兩個緩沖區，一個是stmt_cache，用于存放不支持事務的資訊；另一個是trx_cache，用于存放支持事務的資訊，
• 事務在提交階段會將產生的log event寫入到磁盤binlog檔案中

5、Binlog命令操作

• 啟用Binlog
  通過命令set global log_bin=1;啟動，也可以在my.ini組態檔加上配置：

[mysql]
#log-bin=ON
binlog-format=ROW
log-bin=mysqlbinlog

不能通過命令配置，只能修改my.ini組態檔

• 確定binlog是否啟動
  

• 查看binlog相關引數
  

• 設定binlog_format模式

set global binlog_format='ROW';　

• binlog events命令

//等價于show master logs;
show binary logs; 
//查看最新一個binlog日志檔案名稱和Position
show master status;
//查看 binlog 內容
show binlog events;
//查看 指定binlog 內容
show binlog events in 'mysqlbinlog.000001';

• mysqlbinlog 命令

// 查看指定的binlog日志檔案
mysqlbinlog "檔案名"
// 查看指定binlog檔案并保存到test.sql檔案
mysqlbinlog "檔案名" > "test.sql"

要到對應目錄，不然就需要指定路徑：

查看test.sql：

• 使用 binlog 恢復資料

// 按指定時間恢復
mysqlbinlog --start-datetime="2020-10-25 18:00:00" --stop-
datetime="2020-10-26 00:00:00" mysqlbinlog.000001 | mysql -uroot -p123

// 按事件位置號恢復
mysqlbinlog --start-position=592 --stop-position=708 mysqlbinlog.000001 | mysql -u root -p

• 清除binlog檔案

指定日志檔案

purge binary logs to 'mysqlbinlog.000001';

按時間清日志

purge binary logs before '2020-10-10 00:00:00';

清除所有日志

reset master; //清除所有檔案

ps：可以通過設定expire_logs_days引數來啟動自動清理功能，默認值為0表示沒啟用，設定為1表示超出1天binlog檔案會自動洗掉掉，

mysql> show binary logs;
+--------------------+-----------+
| Log_name           | File_size |
+--------------------+-----------+
| mysqlbinlog.000001 |       519 |
+--------------------+-----------+
1 row in set (0.00 sec)

mysql> show master status\G;
*************************** 1. row ***************************
             File: mysqlbinlog.000001
         Position: 519
     Binlog_Do_DB:
 Binlog_Ignore_DB:
Executed_Gtid_Set:
1 row in set (0.00 sec)

mysql> show binlog events \G;
... 
mysql> show binlog events in 'mysqlbinlog.000001'\G;
*************************** 1. row ***************************
   Log_name: mysqlbinlog.000001
        Pos: 4
 Event_type: Format_desc
  Server_id: 1
End_log_pos: 124
       Info: Server ver: 8.0.13, Binlog ver: 4
*************************** 2. row ***************************
   Log_name: mysqlbinlog.000001
        Pos: 124
 Event_type: Previous_gtids
  Server_id: 1
End_log_pos: 155
       Info:
*************************** 3. row ***************************
   Log_name: mysqlbinlog.000001
        Pos: 155
 Event_type: Anonymous_Gtid
  Server_id: 1
End_log_pos: 228
       Info: SET @@SESSION.GTID_NEXT= 'ANONYMOUS'
*************************** 4. row ***************************
   Log_name: mysqlbinlog.000001
        Pos: 228
 Event_type: Query
  Server_id: 1
End_log_pos: 338
       Info: create database `test` /* xid=16 */
*************************** 5. row ***************************
   Log_name: mysqlbinlog.000001
        Pos: 338
 Event_type: Anonymous_Gtid
  Server_id: 1
End_log_pos: 411
       Info: SET @@SESSION.GTID_NEXT= 'ANONYMOUS'
*************************** 6. row ***************************
   Log_name: mysqlbinlog.000001
        Pos: 411
 Event_type: Query
  Server_id: 1
End_log_pos: 519
       Info: drop database `test` /* xid=40 */
6 rows in set (0.00 sec)

6、Redo Log和Binlog區別

• Redo log是InnoDB特有的功能，屬于事務日志；Binlog是MySQL的功能
• Redo log不是二進制檔案，而Binlog是一種二進制的日志檔案
• Redo log是物理日志，記錄的是資料頁更新的狀態內容，Binlog是邏輯日志，記錄的是更新程序
• Redo Log作為服務器例外宕機后事務資料自動恢復使用，Binlog可以作為主從復制和資料恢復使用
• Redo Log日志是回圈寫，日志空間大小是固定，Binlog是追加寫入，不會覆寫寫

對于redo log可以參考我之前博客：MySQL系列之事務日志redo log學習筆記

附錄：參考資料

• MySQL Binlog 介紹
• 詳細分析MySQL事務日志(redo log和undo log)