主頁 > 資料庫 > InnoDB 記憶體結構之更改緩沖區

InnoDB 記憶體結構之更改緩沖區

2023-06-21 08:53:09 資料庫

更改緩沖區(Change Buffer)是一種特殊的資料結構,用于快取不在緩沖池中的二級索引(secondary index)頁的更改,可能來自于INSERTUPDATEDELETE操作(資料操作語言,DML)的緩沖更改,會在后續通過其他讀操作將這些頁加載到緩沖池時被合并,

與聚簇索引(clustered indexes)不同,二級索引通常是不唯一的,并且對二級索引的插入操作以相對隨機的 順序發生,同樣地,洗掉和更新操作可能會影響索引樹中不相鄰的二級索引頁,隨后當受影響的頁被其他操作讀入緩沖池時,合并快取中的更改可以避免從磁盤讀取二級索引頁到緩沖池中所需的大量隨機訪問I/O,

在系統大部分處于空閑狀態或慢速關閉期間,會運行清理(purge)操作,定期將更新的索引頁寫入磁盤,與立即將每個值寫入磁盤相比,清理操作可以更高效地將索引值批量寫入磁盤,

當有大量受影響的行和需要更新的二級索引時,變更緩沖區的合并程序可能需要幾個小時,在此期間,磁盤 I/O 會增加,這可能導致磁盤密集型查詢明顯減慢,提交事務之后,甚至在服務器關閉并重新啟動之后,變更緩沖區合并也可能會持續發生(請參閱“第 14.22.2 節“強制 InnoDB 恢復”了解更多資訊),

在記憶體中,變更緩沖區占用了緩沖池的一部分空間,在磁盤上,變更緩沖區是系統表空間的一部分,當資料庫服務器關閉時,索引更改將存盤在其中,

變更緩沖區中快取的資料型別由innodb_change_buffering變數控制,要了解更多資訊,請參閱下文的”配置變更緩沖區“,您還可以配置最大變更緩沖區大小,要了解更多資訊,請參閱下文的”配置最大變更緩沖區的大小“,

如果二級索引包含降序索引列,或者主鍵包含降序索引列,那么變更緩沖區不支持對該二級索引進行緩沖,

有關變更緩沖區的常見問題的解答,請參見第 A.16 節“ MySQL 5.7 FAQ: InnoDB 變更緩沖區”,

配置變更緩沖區

當對表執行INSERTUPDATEDELETE操作時,索引列的值(尤其是二級鍵的值)通常是無序的,需要大量的 I/O 操作來更新二級索引,變更緩沖區會在相關頁面不在緩沖池中時快取對二級索引條目的更改,從而通過不會立即從磁盤讀取頁面來避免昂貴的 I/O 操作,當頁面被加載到緩沖池時,緩沖中的更改將合并,更新后的頁面隨后會重繪到磁盤,在服務器幾乎空閑或慢速關閉時,InnoDB主執行緒會合并緩沖中的更改,

由于變更緩沖區可以減少磁盤讀寫操作,因此它對于 I/O 密集型的作業負載最為有價值,例如,變更緩沖可以給頻繁進行 DML 操作(如批量插入)的應用程式帶來好處,

但是,變更緩沖區占用了緩沖池的一部分空間,從而減少了可用于快取資料頁面的記憶體,如果作業集幾乎完全適應緩沖池,或者您的表具有相對較少的二級索引,禁用變更緩沖可能是有益的,如果作業資料集完全適合緩沖池,變更緩沖不會增加額外開銷,因為它僅適用于不在緩沖池中的頁面,

innodb_change_buffering變數控制著InnoDB執行變更緩沖的程度,您可以啟用或禁用插入操作、洗掉操作(最初將索引記錄標記為洗掉時)和清理操作(當索引記錄被物理洗掉時)的緩沖,更新操作是插入操作和洗掉操作的組合,innodb_change_buffering的默認值為all

  • all

    默認值:緩沖區插入,洗掉標記操作和清除,

  • none

    不緩沖任何操作,

  • inserts

    緩沖插入操作,

  • deletes

    緩沖洗掉標記操作,

  • changes

    緩沖插入和洗掉標記操作,

  • purges

    緩沖后臺發生的物理洗掉操作,

您可以在 MySQL 選項檔案(my.cnfmy.ini)中設定innodb_change_buffering引數,或使用SET GLOBAL陳述句動態更改它,該陳述句需要足夠的權限來設定全域系統變數,參見第 5.1.8.1 節“系統變數特權”,更改設定會影響新操作的緩沖;現有緩沖條目的合并不受影響,

您可以在 MySQL 的選項檔案(my.cnfmy.ini)中設定innodb_change_buffering引數,或者使用SET GLOBAL陳述句動態更改它,該陳述句需要足夠的權限來設定全域系統變數,請參閱第 5.1.8.1 節,“系統變數特權”,更改設定會影響新操作的緩沖,但不會影響現有緩沖條目的合并,

配置最大變更緩沖區的大小

innodb_change_buffer_max_size引數允許按斬訓沖池總大小的百分比配置變更緩沖區的最大大小,默認情況下,innodb_change_buffer_max_size設定為 25,最大設定值為 50,

在 MySQL 服務器上,如果存在大量的插入、更新和洗掉活動,并且變更緩沖區合并無法跟上新的變更緩沖條目的速度,導致變更緩沖區達到了其最大大小限制,那么可以考慮增加innodb_change_buffer_max_size

在 MySQL 服務器上,如果資料是用于報告目的而基本靜態,或者如果變更緩沖區占用了與緩沖池共享的太多記憶體空間,導致頁面過早地從緩沖池中淘汰,那么可以考慮減小innodb_change_buffer_max_size的值,

為了確定最佳配置,您可以使用一個代表性的作業負載來測驗不同的設定,innodb_change_buffer_max_size引數是動態的,這意味著您可以在不重新啟動服務器的情況下修改該設定,

監控變更緩沖區

以下選項可用于監控變更緩沖區:

  • InnoDB標準監視器輸出包括變更緩沖區的狀態資訊,要查看監視器資料,請執行SHOW ENGINE INNODB STATUS陳述句,

    mysql> SHOW ENGINE INNODB STATUS\G
    

    變更緩沖區狀態資訊位于INSERT BUFFER AND ADAPTIVE HASH INDEX標題下方,并且顯示類似以下內容:

    -------------------------------------
    INSERT BUFFER AND ADAPTIVE HASH INDEX
    -------------------------------------
    Ibuf: size 1, free list len 0, seg size 2, 0 merges
    merged operations:
     insert 0, delete mark 0, delete 0
    discarded operations:
     insert 0, delete mark 0, delete 0
    Hash table size 4425293, used cells 32, node heap has 1 buffer(s)
    13577.57 hash searches/s, 202.47 non-hash searches/s
    

    有關更多資訊,請參閱第 14.18.3 節 “InnoDB 標準監視器和鎖監視器輸出”,

  • Information SchemaINNODB_METRICS表提供了InnoDB標準監視器輸出中的大部分資料點以及其他資料點,要查看變更緩沖區指標及其描述,請執行以下查詢:

    mysql> SELECT NAME, COMMENT FROM INFORMATION_SCHEMA.INNODB_METRICS WHERE NAME LIKE '%ibuf%'\G
    

    有關`INNODB_METRICS表用法情況的資訊,請參見第 14.16.6 節“ InnoDB INFORMATION_SCHEMA Metrics Table”,

  • Information SchemaINNODB_BUFFER_PAGE表提供了關于緩沖池中每個頁面的元資料,包括變更緩沖區索引和變更緩沖區位圖頁面,變更緩沖區頁面通過PAGE_TYPE進行標識,IBUF_INDEX是變更緩沖區索引頁的頁面型別,IBUF_BITMAP是變更緩沖區位圖頁的頁面型別,

    Waring:查詢INNODB_BUFFER_PAGE表可能會帶來顯著的性能開銷,為了避免影響性能,建議在測驗實體上重現您要調查的問題,然后在測驗實體上運行查詢,

    例如,您可以查詢INNODB_BUFFER_PAGE表,以確定IBUF_INDEXIBUF_BITMAP頁面在總緩沖池頁面中的近似比例,

    mysql> SELECT (SELECT COUNT(*) FROM INFORMATION_SCHEMA.INNODB_BUFFER_PAGE
           WHERE PAGE_TYPE LIKE 'IBUF%') AS change_buffer_pages,
           (SELECT COUNT(*) FROM INFORMATION_SCHEMA.INNODB_BUFFER_PAGE) AS total_pages,
           (SELECT ((change_buffer_pages/total_pages)*100))
           AS change_buffer_page_percentage;
    +---------------------+-------------+-------------------------------+
    | change_buffer_pages | total_pages | change_buffer_page_percentage |
    +---------------------+-------------+-------------------------------+
    |                  25 |        8192 |                        0.3052 |
    +---------------------+-------------+-------------------------------+
    

    有關INNODB_BUFFER_PAGE表提供的其他資料的資訊,請參閱第 24.4.2 節 “INFORMATION_SCHEMA INNODB_BUFFER_PAGE Table”,有關相關使用資訊,請參閱第 14.16.5 節 “InnoDB INFORMATION_SCHEMA緩沖池表”,

  • Performance Schema為高級性能監控提供了變更緩沖區互斥鎖等待檢測,要查看變更緩沖區檢測,請執行以下查詢:

    mysql> SELECT * FROM performance_schema.setup_instruments
           WHERE NAME LIKE '%wait/synch/mutex/innodb/ibuf%';
    +-------------------------------------------------------+---------+-------+
    | NAME                                                  | ENABLED | TIMED |
    +-------------------------------------------------------+---------+-------+
    | wait/synch/mutex/innodb/ibuf_bitmap_mutex             | YES     | YES   |
    | wait/synch/mutex/innodb/ibuf_mutex                    | YES     | YES   |
    | wait/synch/mutex/innodb/ibuf_pessimistic_insert_mutex | YES     | YES   |
    +-------------------------------------------------------+---------+-------+
    

    有關監視InnoDB互斥鎖等待的資訊,請參閱第 14.17.2 節 “使用 Performance Schema 監視 InnoDB 互斥等待”,

注:原文來自 MySQL 5.7 官方檔案,閱讀 MySQL 中文檔案時有些陳述句理解不順暢,便結合中文檔案使用 ChatGPT 進行了翻譯,如有不正請指出,

轉載請註明出處,本文鏈接:https://www.uj5u.com/shujuku/555730.html

標籤:其他

上一篇:華為云GaussDB為MetaERP“成本核算”產品“保駕護航”

下一篇:返回列表

標籤雲
其他(161422) Python(38243) JavaScript(25511) Java(18250) C(15238) 區塊鏈(8271) C#(7972) AI(7469) 爪哇(7425) MySQL(7260) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5875) 数组(5741) R(5409) Linux(5347) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4606) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2436) ASP.NET(2404) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) .NET技术(1984) HtmlCss(1970) 功能(1967) Web開發(1951) C++(1942) python-3.x(1918) 弹簧靴(1913) xml(1889) PostgreSQL(1881) .NETCore(1863) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • GPU虛擬機創建時間深度優化

    **?桔妹導讀:**GPU虛擬機實體創建速度慢是公有云面臨的普遍問題,由于通常情況下創建虛擬機屬于低頻操作而未引起業界的重視,實際生產中還是存在對GPU實體創建時間有苛刻要求的業務場景。本文將介紹滴滴云在解決該問題時的思路、方法、并展示最終的優化成果。 從公有云服務商那里購買過虛擬主機的資深用戶,一 ......

    uj5u.com 2020-09-10 06:09:13 more
  • 可編程網卡芯片在滴滴云網路的應用實踐

    **?桔妹導讀:**隨著云規模不斷擴大以及業務層面對延遲、帶寬的要求越來越高,采用DPDK 加速網路報文處理的方式在橫向縱向擴展都出現了局限性。可編程芯片成為業界熱點。本文主要講述了可編程網卡芯片在滴滴云網路中的應用實踐,遇到的問題、帶來的收益以及開源社區貢獻。 #1. 資料中心面臨的問題 隨著滴滴 ......

    uj5u.com 2020-09-10 06:10:21 more
  • 滴滴資料通道服務演進之路

    **?桔妹導讀:**滴滴資料通道引擎承載著全公司的資料同步,為下游實時和離線場景提供了必不可少的源資料。隨著任務量的不斷增加,資料通道的整體架構也隨之發生改變。本文介紹了滴滴資料通道的發展歷程,遇到的問題以及今后的規劃。 #1. 背景 資料,對于任何一家互聯網公司來說都是非常重要的資產,公司的大資料 ......

    uj5u.com 2020-09-10 06:11:05 more
  • 滴滴AI Labs斬獲國際機器翻譯大賽中譯英方向世界第三

    **桔妹導讀:**深耕人工智能領域,致力于探索AI讓出行更美好的滴滴AI Labs再次斬獲國際大獎,這次獲獎的專案是什么呢?一起來看看詳細報道吧! 近日,由國際計算語言學協會ACL(The Association for Computational Linguistics)舉辦的世界最具影響力的機器 ......

    uj5u.com 2020-09-10 06:11:29 more
  • MPP (Massively Parallel Processing)大規模并行處理

    1、什么是mpp? MPP (Massively Parallel Processing),即大規模并行處理,在資料庫非共享集群中,每個節點都有獨立的磁盤存盤系統和記憶體系統,業務資料根據資料庫模型和應用特點劃分到各個節點上,每臺資料節點通過專用網路或者商業通用網路互相連接,彼此協同計算,作為整體提供 ......

    uj5u.com 2020-09-10 06:11:41 more
  • 滴滴資料倉庫指標體系建設實踐

    **桔妹導讀:**指標體系是什么?如何使用OSM模型和AARRR模型搭建指標體系?如何統一流程、規范化、工具化管理指標體系?本文會對建設的方法論結合滴滴資料指標體系建設實踐進行解答分析。 #1. 什么是指標體系 ##1.1 指標體系定義 指標體系是將零散單點的具有相互聯系的指標,系統化的組織起來,通 ......

    uj5u.com 2020-09-10 06:12:52 more
  • 單表千萬行資料庫 LIKE 搜索優化手記

    我們經常在資料庫中使用 LIKE 運算子來完成對資料的模糊搜索,LIKE 運算子用于在 WHERE 子句中搜索列中的指定模式。 如果需要查找客戶表中所有姓氏是“張”的資料,可以使用下面的 SQL 陳述句: SELECT * FROM Customer WHERE Name LIKE '張%' 如果需要 ......

    uj5u.com 2020-09-10 06:13:25 more
  • 滴滴Ceph分布式存盤系統優化之鎖優化

    **桔妹導讀:**Ceph是國際知名的開源分布式存盤系統,在工業界和學術界都有著重要的影響。Ceph的架構和演算法設計發表在國際系統領域頂級會議OSDI、SOSP、SC等上。Ceph社區得到Red Hat、SUSE、Intel等大公司的大力支持。Ceph是國際云計算領域應用最廣泛的開源分布式存盤系統, ......

    uj5u.com 2020-09-10 06:14:51 more
  • es~通過ElasticsearchTemplate進行聚合~嵌套聚合

    之前寫過《es~通過ElasticsearchTemplate進行聚合操作》的文章,這一次主要寫一個嵌套的聚合,例如先對sex集合,再對desc聚合,最后再對age求和,共三層嵌套。 Aggregations的部分特性類似于SQL語言中的group by,avg,sum等函式,Aggregation ......

    uj5u.com 2020-09-10 06:14:59 more
  • 爬蟲日志監控 -- Elastc Stack(ELK)部署

    傻瓜式部署,只需替換IP與用戶 導讀: 現ELK四大組件分別為:Elasticsearch(核心)、logstash(處理)、filebeat(采集)、kibana(可視化) 下載均在https://www.elastic.co/cn/downloads/下tar包,各組件版本最好一致,配合fdm會 ......

    uj5u.com 2020-09-10 06:15:05 more
最新发布
  • InnoDB 記憶體結構之更改緩沖區

    更改緩沖區(Change Buffer)是一種特殊的資料結構,用于快取不在緩沖池中的二級索引(secondary index)頁的更改。可能來自于 INSERT、UPDATE 或 DELETE 操作(資料操作語言,DML)的緩沖更改,會在后續通過其他讀操作將這些頁加載到緩沖池時被合并。 ......

    uj5u.com 2023-06-21 08:53:09 more
  • 華為云GaussDB為MetaERP“成本核算”產品“保駕護航”

    摘要:華為宣布實作了自主創新的MetaERP研發,并且完成了對舊ERP系統的全面替換,這其中,就采用了華為云GaussDB資料庫特有的全密態技術,對ERP系統中的絕密資料進行加密保護,從而保障了資料的安全。 ERP系統在幫助企業優化業務流程、實作數字化管理方面有重要作用,可以說企業所有的業務流轉都需 ......

    uj5u.com 2023-06-21 08:53:02 more
  • CSR格式如何更新? GES圖計算引擎HyG揭秘之資料更新

    摘要:HyG圖計算引擎采用CSR格式來存盤圖的拓撲資訊,CSR格式可以將稀疏矩陣的存盤空間壓縮,進而大大降低圖的存盤開銷,同時具備訪問效率高、格式易轉化等優點。 本文分享自華為云社區《CSR格式如何更新? GES圖計算引擎HyG揭秘之資料更新》,作者: π 。 HyG圖計算引擎采用CSR格式來存盤圖 ......

    uj5u.com 2023-06-21 08:52:51 more
  • Linux安裝MongoDB 4.0.3

    Linux安裝MongoDB 4.0.3 1.準備 CentOS下安裝MongoDB 官網提供windows、Linux、OSX系統環境下的安裝包,這里主要是記錄一下在Linux下的安裝;首先到官網下載安裝包;文中安裝的是4.0.3版本的。 官網地址:https://www.mongodb.com/ ......

    uj5u.com 2023-06-21 08:52:38 more
  • 華為云GaussDB為MetaERP“成本核算”產品“保駕護航”

    摘要:華為宣布實作了自主創新的MetaERP研發,并且完成了對舊ERP系統的全面替換,這其中,就采用了華為云GaussDB資料庫特有的全密態技術,對ERP系統中的絕密資料進行加密保護,從而保障了資料的安全。 ERP系統在幫助企業優化業務流程、實作數字化管理方面有重要作用,可以說企業所有的業務流轉都需 ......

    uj5u.com 2023-06-21 08:51:32 more
  • InnoDB 記憶體結構之更改緩沖區

    更改緩沖區(Change Buffer)是一種特殊的資料結構,用于快取不在緩沖池中的二級索引(secondary index)頁的更改。可能來自于 INSERT、UPDATE 或 DELETE 操作(資料操作語言,DML)的緩沖更改,會在后續通過其他讀操作將這些頁加載到緩沖池時被合并。 ......

    uj5u.com 2023-06-21 08:50:53 more
  • CSR格式如何更新? GES圖計算引擎HyG揭秘之資料更新

    摘要:HyG圖計算引擎采用CSR格式來存盤圖的拓撲資訊,CSR格式可以將稀疏矩陣的存盤空間壓縮,進而大大降低圖的存盤開銷,同時具備訪問效率高、格式易轉化等優點。 本文分享自華為云社區《CSR格式如何更新? GES圖計算引擎HyG揭秘之資料更新》,作者: π 。 HyG圖計算引擎采用CSR格式來存盤圖 ......

    uj5u.com 2023-06-21 08:50:31 more
  • [20230616]One Deadlock of 'row cache lock' and '

    [20230616]One Deadlock of 'row cache lock' and 'library cache lock'.txt--//鏈接http://ksun-oracle.blogspot.com/2023/06/one-deadlock-of-row-cache-lock-an ......

    uj5u.com 2023-06-20 09:32:04 more
  • MVCC并發版本控制之重點ReadView

    MVCC并發版本控制 本文大部分來自《MySQL是怎樣運行的》,這里只是簡單總結,用于各位回憶和復習。 版本鏈 對于使用 InnoDB 存盤引擎的表來說,它的聚簇索引記錄中都包含兩個必要的隱藏列(不知道的快去看《MySQL是怎樣運行的》) trx_id :每次一個事務對某條聚簇索引記錄進行改動時,都 ......

    uj5u.com 2023-06-20 09:31:55 more
  • Linux安裝MongoDB 4.0.3

    Linux安裝MongoDB 4.0.3 1.準備 CentOS下安裝MongoDB 官網提供windows、Linux、OSX系統環境下的安裝包,這里主要是記錄一下在Linux下的安裝。首先到官網下載安裝包。文中安裝的是4.0.3版本的。 官網地址:https://www.mongodb.com/ ......

    uj5u.com 2023-06-20 09:31:43 more