主頁 > 後端開發 > Redis變慢?深入淺出Redis性能診斷系列文章(三)

Redis變慢?深入淺出Redis性能診斷系列文章(三)

2022-09-14 06:16:04 後端開發

(本文首發于“資料庫架構師”公號,訂閱“資料庫架構師”公號,一起學習資料庫技術,助力職業發展) 本篇為Redis性能問題診斷系列的第三篇,主要從Redis服務層面上進行講解,重點對相關機制的作業原理進行剖析,及如何最優的使用來提高處理性能,   一.資料持久化的影響 為了保證 Redis 資料的安全性,我們可能會開啟Redis的持久化將資料落盤,避免Redis服務崩潰或者服務器宕機導致的資料丟失, Redis當前支持兩種典型的持久化模式:RDB、AOF,
  • RDB持久化,稱為記憶體快照,這種模式是把當前Redis服務的記憶體資料在某一點dump生成快照保存到磁盤上的程序,由于是某一時刻的快照,開啟快照后發起后所有操作命令都不會再被記錄,
  • AOF 持久化,AOF持久化以日志的形式記錄Redis所執行的每個寫操作,注意查詢操作不會記錄,可以打開磁盤檔案看到每條詳細的操作記錄,
關于Redis持久化這里不做過多詳細介紹,大家需要記住開啟持久化后會對Redis的訪問性能帶來影響就行,后面會專文講解兩種持久化模式的細節,本文主要對持久化影響Redis訪問回應進行分析說明,   1.RDB鏡像落盤及AOF重寫時的影響 Redis開始執行RDB或者AOF Rewrite后,主行程都會創建出一個子行程進行資料的持久化落盤操作,在這個程序中,則會呼叫作業系統的 fork 操作, 通過 fork 對記憶體資料的 copy-On-Write 機制最廉價的實作記憶體鏡像,雖然記憶體是 copy on write 的,但是虛擬記憶體表是在 fork 的瞬間就需要分配,所以這個操作會造成主執行緒短時間的卡頓(停止所有讀寫操作),這個卡頓時間和當前 Redis 的記憶體使用量有關, 根據經驗 GB 量級的 Redis 進行 fork 操作的時間在毫秒級, 如果這個Redis實體很大,CPU負載再高些,那么 fork 的耗時就會更長,甚至達到秒級,也就會嚴重影響 Redis 的訪問回應時間, 這時反映到業務層面表現就是仿佛Redis服務有一瞬間卡主了,所有的請求不再快速回傳,大量的超時出現,然后一會突然又好了,   # 相關監控指標上一次fork操作耗時,單位微秒 redis> info stats ,, latest_fork_usec:67412   可以添加一個監控,如果發現這個耗時過長且頻繁出現,就需要警惕了, 為了避免這種情況,可以采取以下優化方式:
  • 關閉RDB和AOF的自動觸發機器,避免業務高峰自動觸發執行;
  • 控制 Redis 使用記憶體大小,建議控制在20G 以下,因為執行 fork 的耗時與資料記憶體大小有關,資料越多,耗時會越久;
  • 對于主從集群架構,建議關閉主庫AOF,從庫開啟;對于有備份需求的集群,也可以在從庫發起RDB備份操作;
  • 合理配置 repl-backlog-size大小,降低主從全量重傳【2.8版本之前的節點強烈建議升級】;
  • 盡量不要使用虛擬機,fork 的耗時也與系統也有關,虛擬機比物理機耗時更長,
    2.AOF持久化磁盤IO帶來的影響 前文主要介紹了兩種持久化程序中Fork操作對性能的影響,現在主要說下AOF持久化開啟后對性能的影響, 關于AOF持久化刷盤的三種策略【no/everysec/always】,這里不過多講解,大家可以自行查閱資料, 當 Redis 開啟 AOF持久化 后,兩個主要動作:
  • Redis 接收寫命令后,把命令寫入 AOF 檔案緩沖區中(AOF write)
  • 根據AOF 刷盤策略【everysec/always】,把 AOF 緩沖資料刷到磁盤上(AOF fsync)
  AOF 持久化最耗時的刷盤操作,都是在后臺執行緒執行的,但為什么也會影響到 Redis 主執行緒處理請求呢? 這里需要分析下AOF執行檔案持久化重繪時的流程: 具體處理流程:
  • 資料寫入請求來后,主執行緒寫入AOF緩沖區;
  • AOF fsync后臺執行緒每秒一次執行磁盤檔案刷入操作,并記錄最近一次同步時間;
  • 主執行緒對比AOF同步時間:
  • 如果距離上次fsync同步時間在兩秒內,主執行緒繼續進行寫入
  • 如果距離上次fsync同步時間超過兩秒(比如磁盤的 IO 負載很高導致同步寫磁盤很慢,還在持續寫入沒有結束),主執行緒將會被阻塞, 直到同步完成,
  如果fsync過慢,這時系統日志中會有如下提示資訊: Asynchronous AOF fsync is taking too long (disk is busy?). Writing the AOF buffer without waiting for fsync to complete, this may slow down Redis. Redis自身也提供了相關的性能指標: redis>info Persistence ,, aof_delayed_fsync:2 如果aof_delayed_fsync一直在增加,說明主執行緒頻繁出現被阻塞情況,那么就需要關注是否持久化過慢造成Redis訪問變慢了,   針對AOF持久化對Redis性能可能帶來的影響可以參考如下幾種解決方案:
  • SSD 磁盤存盤,確保AOF刷盤時有充足的IO能力
  • 對于主從集群架構,建議關閉主庫AOF,從庫開啟
  • 將no-appendfsync-on-rewrite引數設定為yes, 確保aof檔案rewrite期間不做fsync操作,減少IO爭用
  • 單臺服務器不要部署過多持久化實體節點,避免磁盤IO爭搶帶來持久化壓力
  二、記憶體碎片過大及整理帶來的性能損耗 Redis 的所有資料都在記憶體中,當應用頻繁修改時,就會導致產生記憶體碎片,過高的記憶體碎片率,不僅會浪費記憶體資源還會影響請求處理的效率, 那么,是什么原因導致Redis 產生碎片的呢?原理是什么,能避免嗎? 當前Redis 都默認使用jemalloc記憶體分配器來分配記憶體,它一般是按固定大小來分配記憶體空間,而不會按照應用程式申請的記憶體大小給實際分配,當程式申請的記憶體大小最接近某個固定值時,如8 byte、16 byte,…,2KB、4KB 等,jemalloc 會給它分配相應大小的空間, 這樣的方式好處是為了減少分配次數,假設Redis申請一個 10 byte的記憶體空間存盤資料,jemalloc 會分配 16 byte,此時,如果應用還要再寫入 4 byte的資料,Redis 就不用再向作業系統申請空間了,因為剛才分配的 16 byte已經夠用了,也就避免了一次額外分配操作開銷, 所以Redis每次分配的記憶體空間一般都會比申請的實際需求空間大一些,這種分配方式就自然會導致形成碎片, 從目前Redis記憶體的分配機制來看,目前碎片無法完全避免,   Redis 的記憶體利用率的高低除了成本外,也會直接影響到 Redis 運行效率的高低,可以使用如下命令查看Redis記憶體使用、碎片率、分配器版本等詳細資訊: redis> info Memory used_memory:6617819416 used_memory_human:6.16G used_memory_rss:9788588032 used_memory_rss_human:9.12G ... rss_overhead_ratio:1.00 rss_overhead_bytes:-21159936 mem_fragmentation_ratio:1.48 mem_fragmentation_bytes: 3250855264 ... mem_allocator:jemalloc-5.1.0 ... mem_fragmentation_ratio 就是Redis 當前的記憶體碎片率大小,碎片率計算方法: mem_fragmentation_ratio=used_memory_rss/used_memory used_memory 表示存盤的資料實際占用記憶體的大小,而used_memory_rss 指作業系統分配給 Redis行程服務的實際大小,也就是使用top命令查看Redis行程占用的記憶體, 一般當mem_fragmentation_ratio>1.5時,就說明記憶體碎片率已經超過了50%,此時建議采取措施來降低記憶體碎片大小,   如何清理記憶體碎片呢?根據版本的不同有兩種方式:
  • Redis 4.0 以前的低版本,只能通過重啟實體來解決,不能自動配置回收
  • 從 4.0版本以后,提供了一種記憶體碎片自動回收的方法,可以通過配置動態開啟碎片整理
  但要注意:開啟記憶體碎片整理,會導致 Redis 服務性能下降, Redis 的碎片整理作業是在主執行緒中執行的,當其進行碎片整理時,作業系統會把多份資料拷貝到新位置以把原有空間釋放出來,這會帶來時間開銷,而這個程序就會阻塞Redis處理請求, 為了降低碎片整理帶來的性能影響,Redis 為自動記憶體碎片整理功機制提供了多個引數,具體有: activedefrag yes #是否開啟碎片整理 active-defrag-ignore-bytes 500mb #碎片大小超過 500MB 時才會觸發整理 active-defrag-threshold-lower 20 #碎片大小占作業系統分配總空間比超過 20% 時觸發整理 active-defrag-cycle-min 15 #碎片整理程序占用的CPU比例不低于 15%,保證整理可以正常執行 active-defrag-cycle-max 70 #碎片整理程序占用的CPU比例不高于70%,一旦超過就暫停整理,避免大量的記憶體拷貝等整理程序占用過多的CPU進而影響正常請求 active-defrag-max-scan-fields 500 #碎片整理程序中,對于 Hash、List、Set、ZSet 等成員集合型別一次掃描的元素數量   在開啟碎片自動整理時,一定要優先評估當前 Redis 服務的負載狀態,以及應用程式可接受的回應延遲,合理設定碎片整理的引數值和回收時間段【比如放到凌晨程式定時觸發】,來盡可能降低碎片整理期間對Redis服務的影響,     如果這篇文章對你有識訓,還請幫忙點贊、在看、轉發 一下,您的支持會激勵我們輸出更多高質量的文章,非常感謝! 如果你還想看更多優質文章,歡迎關注公號「資料庫架構師」或掃描我的二維碼,添加個人微信,技術交流、圍觀朋友圈,一起學習和成長

轉載請註明出處,本文鏈接:https://www.uj5u.com/houduan/507132.html

標籤:Java

上一篇:一文快速了解Nacos

下一篇:從Spring中學到的【1】--讀懂繼承鏈

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【C++】Microsoft C++、C 和匯編程式檔案

    ......

    uj5u.com 2020-09-10 00:57:23 more
  • 例外宣告

    相比于斷言適用于排除邏輯上不可能存在的狀態,例外通常是用于邏輯上可能發生的錯誤。 例外宣告 Item 1:當函式不可能拋出例外或不能接受拋出例外時,使用noexcept 理由 如果不打算拋出例外的話,程式就會認為無法處理這種錯誤,并且應當盡早終止,如此可以有效地阻止例外的傳播與擴散。 示例 //不可 ......

    uj5u.com 2020-09-10 00:57:27 more
  • Codeforces 1400E Clear the Multiset(貪心 + 分治)

    鏈接:https://codeforces.com/problemset/problem/1400/E 來源:Codeforces 思路:給你一個陣列,現在你可以進行兩種操作,操作1:將一段沒有 0 的區間進行減一的操作,操作2:將 i 位置上的元素歸零。最終問:將這個陣列的全部元素歸零后操作的最少 ......

    uj5u.com 2020-09-10 00:57:30 more
  • UVA11610 【Reverse Prime】

    本人看到此題沒有翻譯,就附帶了一個自己的翻譯版本 思考 這一題,它的第一個要求是找出所有 $7$ 位反向質數及其質因數的個數。 我們應該需要質數篩篩選1~$10^{7}$的所有數,這里就不慢慢介紹了。但是,重讀題,我們突然發現反向質數都是 $7$ 位,而將它反過來后的數字卻是 $6$ 位數,這就說明 ......

    uj5u.com 2020-09-10 00:57:36 more
  • 統計區間素數數量

    1 #pragma GCC optimize(2) 2 #include <bits/stdc++.h> 3 using namespace std; 4 bool isprime[1000000010]; 5 vector<int> prime; 6 inline int getlist(int ......

    uj5u.com 2020-09-10 00:57:47 more
  • C/C++編程筆記:C++中的 const 變數詳解,教你正確認識const用法

    1、C中的const 1、區域const變數存放在堆疊區中,會分配記憶體(也就是說可以通過地址間接修改變數的值)。測驗代碼如下: 運行結果: 2、全域const變數存放在只讀資料段(不能通過地址修改,會發生寫入錯誤), 默認為外部聯編,可以給其他源檔案使用(需要用extern關鍵字修飾) 運行結果: ......

    uj5u.com 2020-09-10 00:58:04 more
  • 【C++犯錯記錄】VS2019 MFC添加資源不懂如何修改資源宏ID

    1. 首先在資源視圖中,添加資源 2. 點擊新添加的資源,復制自動生成的ID 3. 在解決方案資源管理器中找到Resource.h檔案,編輯,使用整個專案搜索和替換的方式快速替換 宏宣告 4. Ctrl+Shift+F 全域搜索,點擊查找全部,然后逐個替換 5. 為什么使用搜索替換而不使用屬性視窗直 ......

    uj5u.com 2020-09-10 00:59:11 more
  • 【C++犯錯記錄】VS2019 MFC不懂的批量添加資源

    1. 打開資源頭檔案Resource.h,在其中預先定義好宏 ID(不清楚其實ID值應該設定多少,可以先新建一個相同的資源項,再在這個資源的ID值的基礎上遞增即可) 2. 在資源視圖中選中專案資源,按F7編輯資源檔案,按 ID 型別 相對路徑的形式添加 資源。(別忘了先把檔案拷貝到專案中的res檔案 ......

    uj5u.com 2020-09-10 01:00:19 more
  • C/C++編程筆記:關于C++的參考型別,專供新手入門使用

    今天要講的是C++中我最喜歡的一個用法——參考,也叫別名。 參考就是給一個變數名取一個變數名,方便我們間接地使用這個變數。我們可以給一個變數創建N個參考,這N + 1個變數共享了同一塊記憶體區域。(參考型別的變數會占用記憶體空間,占用的記憶體空間的大小和指標型別的大小是相同的。雖然參考是一個物件的別名,但 ......

    uj5u.com 2020-09-10 01:00:22 more
  • 【C/C++編程筆記】從頭開始學習C ++:初學者完整指南

    眾所周知,C ++的學習曲線陡峭,但是花時間學習這種語言將為您的職業帶來奇跡,并使您與其他開發人員區分開。您會更輕松地學習新語言,形成真正的解決問題的技能,并在編程的基礎上打下堅實的基礎。 C ++將幫助您養成良好的編程習慣(即清晰一致的編碼風格,在撰寫代碼時注釋代碼,并限制類內部的可見性),并且由 ......

    uj5u.com 2020-09-10 01:00:41 more
最新发布
  • Rust中的智能指標:Box<T> Rc<T> Arc<T> Cell<T> RefCell<T> Weak

    Rust中的智能指標是什么 智能指標(smart pointers)是一類資料結構,是擁有資料所有權和額外功能的指標。是指標的進一步發展 指標(pointer)是一個包含記憶體地址的變數的通用概念。這個地址參考,或 ” 指向”(points at)一些其 他資料 。參考以 & 符號為標志并借用了他們所 ......

    uj5u.com 2023-04-20 07:24:10 more
  • Java的值傳遞和參考傳遞

    值傳遞不會改變本身,參考傳遞(如果傳遞的值需要實體化到堆里)如果發生修改了會改變本身。 1.基本資料型別都是值傳遞 package com.example.basic; public class Test { public static void main(String[] args) { int ......

    uj5u.com 2023-04-20 07:24:04 more
  • [2]SpinalHDL教程——Scala簡單入門

    第一個 Scala 程式 shell里面輸入 $ scala scala> 1 + 1 res0: Int = 2 scala> println("Hello World!") Hello World! 檔案形式 object HelloWorld { /* 這是我的第一個 Scala 程式 * 以 ......

    uj5u.com 2023-04-20 07:23:58 more
  • 理解函式指標和回呼函式

    理解 函式指標 指向函式的指標。比如: 理解函式指標的偽代碼 void (*p)(int type, char *data); // 定義一個函式指標p void func(int type, char *data); // 宣告一個函式func p = func; // 將指標p指向函式func ......

    uj5u.com 2023-04-20 07:23:52 more
  • Django筆記二十五之資料庫函式之日期函式

    本文首發于公眾號:Hunter后端 原文鏈接:Django筆記二十五之資料庫函式之日期函式 日期函式主要介紹兩個大類,Extract() 和 Trunc() Extract() 函式作用是提取日期,比如我們可以提取一個日期欄位的年份,月份,日等資料 Trunc() 的作用則是截取,比如 2022-0 ......

    uj5u.com 2023-04-20 07:23:45 more
  • 一天吃透JVM面試八股文

    什么是JVM? JVM,全稱Java Virtual Machine(Java虛擬機),是通過在實際的計算機上仿真模擬各種計算機功能來實作的。由一套位元組碼指令集、一組暫存器、一個堆疊、一個垃圾回收堆和一個存盤方法域等組成。JVM屏蔽了與作業系統平臺相關的資訊,使得Java程式只需要生成在Java虛擬機 ......

    uj5u.com 2023-04-20 07:23:31 more
  • 使用Java接入小程式訂閱訊息!

    更新完微信服務號的模板訊息之后,我又趕緊把微信小程式的訂閱訊息給實作了!之前我一直以為微信小程式也是要企業才能申請,沒想到小程式個人就能申請。 訊息推送平臺🔥推送下發【郵件】【短信】【微信服務號】【微信小程式】【企業微信】【釘釘】等訊息型別。 https://gitee.com/zhongfuch ......

    uj5u.com 2023-04-20 07:22:59 more
  • java -- 緩沖流、轉換流、序列化流

    緩沖流 緩沖流, 也叫高效流, 按照資料型別分類: 位元組緩沖流:BufferedInputStream,BufferedOutputStream 字符緩沖流:BufferedReader,BufferedWriter 緩沖流的基本原理,是在創建流物件時,會創建一個內置的默認大小的緩沖區陣列,通過緩沖 ......

    uj5u.com 2023-04-20 07:22:49 more
  • Java-SpringBoot-Range請求頭設定實作視頻分段傳輸

    老實說,人太懶了,現在基本都不喜歡寫筆記了,但是網上有關Range請求頭的文章都太水了 下面是抄的一段StackOverflow的代碼...自己大修改過的,寫的注釋挺全的,應該直接看得懂,就不解釋了 寫的不好...只是希望能給視頻網站開發的新手一點點幫助吧. 業務場景:視頻分段傳輸、視頻多段傳輸(理 ......

    uj5u.com 2023-04-20 07:22:42 more
  • Windows 10開發教程_編程入門自學教程_菜鳥教程-免費教程分享

    教程簡介 Windows 10開發入門教程 - 從簡單的步驟了解Windows 10開發,從基本到高級概念,包括簡介,UWP,第一個應用程式,商店,XAML控制元件,資料系結,XAML性能,自適應設計,自適應UI,自適應代碼,檔案管理,SQLite資料庫,應用程式到應用程式通信,應用程式本地化,應用程式 ......

    uj5u.com 2023-04-20 07:22:35 more