主頁 > 資料庫 > Redis變慢?深入淺出Redis性能診斷系列文章(四)

Redis變慢?深入淺出Redis性能診斷系列文章(四)

2022-09-21 11:22:12 資料庫

(本文首發于“資料庫架構師”公號,訂閱“資料庫架構師”公號,一起學習資料庫技術,助力職業發展)   本篇為Redis性能問題診斷系列的第四篇,也是最后一篇,主要從應用程式、系統、服務器硬體及網路系統等層面上進行講解,重點分享了哪些配置需要重點關注和調整優化,才能最大程度的發揮Redis的處理能力;   一、服務器預留足夠記憶體,監控SWAP使用 Swap是作業系統層面行為,指當服務器記憶體不足時,會將原本在記憶體中的一部分資料拿出放入磁盤,如果再次訪問這部分資料就會回應很慢,因為磁盤的訪問速度是遠遠不如記憶體的, Redis作為記憶體資料庫,有個常識一定要記住:所有的資料默認都是在記憶體中,不存在一部分在記憶體一部分在磁盤中的情況,除非被迫發生了SWAP, 說明:Redis在2.6版本之前有個VM【虛擬記憶體】特性,可以支持資料存放在記憶體和磁盤中,不過帶來的性能波動影響太大,就被廢棄了,但現在網上還有不少人在傳抄相關VM特性的文章,太有誤導性! 官方VM廢棄說明:https://redis.io/docs/reference/internals/internals-vm/   可以通過以下方式來查看 Redis 行程是否使用到了 Swap: 1.獲取redis對應的行程id shell> redis-cli info | grep process_id 2.查看 Swap 使用情況 shell>cat /proc/$pid/smaps | egrep '^(Swap|Size)' 輸出結果如下: Size: 1492 kB Swap: 0 kB Size: 32 kB Swap: 0 kB Size: 2196 kB Swap: 0 kB Size: 2048 kB Swap: 0 kB Size: 4 kB Swap: 0 kB Size: 1576 kB 上圖中size代表Redis行程占用的一塊記憶體空間大小,并對應一個Swap, Swap后的數字表示該記憶體空間有多少已經被換到磁盤上了,如果兩者相等,則代表這塊記憶體空間的資料全都被換到了上了, 針對使用swap的解決方案可以參考如下: a.提高Redis所在服務器的記憶體并預留可用記憶體,建議剩余可用記憶體至少保留20%以上; b.Redis單獨部署或降低單機部署實體數量,不和其他應用程式混合部署,避免多服務爭用記憶體導致Redis資料被swap到磁盤上, 平時對Redis所在服務器的剩余可用記憶體及Swap 使用情況進行監控,在記憶體不足或使用到 Swap 時報警出來,及時干預處理,   二、.使用萬兆網卡,避免網路帶寬打滿 Redis 的高性能,除了資料都在記憶體之外,就在于網路 IO 了,如果網路存在瓶頸,那么也會嚴重影響 Redis 的性能, 網路帶寬過載的情況下,比如帶寬被打滿,那么服務器在 TCP 層和網路層就會出現資料包發送延遲、丟包等情況, 如果確實出現這種情況,我們需要及時核對原因,主要有以下幾個: a.某個Redis服務訪問量過大,可能QPS高疊加操作的Key過大,導致網路滿載; b.所在服務器網卡上限過小,如千兆網卡或者虛擬機限速200MB等; c.服務器網卡/網線/驅動等問題,導致萬兆的網卡降頻為千兆或者被限流,   查看網卡速度:ethtool eth0   針對網路過載可以采用以下方案來解決: a.降低單機部署Redis實體個數,打散重度使用網路帶寬的Redis服務到多臺服務器; b.對Redis服務使用的網路帶寬進行監控,可以關注性能指標:instantaneous_input_kbps、instantaneous_output_kbps c.使用萬兆網卡的服務器,并添加對帶寬上限【警惕網卡從萬兆降為千兆】、網路帶寬使用、丟包情況的監控; d.遵守Redis使用規范,比如控制寫入Redis中的VALUE大小、限制使用smembers或hgetall等操作的集合成員個數等,   三、根據場景選擇是否使用SSD磁盤 大家要根據自己的實際場景判斷,比如使用單節點且用于快取服務的情形,就不需要使用SSD磁盤, 但是如果希望使用Redis的持久化能力來保證資料安全,那么磁盤IO能力就不得不重視了, 這里對于Redis的持久化不做詳細介紹,具體可以參考上篇文章, Redis中對IO比較敏感的操作主要有下面幾類: a.AOF持久化,相關磁盤操作有: AOF命令落盤、AOF檔案重寫; b.RDB持久化,相關磁盤操作有:主從復制主節點RDB生成快照、從節點加載RDB檔案、備份觸發RDB快照、配置觸發自動RDB快照 上面列出的都會嚴重依賴磁盤IO能力,特別是單機部署多Redis實體的情況,如果磁盤IO能力一般,那么就會嚴重影響Redis的性能,   四、系統引數配置 1.記憶體分配策略引數vm.overcommit_memory Redis啟動給出Warning提示: WARNING overcommit_memory is set to 0! Background save may fail under low memory condition. To fix this issue add ‘vm.overcommit_memory = 1’ to /etc/sysctl.conf and then reboot or run the command ‘sysctl vm.overcommit_memory=1’ for this to take effect. 這里首先解答下什么是Overcommit? Linux對大部分申請記憶體的請求都回復"yes",以便能跑更多更大占用記憶體的程式,因為申請記憶體后,并不會馬上使用記憶體,這種技術叫做Overcommit, 當linux發現記憶體不足時,會發生OOM killer(OOM=out-of-memory),它會選擇殺死一些行程(用戶態行程,不是內核執行緒),以便釋放記憶體, overcommit_memory的幾個主要值的說明: 0:表?內核將檢查是否有?夠的可?記憶體供應?行程使?;如果有?夠的可?記憶體,記憶體申請允許;否則,記憶體申請失敗,并把錯誤回傳給應?行程; 1: 表?內核允許分配所有的物理記憶體,?不管當前的記憶體狀態如何; 2: 表?內核允許分配超過所有物理記憶體和交換空間總和的記憶體, 這里建議調整為1,相關調整方式: 永久生效: 編輯vim /etc/sysctl.conf ,改vm.overcommit_memory=1,然后sysctl -p 使組態檔生效 臨時生效: echo 1 > /proc/sys/vm/overcommit_memory     上述日志中的Background save代表的是bgsave和bgrewriteaof, 如果當前可用記憶體不足, 作業系統應該如何處理fork操作呢? 如果vm.overcommit_memory=0, 代表如果沒有可用記憶體, 就申請記憶體失敗, 對應到Redis就是執行fork失敗, 在Redis的日志會出現: Cannot allocate memory Redis建議把這個值設定為1, 是為了讓fork操作能夠在低記憶體下也執行成功,   2.作業系統記憶體大頁引數配置 Redis啟動給出Warning提示: WARNING you have Transparent Huge Pages (THP) support enabled in your kernel. This will create latency and memory usage issues with Redis. To fix this issue run the command 'echo never > /sys/kernel/mm/transparent_hugepage/enabled' as root, and add it to your /etc/rc.local in order to retain the setting after a reboot. Redis must be restarted after THP is disabled. 意思是:你的Redis所在服務器當前使用的是記憶體大頁機制,可能導致Redis訪問延遲和記憶體使用問題, 那什么是記憶體大頁呢? 應用程式向作業系統申請記憶體空間時,是按記憶體頁為單位進行申請的,默認大小是4KB,不過Linux從 2.6.38內核版本開始,支持了記憶體大頁機制,可以允許向作業系統一次申請 2MB 大小的記憶體,由于申請的記憶體單位變大,也意味著申請耗時相對變長,   那對于 Redis服務會有什么影響呢? 當 Redis 在執行后臺 RDB 和 AOF rewrite 時,采用 fork 子行程的方式來處理,但主行程 fork 子行程后,此時的主行程依舊是可以接收寫請求的,而進來的寫請求,會采用 Copy On Write(寫時復制)的方式操作記憶體資料, 也就是說,主行程一旦有資料需要修改,Redis 并不會直接修改現有記憶體中的資料,而是先將這塊記憶體資料拷貝出來,再修改這塊新記憶體的資料,這就是所謂的「寫時復制」, 寫時復制可以理解為:需要發生寫操作哪個Key,就需要先拷貝這個Key,然后再修改, 這里注意,主行程在修改拷貝記憶體資料時,這個階段就涉及到新記憶體的申請,如果此時作業系統開啟了記憶體大頁,那么在此期間,應用程式即便只修改 10B 的資料,Redis 在申請記憶體時也會以 2MB 為單位向作業系統申請,申請記憶體的耗時變長,進而導致每個寫請求的延遲增加,影響到 Redis 性能,   所以為了避免過多的記憶體申請,我們需要關閉記憶體大頁機制: cat /sys/kernel/mm/transparent_hugepage/enabled [always] madvise never 如果輸出選項是 always,就表示目前開啟了記憶體大頁機制,我們需要關掉它: echo never > /sys/kernel/mm/transparent_hugepage/enabled   其實,作業系統提供的記憶體大頁機制,其優勢是可以在一定程式上降低應用程式申請記憶體的次數, 比如針對大資料、物件存盤相關的服務來說可能會更好,但是對于 Redis 這種對性能和延遲極其敏感的資料庫來說,我們希望 Redis 在每次申請記憶體時,耗時盡量短,建議關閉這個引數,   五、其他影響訪問Redis的性能的因素 1.應用程式配置不合理 a.應配置合理的連接數等相關引數,比如jedis,默認MaxActive最大連接數只有8個,在高QPS時就會出現無法獲取新連接的提示: redis.clients.jedis.exceptions.JedisConnectionException: Could not get a resource from the pool … Caused by: java.util.NoSuchElementException: Timeout waiting for idle object at org.apache.commons.pool2.impl.GenericObjectPool.borrowObject(GenericObjectPool.java:449) b.驅動版本過低,低版本的Driver連接高版本Redis,除了無法使用最新的特性外,還會經常出現連接不釋放、記憶體泄露、訪問緩慢等問題, 2.使用連接池,避免使用短連接模式.特別是使用PHP的應用,頻繁的連接創建與銷毀,在高QPS訪問時網路開銷巨大; 3.CPU綁核及主頻影響 Redis是單執行緒模型處理處理用戶需求,那么處理的吞吐、效率就會極度依賴CPU的處理能力,所以選型CPU時,如果部署的Redis平時QPS較高,可以采購主頻高些的CPU. 另外現在的CPU都是多核處理,為了提高服務性能,降低應用程式在多個 CPU 核心之間的背景關系切換帶來的性能損耗,通常采用的方案是行程系結 CPU 的方式提高性能, 但是Redis的綁核操作過于復雜,對于單機多實體的管理挑戰過高,再加上Redis 的性能已經足夠優秀,不建議系結 CPU來處理,這里也不做深入說明,   最后總結: 本篇為Redis性能診斷的完結篇,通過總結常見的可能導致訪問回應延遲、甚至阻塞的問題的各種場景,以及如何定位及分析針對性地提供了解決方案, 但是由于篇幅限制,關于 Redis 的很多細節也無法全部展開,后續也會對Redis使用的各種技巧、架構及內部的作業原理深入分享,歡迎保持關注,   如果這篇文章對你有幫助,還請幫忙點贊、在看、轉發 一下,你的支持會激勵我們輸出更多高質量的文章,非常感謝! 如果你還想看更多優質文章,歡迎關注我的公眾號「資料庫架構師」,提升資料庫技能,  

轉載請註明出處,本文鏈接:https://www.uj5u.com/shujuku/509205.html

標籤:NoSQL

上一篇:一條sql了解MYSQL的架構設計

下一篇:Redis——資料操作

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • GPU虛擬機創建時間深度優化

    **?桔妹導讀:**GPU虛擬機實體創建速度慢是公有云面臨的普遍問題,由于通常情況下創建虛擬機屬于低頻操作而未引起業界的重視,實際生產中還是存在對GPU實體創建時間有苛刻要求的業務場景。本文將介紹滴滴云在解決該問題時的思路、方法、并展示最終的優化成果。 從公有云服務商那里購買過虛擬主機的資深用戶,一 ......

    uj5u.com 2020-09-10 06:09:13 more
  • 可編程網卡芯片在滴滴云網路的應用實踐

    **?桔妹導讀:**隨著云規模不斷擴大以及業務層面對延遲、帶寬的要求越來越高,采用DPDK 加速網路報文處理的方式在橫向縱向擴展都出現了局限性。可編程芯片成為業界熱點。本文主要講述了可編程網卡芯片在滴滴云網路中的應用實踐,遇到的問題、帶來的收益以及開源社區貢獻。 #1. 資料中心面臨的問題 隨著滴滴 ......

    uj5u.com 2020-09-10 06:10:21 more
  • 滴滴資料通道服務演進之路

    **?桔妹導讀:**滴滴資料通道引擎承載著全公司的資料同步,為下游實時和離線場景提供了必不可少的源資料。隨著任務量的不斷增加,資料通道的整體架構也隨之發生改變。本文介紹了滴滴資料通道的發展歷程,遇到的問題以及今后的規劃。 #1. 背景 資料,對于任何一家互聯網公司來說都是非常重要的資產,公司的大資料 ......

    uj5u.com 2020-09-10 06:11:05 more
  • 滴滴AI Labs斬獲國際機器翻譯大賽中譯英方向世界第三

    **桔妹導讀:**深耕人工智能領域,致力于探索AI讓出行更美好的滴滴AI Labs再次斬獲國際大獎,這次獲獎的專案是什么呢?一起來看看詳細報道吧! 近日,由國際計算語言學協會ACL(The Association for Computational Linguistics)舉辦的世界最具影響力的機器 ......

    uj5u.com 2020-09-10 06:11:29 more
  • MPP (Massively Parallel Processing)大規模并行處理

    1、什么是mpp? MPP (Massively Parallel Processing),即大規模并行處理,在資料庫非共享集群中,每個節點都有獨立的磁盤存盤系統和記憶體系統,業務資料根據資料庫模型和應用特點劃分到各個節點上,每臺資料節點通過專用網路或者商業通用網路互相連接,彼此協同計算,作為整體提供 ......

    uj5u.com 2020-09-10 06:11:41 more
  • 滴滴資料倉庫指標體系建設實踐

    **桔妹導讀:**指標體系是什么?如何使用OSM模型和AARRR模型搭建指標體系?如何統一流程、規范化、工具化管理指標體系?本文會對建設的方法論結合滴滴資料指標體系建設實踐進行解答分析。 #1. 什么是指標體系 ##1.1 指標體系定義 指標體系是將零散單點的具有相互聯系的指標,系統化的組織起來,通 ......

    uj5u.com 2020-09-10 06:12:52 more
  • 單表千萬行資料庫 LIKE 搜索優化手記

    我們經常在資料庫中使用 LIKE 運算子來完成對資料的模糊搜索,LIKE 運算子用于在 WHERE 子句中搜索列中的指定模式。 如果需要查找客戶表中所有姓氏是“張”的資料,可以使用下面的 SQL 陳述句: SELECT * FROM Customer WHERE Name LIKE '張%' 如果需要 ......

    uj5u.com 2020-09-10 06:13:25 more
  • 滴滴Ceph分布式存盤系統優化之鎖優化

    **桔妹導讀:**Ceph是國際知名的開源分布式存盤系統,在工業界和學術界都有著重要的影響。Ceph的架構和演算法設計發表在國際系統領域頂級會議OSDI、SOSP、SC等上。Ceph社區得到Red Hat、SUSE、Intel等大公司的大力支持。Ceph是國際云計算領域應用最廣泛的開源分布式存盤系統, ......

    uj5u.com 2020-09-10 06:14:51 more
  • es~通過ElasticsearchTemplate進行聚合~嵌套聚合

    之前寫過《es~通過ElasticsearchTemplate進行聚合操作》的文章,這一次主要寫一個嵌套的聚合,例如先對sex集合,再對desc聚合,最后再對age求和,共三層嵌套。 Aggregations的部分特性類似于SQL語言中的group by,avg,sum等函式,Aggregation ......

    uj5u.com 2020-09-10 06:14:59 more
  • 爬蟲日志監控 -- Elastc Stack(ELK)部署

    傻瓜式部署,只需替換IP與用戶 導讀: 現ELK四大組件分別為:Elasticsearch(核心)、logstash(處理)、filebeat(采集)、kibana(可視化) 下載均在https://www.elastic.co/cn/downloads/下tar包,各組件版本最好一致,配合fdm會 ......

    uj5u.com 2020-09-10 06:15:05 more
最新发布
  • day02-2-商鋪查詢快取

    功能02-商鋪查詢快取 3.商鋪詳情快取查詢 3.1什么是快取? 快取就是資料交換的緩沖區(稱作Cache),是存盤資料的臨時地方,一般讀寫性能較高。 快取的作用: 降低后端負載 提高讀寫效率,降低回應時間 快取的成本: 資料一致性成本 代碼維護成本 運維成本 3.2需求說明 如下,當我們點擊商店詳 ......

    uj5u.com 2023-04-20 08:33:24 more
  • MySQL中binlog備份腳本分享

    關于MySQL的二進制日志(binlog),我們都知道二進制日志(binlog)非常重要,尤其當你需要point to point災難恢復的時侯,所以我們要對其進行備份。關于二進制日志(binlog)的備份,可以基于flush logs方式先切換binlog,然后拷貝&壓縮到到遠程服務器或本地服務器 ......

    uj5u.com 2023-04-20 08:28:06 more
  • day02-短信登錄

    功能實作02 2.功能01-短信登錄 2.1基于Session實作登錄 2.1.1思路分析 2.1.2代碼實作 2.1.2.1發送短信驗證碼 發送短信驗證碼: 發送驗證碼的介面為:http://127.0.0.1:8080/api/user/code?phone=xxxxx<手機號> 請求方式:PO ......

    uj5u.com 2023-04-20 08:27:27 more
  • 快取與資料庫雙寫一致性幾種策略分析

    本文將對幾種快取與資料庫保證資料一致性的使用方式進行分析。為保證高并發性能,以下分析場景不考慮執行的原子性及加鎖等強一致性要求的場景,僅追求最終一致性。 ......

    uj5u.com 2023-04-20 08:26:48 more
  • sql陳述句優化

    問題查找及措施 問題查找 需要找到具體的代碼,對其進行一對一優化,而非一直把關注點放在服務器和sql平臺 降低簡化每個事務中處理的問題,盡量不要讓一個事務拖太長的時間 例如檔案上傳時,應將檔案上傳這一步放在事務外面 微軟建議 4.啟動sql定時執行計劃 怎么啟動sqlserver代理服務-百度經驗 ......

    uj5u.com 2023-04-20 08:26:35 more
  • 云時代,MySQL到ClickHouse資料同步產品對比推薦

    ClickHouse 在執行分析查詢時的速度優勢很好的彌補了MySQL的不足,但是對于很多開發者和DBA來說,如何將MySQL穩定、高效、簡單的同步到 ClickHouse 卻很困難。本文對比了 NineData、MaterializeMySQL(ClickHouse自帶)、Bifrost 三款產品... ......

    uj5u.com 2023-04-20 08:26:29 more
  • sql陳述句優化

    問題查找及措施 問題查找 需要找到具體的代碼,對其進行一對一優化,而非一直把關注點放在服務器和sql平臺 降低簡化每個事務中處理的問題,盡量不要讓一個事務拖太長的時間 例如檔案上傳時,應將檔案上傳這一步放在事務外面 微軟建議 4.啟動sql定時執行計劃 怎么啟動sqlserver代理服務-百度經驗 ......

    uj5u.com 2023-04-20 08:25:13 more
  • Redis 報”OutOfDirectMemoryError“(堆外記憶體溢位)

    Redis 報錯“OutOfDirectMemoryError(堆外記憶體溢位) ”問題如下: 一、報錯資訊: 使用 Redis 的業務介面 ,產生 OutOfDirectMemoryError(堆外記憶體溢位),如圖: 格式化后的報錯資訊: { "timestamp": "2023-04-17 22: ......

    uj5u.com 2023-04-20 08:24:54 more
  • day02-2-商鋪查詢快取

    功能02-商鋪查詢快取 3.商鋪詳情快取查詢 3.1什么是快取? 快取就是資料交換的緩沖區(稱作Cache),是存盤資料的臨時地方,一般讀寫性能較高。 快取的作用: 降低后端負載 提高讀寫效率,降低回應時間 快取的成本: 資料一致性成本 代碼維護成本 運維成本 3.2需求說明 如下,當我們點擊商店詳 ......

    uj5u.com 2023-04-20 08:24:03 more
  • day02-短信登錄

    功能實作02 2.功能01-短信登錄 2.1基于Session實作登錄 2.1.1思路分析 2.1.2代碼實作 2.1.2.1發送短信驗證碼 發送短信驗證碼: 發送驗證碼的介面為:http://127.0.0.1:8080/api/user/code?phone=xxxxx<手機號> 請求方式:PO ......

    uj5u.com 2023-04-20 08:23:11 more