主頁 > 軟體設計 > 記憶體耗盡后Redis會發生什么

記憶體耗盡后Redis會發生什么

2021-02-16 15:34:47 軟體設計

要想用活Redis,Lua腳本是繞不過去的坎

  • 前言
  • 記憶體回收
    • 過期策略
    • 8 種淘汰策略
    • LRU 演算法
      • Redis 改進后的 LRU 演算法
      • Redis 如何管理熱度資料
    • LFU 演算法
      • 訪問頻次遞增
      • 訪問頻次遞減
  • 總結

前言

作為一臺服務器來說,記憶體并不是無限的,所以總會存在記憶體耗盡的情況,那么當 Redis 服務器的記憶體耗盡后,如果繼續執行請求命令,Redis 會如何處理呢?

記憶體回收

使用Redis 服務時,很多情況下某些鍵值對只會在特定的時間內有效,為了防止這種型別的資料一直占有記憶體,我們可以給鍵值對設定有效期,Redis 中可以通過 4 個獨立的命令來給一個鍵設定過期時間:

  • expire key ttl:將 key 值的過期時間設定為 ttl
  • pexpire key ttl:將 key 值的過期時間設定為 ttl 毫秒
  • expireat key timestamp:將 key 值的過期時間設定為指定的 timestamp 秒數
  • pexpireat key timestamp:將 key 值的過期時間設定為指定的 timestamp 毫秒數

PS:不管使用哪一個命令,最終 Redis 底層都是使用 pexpireat 命令來實作的,另外,set 等命令也可以設定 key 的同時加上過期時間,這樣可以保證設值和設過期時間的原子性,

設定了有效期后,可以通過 ttlpttl 兩個命令來查詢剩余過期時間(如果未設定過期時間則下面兩個命令回傳 -1,如果設定了一個非法的過期時間,則都回傳 -2):

  • ttl key 回傳 key 剩余過期秒數,
  • pttl key 回傳 key 剩余過期的毫秒數,

過期策略

如果將一個過期的鍵洗掉,我們一般都會有三種策略:

  • 定時洗掉:為每個鍵設定一個定時器,一旦過期時間到了,則將鍵洗掉,這種策略對記憶體很友好,但是對 CPU 不友好,因為每個定時器都會占用一定的 CPU 資源,
  • 惰性洗掉:不管鍵有沒有過期都不主動洗掉,等到每次去獲取鍵時再判斷是否過期,如果過期就洗掉該鍵,否則回傳鍵對應的值,這種策略對記憶體不夠友好,可能會浪費很多記憶體,
  • 定期掃描:系統每隔一段時間就定期掃描一次,發現過期的鍵就進行洗掉,這種策略相對來說是上面兩種策略的折中方案,需要注意的是這個定期的頻率要結合實際情況掌控好,使用這種方案有一個缺陷就是可能會出現已經過期的鍵也被回傳,

Redis 當中,其選擇的是策略 2 和策略 3 的綜合使用,不過 Redis 的定期掃描只會掃描設定了過期時間的鍵,因為設定了過期時間的鍵 Redis 會單獨存盤,所以不會出現掃描所有鍵的情況:

typedef struct redisDb {
    dict *dict; //所有的鍵值對
    dict *expires; //設定了過期時間的鍵值對
   dict *blocking_keys; //被阻塞的key,如客戶端執行BLPOP等阻塞指令時
   dict *watched_keys; //WATCHED keys
   int id; //Database ID
   //... 省略了其他屬性
} redisDb;

8 種淘汰策略

假如 Redis 當中所有的鍵都沒有過期,而且此時記憶體滿了,那么客戶端繼續執行 set 等命令時 Redis 會怎么處理呢?Redis 當中提供了不同的淘汰策略來處理這種場景,

首先 Redis 提供了一個引數 maxmemory 來配置 Redis 最大使用記憶體:

maxmemory <bytes>

或者也可以通過命令 config set maxmemory 1GB 來動態修改,

如果沒有設定該引數,那么在 32 位的作業系統中 Redis 最多使用 3GB 記憶體,而在 64 位的作業系統中則不作限制,

Redis 中提供了 8 種淘汰策略,可以通過引數 maxmemory-policy 進行配置:

淘汰策略說明
volatile-lru根據 LRU 演算法洗掉設定了過期時間的鍵,直到騰出可用空間,如果沒有可洗掉的鍵物件,且記憶體還是不夠用時,則報錯
allkeys-lru根據 LRU 演算法洗掉所有的鍵,直到騰出可用空間,如果沒有可洗掉的鍵物件,且記憶體還是不夠用時,則報錯
volatile-lfu根據 LFU 演算法洗掉設定了過期時間的鍵,直到騰出可用空間,如果沒有可洗掉的鍵物件,且記憶體還是不夠用時,則報錯
allkeys-lfu根據 LFU 演算法洗掉所有的鍵,直到騰出可用空間,如果沒有可洗掉的鍵物件,且記憶體還是不夠用時,則報錯
volatile-random隨機洗掉設定了過期時間的鍵,直到騰出可用空間,如果沒有可洗掉的鍵物件,且記憶體還是不夠用時,則報錯
allkeys-random隨機洗掉所有鍵,直到騰出可用空間,如果沒有可洗掉的鍵物件,且記憶體還是不夠用時,則報錯
volatile-ttl根據鍵值物件的 ttl 屬性, 洗掉最近將要過期資料, 如果沒有,則直接報錯
noeviction默認策略,不作任何處理,直接報錯

PS:淘汰策略也可以直接使用命令 config set maxmemory-policy <策略> 來進行動態配置,

LRU 演算法

LRU 全稱為:Least Recently Used,即:最近最長時間未被使用,這個主要針對的是使用時間,

Redis 改進后的 LRU 演算法

Redis 當中,并沒有采用傳統的 LRU 演算法,因為傳統的 LRU 演算法存在 2 個問題:

  • 需要額外的空間進行存盤,
  • 可能存在某些 key 值使用很頻繁,但是最近沒被使用,從而被 LRU 演算法洗掉,

為了避免以上 2 個問題,Redis 當中對傳統的 LRU 演算法進行了改造,通過抽樣的方式進行洗掉

組態檔中提供了一個屬性 maxmemory_samples 5,默認值就是 5,表示隨機抽取 5key 值,然后對這 5key 值按照 LRU 演算法進行洗掉,所以很明顯,key 值越大,洗掉的準確度越高,

對抽樣 LRU 演算法和傳統的 LRU 演算法,Redis 官網當中有一個對比圖:

  • 淺灰色帶是被洗掉的物件,

  • 灰色帶是未被洗掉的物件,

  • 綠色是添加的物件,

    在這里插入圖片描述

左上角第一幅圖代表的是傳統 LRU 演算法,可以看到,當抽樣數達到 10 個(右上角),已經和傳統的 LRU 演算法非常接近了,

Redis 如何管理熱度資料

前面我們講述字串物件時,提到了 redisObject 物件中存在一個 lru 屬性:

typedef struct redisObject {
    unsigned type:4;//物件型別(4位=0.5位元組)
    unsigned encoding:4;//編碼(4位=0.5位元組)
    unsigned lru:LRU_BITS;//記錄物件最后一次被應用程式訪問的時間(24位=3位元組)
    int refcount;//參考計數,等于0時表示可以被垃圾回收(32位=4位元組)
    void *ptr;//指向底層實際的資料存盤結構,如:SDS等(8位元組)
} robj;

lru 屬性是創建物件的時候寫入,物件被訪問到時也會進行更新,正常人的思路就是最后決定要不要洗掉某一個鍵肯定是用當前時間戳減去 lru,差值最大的就優先被洗掉,但是 Redis 里面并不是這么做的,Redis 中維護了一個全域屬性 lru_clock,這個屬性是通過一個全域函式 serverCron 每隔 100 毫秒執行一次來更新的,記錄的是當前 unix 時間戳,

最后決定洗掉的資料是通過 lru_clock 減去物件的 lru 屬性而得出的,那么為什么 Redis 要這么做呢?直接取全域時間不是更準確嗎?

這是因為這么做可以避免每次更新物件的 lru 屬性的時候可以直接取全域屬性,而不需要去呼叫系統函式來獲取系統時間,從而提升效率(Redis 當中有很多這種細節考慮來提升性能,可以說是對性能盡可能的優化到極致),

不過這里還有一個問題,我們看到,redisObject 物件中的 lru 屬性只有 24 位,24 位只能存盤 194 天的時間戳大小,一旦超過 194 天之后就會重新從 0 開始計算,所以這時候就可能會出現 redisObject 物件中的 lru 屬性大于全域的 lru_clock 屬性的情況,

正因為如此,所以計算的時候也需要分為 2 種情況:

  • 當全域 lruclock > lru,則使用 lruclock - lru 得到空閑時間,
  • 當全域 lruclock < lru,則使用 lruclock_max(即 194 天) - lru + lruclock 得到空閑時間,

需要注意的是,這種計算方式并不能保證抽樣的資料中一定能洗掉空閑時間最長的,這是因為首先超過 194 天還不被使用的情況很少,再次只有 lruclock2 輪繼續超過 lru 屬性時,計算才會出問題,

比如物件 A 記錄的 lru1 天,而 lruclock 第二輪都到 10 天了,這時候就會導致計算結果只有 10-1=9 天,實際上應該是 194+10-1=203 天,但是這種情況可以說又是更少發生,所以說這種處理方式是可能存在洗掉不準確的情況,但是本身這種演算法就是一種近似的演算法,所以并不會有太大影響,

LFU 演算法

LFU 全稱為:Least Frequently Used,即:最近最少頻率使用,這個主要針對的是使用頻率,這個屬性也是記錄在redisObject 中的 lru 屬性內,

當我們采用 LFU 回收策略時,lru 屬性的高 16 位用來記錄訪問時間(last decrement time:ldt,單位為分鐘),低 8 位用來記錄訪問頻率(logistic counter:logc),簡稱 counter

訪問頻次遞增

LFU 計數器每個鍵只有 8 位,它能表示的最大值是 255,所以 Redis 使用的是一種基于概率的對數器來實作 counter 的遞增,r

給定一個舊的訪問頻次,當一個鍵被訪問時,counter 按以下方式遞增:

  1. 提取 01 之間的亂數 R
  2. counter - 初始值(默認為 5),得到一個基礎差值,如果這個差值小于 0,則直接取 0,為了方便計算,把這個差值記為 baseval
  3. 概率 P 計算公式為:1/(baseval * lfu_log_factor + 1)
  4. 如果 R < P 時,頻次進行遞增(counter++),

公式中的 lfu_log_factor 稱之為對數因子,默認是 10 ,可以通過引數來進行控制:

lfu_log_factor 10

下圖就是對數因子 lfu_log_factor 和頻次 counter 增長的關系圖:

在這里插入圖片描述

可以看到,當對數因子 lfu_log_factor100 時,大概是 10M(1000萬) 次訪問才會將訪問 counter 增長到 255,而默認的 10 也能支持到 1M(100萬) 次訪問 counter 才能達到 255 上限,這在大部分場景都是足夠滿足需求的,

訪問頻次遞減

如果訪問頻次 counter 只是一直在遞增,那么遲早會全部都到 255,也就是說 counter 一直遞增不能完全反應一個 key 的熱度的,所以當某一個 key 一段時間不被訪問之后,counter 也需要對應減少,

counter 的減少速度由引數 lfu-decay-time 進行控制,默認是 1,單位是分鐘,默認值 1 表示:N 分鐘內沒有訪問,counter 就要減 N

lfu-decay-time 1

具體演算法如下:

  1. 獲取當前時間戳,轉化為分鐘后取低 16 位(為了方便后續計算,這個值記為 now),
  2. 取出物件內的 lru 屬性中的高 16 位(為了方便后續計算,這個值記為 ldt),
  3. lru > now 時,默認為過了一個周期(16 位,最大 65535),則取差值 65535-ldt+now:當 lru <= now 時,取差值 now-ldt(為了方便后續計算,這個差值記為 idle_time),
  4. 取出組態檔中的 lfu_decay_time 值,然后計算:idle_time / lfu_decay_time(為了方便后續計算,這個值記為num_periods),
  5. 最后將counter減少:counter - num_periods

看起來這么復雜,其實計算公式就是一句話:取出當前的時間戳和物件中的 lru 屬性進行對比,計算出當前多久沒有被訪問到,比如計算得到的結果是 100 分鐘沒有被訪問,然后再去除配置引數 lfu_decay_time,如果這個配置默認為 1也即是 100/1=100,代表 100 分鐘沒訪問,所以 counter 就減少 100

總結

本文主要介紹了 Redis 過期鍵的處理策略,以及當服務器記憶體不夠時 Redis8 種淘汰策略,最后介紹了 Redis 中的兩種主要的淘汰演算法 LRULFU

轉載請註明出處,本文鏈接:https://www.uj5u.com/ruanti/260108.html

標籤:其他

上一篇:為實習準備的資料結構(10)-- 哈希散串列

下一篇:全網最詳解Spring Security登錄原理(帶你看源代碼)

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 面試突擊第一季,第二季,第三季

    第一季必考 https://www.bilibili.com/video/BV1FE411y79Y?from=search&seid=15921726601957489746 第二季分布式 https://www.bilibili.com/video/BV13f4y127ee/?spm_id_fro ......

    uj5u.com 2020-09-10 05:35:24 more
  • 第三單元作業總結

    1.前言 這應該是本學期最后一次寫作業總結了吧。總體來說,對作業的節奏也差不多掌握了,作業做起來的效率也更高了。雖然和之前的作業一樣,作業中都要用到新的知識,但是相比之前,更加懂得了如何利用工具以及資料。雖然之間卡過殼,但總體而言,這幾次作業還算完成的比較好。 2.作業程序總結 相比前兩個單元,此單 ......

    uj5u.com 2020-09-10 05:35:41 more
  • 北航OO(2020)第四單元博客作業暨課程總結博客

    北航OO(2020)第四單元博客作業暨課程總結博客 本單元作業的架構設計 在本單元中,由于UML圖具有比較清晰的樹形結構,因此我對其中需要進行查詢操作的元素進行了包裝,在樹的父節點中存盤所有孩子的參考。考慮到性能問題,我采用了快取機制,一次查詢后盡可能快取已經遍歷過的資訊,以減少遍歷次數。 本單元我 ......

    uj5u.com 2020-09-10 05:35:48 more
  • BUAA_OO_第四單元

    一、UML決議器設計 ? 先看下題目:第四單元實作一個基于JDK 8帶有效性檢查的UML(Unified Modeling Language)類圖,順序圖,狀態圖分析器 MyUmlInteraction,實際上我們要建立一個有向圖模型,UML中的物件(元素)可能與同級元素連接,也可與低級元素相連形成 ......

    uj5u.com 2020-09-10 05:35:54 more
  • 6.1邏輯運算子

    邏輯運算子 1. && 短路與 運算式1 && 運算式2 01.運算式1為true并且運算式2也為true 整體回傳為true 02.運算式1為false,將不會執行運算式2 整體回傳為false 03.只要有一個運算式為false 整體回傳為false 2. || 短路或 運算式1 || 運算式2 ......

    uj5u.com 2020-09-10 05:35:56 more
  • BUAAOO 第四單元 & 課程總結

    1. 第四單元:StarUml檔案決議 本單元采用了圖模型決議UML。 UML檔案可以抽象為圖、子圖、邊的邏輯結構。 在實作中,圖的節點包括類、介面、屬性,子圖包括狀態圖、順序圖等。 采用了三次遍歷UML元素的方法建圖,第一遍遍歷建點,第二、三次遍歷設定屬性、連邊,實作圖物件的初始化。這里借鑒了一些 ......

    uj5u.com 2020-09-10 05:36:06 more
  • 談談我對C# 多型的理解

    面向物件三要素:封裝、繼承、多型。 封裝和繼承,這兩個比較好理解,但要理解多型的話,可就稍微有點難度了。今天,我們就來講講多型的理解。 我們應該經常會看到面試題目:請談談對多型的理解。 其實呢,多型非常簡單,就一句話:呼叫同一種方法產生了不同的結果。 具體實作方式有三種。 一、多載 多載很簡單。 p ......

    uj5u.com 2020-09-10 05:36:09 more
  • Python 資料驅動工具:DDT

    背景 python 的unittest 沒有自帶資料驅動功能。 所以如果使用unittest,同時又想使用資料驅動,那么就可以使用DDT來完成。 DDT是 “Data-Driven Tests”的縮寫。 資料:http://ddt.readthedocs.io/en/latest/ 使用方法 dd. ......

    uj5u.com 2020-09-10 05:36:13 more
  • Python里面的xlrd模塊詳解

    那我就一下面積個問題對xlrd模塊進行學習一下: 1.什么是xlrd模塊? 2.為什么使用xlrd模塊? 3.怎樣使用xlrd模塊? 1.什么是xlrd模塊? ?python操作excel主要用到xlrd和xlwt這兩個庫,即xlrd是讀excel,xlwt是寫excel的庫。 今天就先來說一下xl ......

    uj5u.com 2020-09-10 05:36:28 more
  • 當我們創建HashMap時,底層到底做了什么?

    jdk1.7中的底層實作程序(底層基于陣列+鏈表) 在我們new HashMap()時,底層創建了默認長度為16的一維陣列Entry[ ] table。當我們呼叫map.put(key1,value1)方法向HashMap里添加資料的時候: 首先,呼叫key1所在類的hashCode()計算key1 ......

    uj5u.com 2020-09-10 05:36:38 more
最新发布
  • 【中介者設計模式詳解】C/Java/JS/Go/Python/TS不同語言實作

    * 中介者模式是一種行為型設計模式,它可以用來減少類之間的直接依賴關系,
    * 將物件之間的通信封裝到一個中介者物件中,從而使得各個物件之間的關系更加松散。
    * 在中介者模式中,物件之間不再直接相互互動,而是通過中介者來中轉訊息。 ......

    uj5u.com 2023-04-20 08:20:47 more
  • 露天煤礦現場調研和交流案例分享

    他們集團的資訊化公司及研究院在一個礦區正在做智能礦山的統一平臺的 試點,專案投資大概1億,包括了礦山的各方面的內容,顯示得我們這次交流有點多余。他們2年前開始做智能礦山的規劃,有很多煤礦行業專家的加持,他們的描述是非常完美,但是去年底應該上線的平臺,現在還沒有看到影子。他們確實有很多場景需求,但是被... ......

    uj5u.com 2023-04-20 08:20:25 more
  • 《社區人員管理》實戰案例設計&個人案例分享

    設計是一個讓人夢想成真程序,開始編碼、測驗、除錯之前進行需求分析和架構設計,才能保證關鍵方面都做正確 ......

    uj5u.com 2023-04-20 08:20:17 more
  • 軟體架構生態化-多角色交付的探索實踐

    作為一個技術架構師,不僅僅要緊跟行業技術趨勢,還要結合研發團隊現狀及痛點,探索新的交付方案。在日常中,你是否遇到如下問題 “ 業務需求排期長研發是瓶頸;非研發角色感受不到研發技改提效的變化;引入ISV 團隊又擔心質量和安全,培訓周期長“等等,基于此我們探索了一種新的技術體系及交付方案來解決如上問題。 ......

    uj5u.com 2023-04-20 08:20:10 more
  • 【中介者設計模式詳解】C/Java/JS/Go/Python/TS不同語言實作

    * 中介者模式是一種行為型設計模式,它可以用來減少類之間的直接依賴關系,
    * 將物件之間的通信封裝到一個中介者物件中,從而使得各個物件之間的關系更加松散。
    * 在中介者模式中,物件之間不再直接相互互動,而是通過中介者來中轉訊息。 ......

    uj5u.com 2023-04-20 08:19:44 more
  • 露天煤礦現場調研和交流案例分享

    他們集團的資訊化公司及研究院在一個礦區正在做智能礦山的統一平臺的 試點,專案投資大概1億,包括了礦山的各方面的內容,顯示得我們這次交流有點多余。他們2年前開始做智能礦山的規劃,有很多煤礦行業專家的加持,他們的描述是非常完美,但是去年底應該上線的平臺,現在還沒有看到影子。他們確實有很多場景需求,但是被... ......

    uj5u.com 2023-04-20 08:19:07 more
  • 《社區人員管理》實戰案例設計&個人案例分享

    設計是一個讓人夢想成真程序,開始編碼、測驗、除錯之前進行需求分析和架構設計,才能保證關鍵方面都做正確 ......

    uj5u.com 2023-04-20 08:18:57 more
  • 軟體架構生態化-多角色交付的探索實踐

    作為一個技術架構師,不僅僅要緊跟行業技術趨勢,還要結合研發團隊現狀及痛點,探索新的交付方案。在日常中,你是否遇到如下問題 “ 業務需求排期長研發是瓶頸;非研發角色感受不到研發技改提效的變化;引入ISV 團隊又擔心質量和安全,培訓周期長“等等,基于此我們探索了一種新的技術體系及交付方案來解決如上問題。 ......

    uj5u.com 2023-04-20 08:18:49 more
  • 05單件模式

    #經典的單件模式 public class Singleton { private static Singleton uniqueInstance; //一個靜態變數持有Singleton類的唯一實體。 // 其他有用的實體變數寫在這里 //構造器宣告為私有,只有Singleton可以實體化這個類! ......

    uj5u.com 2023-04-19 08:42:51 more
  • 【架構與設計】常見微服務分層架構的區別和落地實踐

    軟體工程的方方面面都遵循一個最基本的道理:沒有銀彈,架構分層模型更是如此,每一種都有各自優缺點,所以請根據不同的業務場景,并遵循簡單、可演進這兩個重要的架構原則選擇合適的架構分層模型即可。 ......

    uj5u.com 2023-04-19 08:42:41 more