主頁 > 軟體設計 > Redis 基礎知識介紹

Redis 基礎知識介紹

2021-09-09 16:15:53 軟體設計

Redis 基礎知識介紹

NoSql

  • 海量用戶+高并發,會造成服務器癱瘓,主要原因就是使用的是關系型資料庫
原因
  • 1.性能瓶頸:磁盤IO性能低下
    • 關系型資料庫存取資料的時候是要通過磁盤IO的,磁盤的性能本身是比較低的
  • 2.擴展瓶頸:資料關系復雜,擴展性差,不便于大規模集群
    • 關系型資料庫表與表的關系非常復雜,十分影響查詢效率,這個情況下,進行擴展也是十分困難的
解決思路
  • 1.降低磁盤IO次數,越低越好
    • 使用記憶體存盤,大大提高效率
  • 2.去除資料間的關系,越簡單越好
    • 去除關系,只存資料

這就是NoSql

NoSql概念
  • NoSQL:即 Not-Only SQL( 泛指非關系型的資料庫),作為關系型資料庫的補充, 作用:應對基于海量用戶和海量資料前提下的資料處理問題,

  • 特征

    • 可擴容,可伸縮,大資料量下高性能,直接對記憶體進行操作
    • 靈活的資料模型、高可用,自己設計了資料存盤格式,保證效率比較高,
  • 常見NoSql資料庫

    • Redis、memcache、HBase、MongoDB

Redis

概念
  • 概念:Redis (REmote DIctionary Server) 是用 C 語言開發的一個開源的高性能鍵值對(key-value)資料庫,
特征
  • 1.資料間沒有必然的關聯關系

  • 2.內部采用單執行緒機制進行作業

  • 3.高性能,官方提供測驗資料,50個并發執行100000 個請求,讀的速度是110000 次/s,寫的速度是81000次/s,

  • 4.多資料型別支持

    • 字串型別,string list

    • 串列型別,hash set

    • 散列型別,zset/sorted_set

    • 集合型別

    • 有序集合型別

  • 5.支持持久化,可以進行資料災難恢復

應用場景
  • 1.為熱點資料加速查詢(主要場景),如熱點商品,熱點新聞,熱點資訊,推廣類等高訪問量資訊等
  • 2.即時資訊查詢,如各類排行榜、各類網站訪問統計、公交到站資訊、在線人數資訊(聊天室、網站)、設備信號等
  • 3.時效性資訊控制,如驗證碼控制,投票控制等,
  • 4.分布式資料共享,如分布式集群架構中的session分離
  • 5.訊息佇列--已經榷訓

Redis的使用

#啟動服務器,默認啟動埠為6379
redis-server
#啟動服務器,指定6380埠啟動
redis-server --port 6380
#啟動客戶端,默認連接6379埠  redis-cli [-h host] [-p port] 
redis-cli
#啟動客戶端,指定6380埠連接
redis-cli -p 6380

持久化

什么是持久化
  • 利用永久性存盤介質將資料進行保存,在特定的時間將保存的資料進行恢復的作業機制成為持久化
  • 持久化用于防止資料的意外丟失,確保資料安全性
持久化程序保存什么
  • 將當前資料狀態進行保存,快照形式,存盤資料結果,存盤格式簡單,關注點在資料---RDB
  • 將資料的操作程序進行保存,日志形式,存盤操作程序,存盤格式復雜,關注點在資料的操作程序---AOF

RDB

  • sava指令

    • reids是單執行緒的,多臺客戶端同時操作redis會創建一個任務佇列,save指令的執行會阻塞當前的redis服務器,直到當前RDB程序完成為止,有可能長時間阻塞,線上環境不建議使用
  • bgsave指令

    • 1.指令bgsave指令,會先向redis發送指令
    • 2.redis會回傳一個后臺保存開始執行 的訊息
    • 3.redis會去呼叫fork函式生成一個子行程
    • 4.然后去創建rdb檔案
    • 5.最終redis回傳執行結果
    • 注意:bgsave命令是針對save阻塞問題做的優化,redis內部所有涉及到RDB的操作都使用bgsave指令進行操作,save命令可以放棄使用

  • save配置
  • 設定自動持久化的條件,滿足限定時間范圍內key的變化數量達到指定數量即進行持久化
#second:監控時間范圍  changes:監控key的變化量
save second changes
save 10 2
  • 從redis啟動開始,如果十秒內key變化2次,在第十秒的時候直接保存操作,后臺也還是bgsave進行保存
  • 如果在十秒內變化了一次,那么redis會在變化第二次的時候進行后臺保存操作,第二個周期會在第一次保存的時候開始計時
  • 注意:save配置要根據實際業務情況進行設定,頻度過高或者過低都會出現性能問題,結果可能是災難性的,save配置啟動后執行的是bgsave操作

  • RDB特殊啟動形式

    • 服務器運行程序中重啟
    debug reload
    
    • 關閉服務器時指定保存資料
    shutdown save
    
  • RDB優點

    • RDB是一個緊湊壓縮的二進制檔案,存盤效率較高
    • RDB內部存盤的是redis在某個時間點的資料快照,非常適合用于資料備份,全量復制等場景
    • RDB恢復資料的速度要比AOF快很多
    • 應用:服務器中每X小時會執行bgsave備份,并將RDB檔案拷貝到遠程機器中,用于災難恢復
  • RDB缺點

    • RDB方式無論是執行指令還是利用配置,無法做到實時持久化,具有較大的可能性丟失資料
    • bgsave指令每次運行要執行fork操作創建子行程,要犧牲一些性能
    • redis的眾多版本中未進行RDB檔案格式的版本統一,有可能出現版本服務器之間資料格式無法兼容的現象--解決方案就是 匯出來存到word或者Excel中,再匯入回去即可,
  • RDB存盤的弊端

    • 存盤資料量較大,效率較低,基于快照思想,每次讀寫都是全部資料,當資料量巨大時,效率非常低
    • 大資料量下的IO性能較低
    • 基于fork創建子行程,記憶體產生額外消耗
    • 宕機帶來的資料丟失風險
    • 解決思路:
      • 不寫全資料,僅僅記錄部分資料
      • 降低區分資料是否改變的難度,改記錄資料為記錄操作程序
      • 對所有操作均進行記錄,排除丟失資料的風險

AOF

  • AOF持久化:以獨立日志的方式記錄每次寫命令,重啟時再重新執行AOF檔案中命令達到恢復資料的目的,與RDB相比可以簡單理解為由記錄資料改為記錄資料變化
  • AOF的主要作用就是解決了資料持久化的實時性,目前已經是redis持久化的主流方式

AOF重寫

  • 重寫指令
    • 存入元素后進行重寫
bgrewriteaof
  • 自動重寫

RDB與AOF區別

資料洗掉策略

定時洗掉
  • 創建一個定時器,當key設定有過期時間,且過期時間到達時,由定時器任務立即執行對鍵的洗掉操作
  • 優點:節約記憶體,到時就洗掉,快速釋放掉不必要的記憶體占用
  • 缺點:CPU壓力很大,無論CPU此時負載量多高,均占用CPU,會影響redis服務器回應時間和指令吞吐量
  • 總結:用處理器性能換取存盤空間(拿時間換空間)
惰性洗掉

資料到達過期時間,不做處理,等下次訪問該資料時,我們需要判斷

  1. 如果未過期,回傳資料
  2. 發現已過期,洗掉,回傳不存在
  • 優點:節約CPU性能,發現必須洗掉的時候才洗掉
  • 缺點:記憶體壓力很大,出現長期占用記憶體的資料
  • 總結:用存盤空間換取處理器性能(拿空間換時間)
定期洗掉

定時洗掉和惰性洗掉這兩種方案都是走的極端,那有沒有折中方案?

我們來講redis的定期洗掉方案:

  • Redis啟動服務器初始化時,讀取配置server.hz的值,默認為10
  • 每秒鐘執行server.hz次serverCron()-------->databasesCron()--------->activeExpireCycle()
  • activeExpireCycle()對每個expires[*]逐一進行檢測,每次執行耗時:250ms/server.hz
  • 對某個expires[*]檢測時,隨機挑選W個key檢測
  如果key超時,洗掉key

  如果一輪中洗掉的key的數量>W*25%,回圈該程序

  如果一輪中洗掉的key的數量≤W*25%,檢查下一個expires[*],0-15回圈

  W取值=ACTIVE_EXPIRE_CYCLE_LOOKUPS_PER_LOOP屬性值
  • 引數current_db用于記錄activeExpireCycle() 進入哪個expires[*] 執行
  • 如果activeExpireCycle()執行時間到期,下次從current_db繼續向下執行

總的來說:定期洗掉就是周期性輪詢redis庫中的時效性資料,采用隨機抽取的策略,利用過期資料占比的方式控制洗掉頻度

  • 特點1:CPU性能占用設定有峰值,檢測頻度可自定義設定
  • 特點2:記憶體壓力不是很大,長期占用記憶體的冷資料會被持續清理
  • 總結:周期性抽查存盤空間(隨機抽查,重點抽查)

資料淘汰策略(逐出演算法)

概述

什么叫資料淘汰策略?什么樣的應用場景需要用到資料淘汰策略?

當新資料進入redis時,如果記憶體不足怎么辦?在執行每一個命令前,會呼叫freeMemoryIfNeeded()檢測記憶體是否充足,如果記憶體不滿足新 加入資料的最低存盤要求,redis要臨時洗掉一些資料為當前指令清理存盤空間,清理資料的策略稱為逐出演算法,

注意:逐出資料的程序不是100%能夠清理出足夠的可使用的記憶體空間,如果不成功則反復執行,當對所有資料嘗試完畢, 如不能達到記憶體清理的要求,將出現錯誤資訊如下

(error) OOM command not allowed when used memory >'maxmemory'

轉載請註明出處,本文鏈接:https://www.uj5u.com/ruanti/298812.html

標籤:其他

上一篇:OOP in JavaScript

下一篇:架構的目的

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 面試突擊第一季,第二季,第三季

    第一季必考 https://www.bilibili.com/video/BV1FE411y79Y?from=search&seid=15921726601957489746 第二季分布式 https://www.bilibili.com/video/BV13f4y127ee/?spm_id_fro ......

    uj5u.com 2020-09-10 05:35:24 more
  • 第三單元作業總結

    1.前言 這應該是本學期最后一次寫作業總結了吧。總體來說,對作業的節奏也差不多掌握了,作業做起來的效率也更高了。雖然和之前的作業一樣,作業中都要用到新的知識,但是相比之前,更加懂得了如何利用工具以及資料。雖然之間卡過殼,但總體而言,這幾次作業還算完成的比較好。 2.作業程序總結 相比前兩個單元,此單 ......

    uj5u.com 2020-09-10 05:35:41 more
  • 北航OO(2020)第四單元博客作業暨課程總結博客

    北航OO(2020)第四單元博客作業暨課程總結博客 本單元作業的架構設計 在本單元中,由于UML圖具有比較清晰的樹形結構,因此我對其中需要進行查詢操作的元素進行了包裝,在樹的父節點中存盤所有孩子的參考。考慮到性能問題,我采用了快取機制,一次查詢后盡可能快取已經遍歷過的資訊,以減少遍歷次數。 本單元我 ......

    uj5u.com 2020-09-10 05:35:48 more
  • BUAA_OO_第四單元

    一、UML決議器設計 ? 先看下題目:第四單元實作一個基于JDK 8帶有效性檢查的UML(Unified Modeling Language)類圖,順序圖,狀態圖分析器 MyUmlInteraction,實際上我們要建立一個有向圖模型,UML中的物件(元素)可能與同級元素連接,也可與低級元素相連形成 ......

    uj5u.com 2020-09-10 05:35:54 more
  • 6.1邏輯運算子

    邏輯運算子 1. && 短路與 運算式1 && 運算式2 01.運算式1為true并且運算式2也為true 整體回傳為true 02.運算式1為false,將不會執行運算式2 整體回傳為false 03.只要有一個運算式為false 整體回傳為false 2. || 短路或 運算式1 || 運算式2 ......

    uj5u.com 2020-09-10 05:35:56 more
  • BUAAOO 第四單元 & 課程總結

    1. 第四單元:StarUml檔案決議 本單元采用了圖模型決議UML。 UML檔案可以抽象為圖、子圖、邊的邏輯結構。 在實作中,圖的節點包括類、介面、屬性,子圖包括狀態圖、順序圖等。 采用了三次遍歷UML元素的方法建圖,第一遍遍歷建點,第二、三次遍歷設定屬性、連邊,實作圖物件的初始化。這里借鑒了一些 ......

    uj5u.com 2020-09-10 05:36:06 more
  • 談談我對C# 多型的理解

    面向物件三要素:封裝、繼承、多型。 封裝和繼承,這兩個比較好理解,但要理解多型的話,可就稍微有點難度了。今天,我們就來講講多型的理解。 我們應該經常會看到面試題目:請談談對多型的理解。 其實呢,多型非常簡單,就一句話:呼叫同一種方法產生了不同的結果。 具體實作方式有三種。 一、多載 多載很簡單。 p ......

    uj5u.com 2020-09-10 05:36:09 more
  • Python 資料驅動工具:DDT

    背景 python 的unittest 沒有自帶資料驅動功能。 所以如果使用unittest,同時又想使用資料驅動,那么就可以使用DDT來完成。 DDT是 “Data-Driven Tests”的縮寫。 資料:http://ddt.readthedocs.io/en/latest/ 使用方法 dd. ......

    uj5u.com 2020-09-10 05:36:13 more
  • Python里面的xlrd模塊詳解

    那我就一下面積個問題對xlrd模塊進行學習一下: 1.什么是xlrd模塊? 2.為什么使用xlrd模塊? 3.怎樣使用xlrd模塊? 1.什么是xlrd模塊? ?python操作excel主要用到xlrd和xlwt這兩個庫,即xlrd是讀excel,xlwt是寫excel的庫。 今天就先來說一下xl ......

    uj5u.com 2020-09-10 05:36:28 more
  • 當我們創建HashMap時,底層到底做了什么?

    jdk1.7中的底層實作程序(底層基于陣列+鏈表) 在我們new HashMap()時,底層創建了默認長度為16的一維陣列Entry[ ] table。當我們呼叫map.put(key1,value1)方法向HashMap里添加資料的時候: 首先,呼叫key1所在類的hashCode()計算key1 ......

    uj5u.com 2020-09-10 05:36:38 more
最新发布
  • 【中介者設計模式詳解】C/Java/JS/Go/Python/TS不同語言實作

    * 中介者模式是一種行為型設計模式,它可以用來減少類之間的直接依賴關系,
    * 將物件之間的通信封裝到一個中介者物件中,從而使得各個物件之間的關系更加松散。
    * 在中介者模式中,物件之間不再直接相互互動,而是通過中介者來中轉訊息。 ......

    uj5u.com 2023-04-20 08:20:47 more
  • 露天煤礦現場調研和交流案例分享

    他們集團的資訊化公司及研究院在一個礦區正在做智能礦山的統一平臺的 試點,專案投資大概1億,包括了礦山的各方面的內容,顯示得我們這次交流有點多余。他們2年前開始做智能礦山的規劃,有很多煤礦行業專家的加持,他們的描述是非常完美,但是去年底應該上線的平臺,現在還沒有看到影子。他們確實有很多場景需求,但是被... ......

    uj5u.com 2023-04-20 08:20:25 more
  • 《社區人員管理》實戰案例設計&個人案例分享

    設計是一個讓人夢想成真程序,開始編碼、測驗、除錯之前進行需求分析和架構設計,才能保證關鍵方面都做正確 ......

    uj5u.com 2023-04-20 08:20:17 more
  • 軟體架構生態化-多角色交付的探索實踐

    作為一個技術架構師,不僅僅要緊跟行業技術趨勢,還要結合研發團隊現狀及痛點,探索新的交付方案。在日常中,你是否遇到如下問題 “ 業務需求排期長研發是瓶頸;非研發角色感受不到研發技改提效的變化;引入ISV 團隊又擔心質量和安全,培訓周期長“等等,基于此我們探索了一種新的技術體系及交付方案來解決如上問題。 ......

    uj5u.com 2023-04-20 08:20:10 more
  • 【中介者設計模式詳解】C/Java/JS/Go/Python/TS不同語言實作

    * 中介者模式是一種行為型設計模式,它可以用來減少類之間的直接依賴關系,
    * 將物件之間的通信封裝到一個中介者物件中,從而使得各個物件之間的關系更加松散。
    * 在中介者模式中,物件之間不再直接相互互動,而是通過中介者來中轉訊息。 ......

    uj5u.com 2023-04-20 08:19:44 more
  • 露天煤礦現場調研和交流案例分享

    他們集團的資訊化公司及研究院在一個礦區正在做智能礦山的統一平臺的 試點,專案投資大概1億,包括了礦山的各方面的內容,顯示得我們這次交流有點多余。他們2年前開始做智能礦山的規劃,有很多煤礦行業專家的加持,他們的描述是非常完美,但是去年底應該上線的平臺,現在還沒有看到影子。他們確實有很多場景需求,但是被... ......

    uj5u.com 2023-04-20 08:19:07 more
  • 《社區人員管理》實戰案例設計&個人案例分享

    設計是一個讓人夢想成真程序,開始編碼、測驗、除錯之前進行需求分析和架構設計,才能保證關鍵方面都做正確 ......

    uj5u.com 2023-04-20 08:18:57 more
  • 軟體架構生態化-多角色交付的探索實踐

    作為一個技術架構師,不僅僅要緊跟行業技術趨勢,還要結合研發團隊現狀及痛點,探索新的交付方案。在日常中,你是否遇到如下問題 “ 業務需求排期長研發是瓶頸;非研發角色感受不到研發技改提效的變化;引入ISV 團隊又擔心質量和安全,培訓周期長“等等,基于此我們探索了一種新的技術體系及交付方案來解決如上問題。 ......

    uj5u.com 2023-04-20 08:18:49 more
  • 05單件模式

    #經典的單件模式 public class Singleton { private static Singleton uniqueInstance; //一個靜態變數持有Singleton類的唯一實體。 // 其他有用的實體變數寫在這里 //構造器宣告為私有,只有Singleton可以實體化這個類! ......

    uj5u.com 2023-04-19 08:42:51 more
  • 【架構與設計】常見微服務分層架構的區別和落地實踐

    軟體工程的方方面面都遵循一個最基本的道理:沒有銀彈,架構分層模型更是如此,每一種都有各自優缺點,所以請根據不同的業務場景,并遵循簡單、可演進這兩個重要的架構原則選擇合適的架構分層模型即可。 ......

    uj5u.com 2023-04-19 08:42:41 more