主頁 > 後端開發 > 小林求職記(五)上來就一連串的分布式快取提問,我有點上頭….

小林求職記(五)上來就一連串的分布式快取提問,我有點上頭….

2020-09-20 10:15:21 後端開發

前傳

小林求職記(四)不會吧不會吧,面試還真會問這些呀

在之前王哥的輔助之下,小明的簡歷成功被內推進到了王哥所在公司,由于一面就是王哥自己,所以簡單聊聊了便過去了,接下來,二面的面試官來了,

二面面試官看上去比較年輕的消瘦,戴著一副眼鏡,頭發比較稀疏,看上去像是有十多年經驗的樣子,兩人在一處安靜的地方坐了下來,開始了第二輪面試,

面試官:嗯嗯,你好,請先簡單自我介紹一下自己吧,

小林:嗯嗯,你好,我是XXXX,之前在XXX(此處省略200字介紹)

面試官點了點頭,一副迷之微笑的表情,然后低頭過了一遍簡歷的內容,直到看見了 “負責過電商系統的秒殺專案后端開發模塊,并且對于快取有過較為深入的研究”這么一行字眼,

面試官:我對你這上邊寫的秒殺專案和快取研究有些感興趣,想深入了解一下其中的細節點,

小林:嗯嗯,好的,

面試官:先從簡單問起吧,在秒殺業務場景中,你在下單的時候是如何防止庫存超賣發生的呢?

小林:嗯嗯,首先在活動開始之前,我們會進行一次商品庫存的預熱處理,將資料庫的資訊加載到redis中,然后扣除庫存的時候會在redis里面進行處理,最后當庫存為0的時候,會觸發一個方法去觸發關閉前端秒殺活動的開關,

每次當有用戶提交下單請求的時候,會先將請求通過mq來進行削峰,在進行扣除庫存的時候,會先更新redis里面的庫存量,最后再統一更新db,

面試官:為啥不直接更新db呢?

小林:像秒殺這種典型的高并發場景,直接對db層進行寫操作對資料庫的訪問壓力實在是太大了,并發量過大容易壓垮資料庫,

面試官:嗯嗯,那為什么要把庫存存盤在redis中呢?

小林:具體有兩個原因,首先第一點, redis的并發承載能力足以應付我上家公司的秒場景所需,還有一點非常重要的就是,redis是單執行緒模型,在做庫存減1操作的時候不會出現資料競爭導致商品超賣的情況發生,

小林求職記(五)上來就一連串的分布式快取提問,我有點上頭....在這里插入圖片描述

面試官似乎對小林說的這個redis單執行緒模型感到一些興趣了,于是又接著深入展開了對于快取部分的提問,

面試官:等等,既然你說了redis的并發承載能力強,但是又說是單執行緒模型,能解釋下為什么單執行緒模型下redis也能有較好的性能承載能力呢?

小林在面試之前正好準備了這方面的知識點內容,于是便拿出了自己以前所學習過的知識內容點進行了講解,

小林:redis采用了非阻塞網路IO模型,適合用于快速地操作邏輯,所謂的非阻塞網路io模型,這有點類似于java里面的nio,當有多個請求發送到服務端的時候,實際上會有一個檔案事件處理器同時監聽多個套接字,并且根據套接字目前執行的任務來關聯不同的事件處理器,

這些不同的套接字用于給事件處理器將其分發給不同的邏輯程式處理,事件處理器只需要將它們做系結即可,這些處理事件可能會并發地出現,但是io多路復用程式是會將所有產生的套接字都存入一個 有序且同步的佇列中(單執行緒的核心點),最后redis會有逐一地對這個佇列中的元素進行處理,

這里就是為啥單執行緒的原因,在一開始學習這塊知識點的時候,為了更好地深入理解,我去用了nio程式來做比對,

不同的套接字事件對應的處理器也聽類似的,例如說accept,read,write等事件,應對不同連接的時候處理邏輯也不同,

我當時是結合了實際業務來進行設計的,由于商品有多種,因此對于商品的庫存數目采用了key-value的結構,按照商品的id作為key,庫存作為value存盤,對于庫存的減少是采用了decr指令操作,這條指令實際上是一條原子性操作,之所以原子性操作是因為redis的單執行緒特性,

小林求職記(五)上來就一連串的分布式快取提問,我有點上頭....

面試官:嗯嗯,既然上邊你解釋到了redis是單執行緒模型,那么在使用redis的時候需要注意些什么嗎?或者說對于redis的存盤有什么優化技巧可以講解下嗎?

這時候小林想起了之前王哥發給他的一份面試筆記,上邊記錄了很多關于redis的知識點,其中就有提及到過這一點,

小林:嗯嗯,在redis6.0之前,redis還是處于一個單執行緒的狀態,我們就拿單執行緒版本的redis來說吧,

拒絕bigkey的出現場景首先key的值不宜設定地過大,盡量保證簡潔明了,減少對于記憶體的占用,通常來說,當一個單獨存盤的value值大于10kb的時候就會被認為是bigkey了,

實際上在redis的內部實作中, 對于 set  key  "some string" 這樣的指令而言,底層的c語言會自己構建一個稱為SDS的結構體(類似java里面的類物件)進行存盤,這個結構體包含了下邊資訊:

struct sdshdr {
int len;
int free;
char buf[];
}

 

內部沒有直接采用c語言自帶的字串,好處有以下幾點:減少原先繁瑣的記憶體擴增問題,(會根據初始化的值,提前給出更多的空間,避免出現空間溢位問題)

通過空間預分配機制來減少記憶體重分配問題,(其實記憶體重分配是一個非常復雜的程序,需要驚動到os作業系統層面的修改, 其中涉及到了非常復雜的操作,因此sds在初始化程序中盡量幫我們把這塊給優化處理) 針對bigkey而言,其實還有很多點可以注意;

1.對于hash,list,set,zset這類資料結構而言,盡量不要讓其數目超過5000個,假設我們存盤了一個大小為100萬元素的zset資料結構到redis中,并且設計了1小時過期的機制,那么在元素到期時候觸發 了洗掉操作,這將會對redis自身造成堵塞,

2.如何避免上述在洗掉程序中的堵塞情況?首先應該從根源上避免這類設計的存在,如果實際線上資料庫存在這類資料資訊,那么可以結合redis自身提供的機制 異步 洗掉機制 (需要redis4.0之后才具有)

3.bigkey是如何產生的?常見的產生bigkey場景:1)例如一些社交類產品,粉絲串列,為了減少對于db的訪問,會根據注冊用戶的id來系結相關的list結構存盤粉絲資訊,假若遇到了某些明星,大v,那么如果這個list沒有做過相關的調優處理就很容易轉換為一個bigkey,2)假設用list來存盤用戶快取資訊,當訪問量增加的時候也很容易產生bigkey,3)將相關的資料存盤到redis的一些復雜資料結構中(list,set相關型別)的時候,需要考慮,是否每個存盤項的欄位都有必要存入,如果是無關必要的欄位則可以忽略掉,

4.如何對bigkey做優化處理?如果線上已經有存在這種情況的話,不建議直接暴力洗掉,最好是通過一些拆解手段來做平滑過濾,例如說一個list拆解為多個list1,list2,list3,如果是個map的話也是可以拆解為多個小map,另外提取元素的時候不要隨意用hgetall這類占用網路帶寬資源的指令,

面試官:嗯嗯,那你們之前的專案組里面會有做一些禁止命令的設定嗎?防止某些不安全指令在線上環境產生造成危害,

小林:額,這個我就不是很清楚了,應該是要有的,平時沒有太過注意,

面試官:嗯嗯,其實我們這邊的生產環境是會精致實用keys,flushall,flushdb這類命令的,主要是通過rename機制來禁用掉它,

ps:可以借助redis內部的rename機制關閉危險指令的使用

通過修改redis.conf中的SECURITY項,在里頭新增以下幾行,即可實作對危險指令的禁用
rename-command FLUSHALL ""
rename-command FLUSHDB ""
rename-command CONFIG  "" 
rename-command KEYS    ""
對于命令的查詢推薦通過scan來替代keys

面試官:看來你對于redis還是有些研究的啊,那么你能講解下更深一些層次的快取嗎,例如說cpu層面的快取管理機制?

小林此時突然腦袋一片空白,在面試之前并沒有對作業系統底層的知識做過復習,一下子懵逼了,小林:這塊我不是太了解,,面試官:哦,那我簡單和你講解下吧,

cpu內部的其實經常會需要用到記憶體中的資料做運算和讀寫操作,但是cpu的計算性能和記憶體的計算性能差距非常巨大,針對這類密集型計算的物件,后續人類發明了“快取”的概念,早期的時候人們只發明了一級快取,后來又增加了L2,L3級別的快取,

將快取分為了L1,L2,L3,其速度值大小為L3<L2<L1,當cpu需要獲取資料的時候會先從自己的暫存器中提取資料,然后再從L1中查詢,L1都能查詢的快取資料若沒有命中,則會回傳到L2查詢,如果L2也查詢不到就會追溯到L3查詢,通常情況下L3中能夠命中80%的資料資訊,L3如果沒有命中資料則會到記憶體里面查詢,

為什么要分這么多級的快取?因為不同級別的快取速度差異都巨大,運算越快的快取制作難度越高,成本也越高,

為什么不把java程式存盤到cpu的多級快取中呢?別逗了,cpu的多級快取是資料內核層面的東西,java存盤的資料是屬于jvm虛擬機層面的玩意,兩者根本不在一個層面上,而且cpu的多級快取存盤空間相對于記憶體而言也非常小,

在面對這么多級的快取資料中,如何保證查詢資料的正確和有效呢?于是便有了一個叫做MESI的快取一致性協議,

小林求職記(五)上來就一連串的分布式快取提問,我有點上頭....

聽了面試官的簡單介紹后,小林似乎發現自己還是有部分知識體系存在不足之處,連上露出了尷尬而不失禮貌的微笑,


小林求職記(五)上來就一連串的分布式快取提問,我有點上頭....

面試官: 好吧,那我們繼續,你可以講解下之前自己在秒殺專案中使用到的快取設計方案嗎?例如說一些機器的部署方面?

小林:emmmm,讓我思考一下先(腦海中瘋狂回憶以前學過的筆記內容點和作業接觸點) (一兩分鐘后....) 嗯呢,我思緒準備好了,之前的專案中采用的是sentinel架構來進行設計redis存盤,

sentinel一共部署了三臺機器,一臺作為主機,另外兩臺作為從機器,每臺機器上邊都設立了一個哨兵的角色,當主節點出現例外的時候會有從節點來頂替,

以前在預發布環境曾經遇到過一個問題,當時是做容災模擬演練,當日模擬中將redis主節點和從節點之間的網路做了截斷操作,導致從節點的機器一直沒有和主節點的機器進行網路通信,于是此時便從從機器中選定了一臺機器作為主節點,在主從做切換期間redis服務曾經出現過例外中斷服務的情況,

小林求職記(五)上來就一連串的分布式快取提問,我有點上頭....

面試官:嗯嗯,那么請你講解下redis主從切換程序中可能會遇到哪些生產的例外問題呢?

小林:嗯嗯,我大概知道那么幾個常見的場景吧,例如說在一些結合redis用的分布式鎖,在這一時刻可能會失效,假設說秒殺活動的高峰期,主節點掛了,那么分布式鎖就會失效,可能會引發后續一連串可怕的事情發生,因此對于介面的壓測和限流是非常重要的, 

emm,還有的話例如說一些知識在redis中存盤并沒有實際落入db做持久化的資料也會丟失,假設一些購物車中存放的資料,可能會在主從切換中的那段時間里面突然發現 "加入購物車" 失效了!

面試官:嗯嗯,那么你對于主從切換中的選舉原理了解嗎?可以簡單介紹下嗎?

小林:emmm,這塊并不是特別了解,

ps:關于redis的sentinel架構采用到的raft選舉演算法考點 https://blog.csdn.net/sanwenyublog/article/details/53385616

面試官:好吧,那你在做redis設計的時候主要的目的還是為了防止請求進入到db層面,在這方面還有哪些細節點也需要注意到的嗎?

小林 : 需要注意一下快取的過期時間,假設某些熱點資料是同時存入到redis的話,那么它們的過期時間最好是能夠做成隨機值,防止出現時間到達后快取大面積失效,導致快取擊穿的情況大規模發生,

面試官:嗯嗯,關于快取的模塊大概就先問到這里吧,你還有什么需要問我嗎?

看來這次面試似乎小林在面試官前的表現已經達到了入職的技術要求,距離成功上岸似憾訓差一步之遙的感覺,

小林:嗯嗯,請問我還有機會嗎?

面試官:你先回家等下通知吧,我們這邊和hr商量一下再做決定,

轉載請註明出處,本文鏈接:https://www.uj5u.com/houduan/88025.html

標籤:Java

上一篇:TCP學習指北

下一篇:盤點 35 個 Apache 頂級專案,我拜服了…

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【C++】Microsoft C++、C 和匯編程式檔案

    ......

    uj5u.com 2020-09-10 00:57:23 more
  • 例外宣告

    相比于斷言適用于排除邏輯上不可能存在的狀態,例外通常是用于邏輯上可能發生的錯誤。 例外宣告 Item 1:當函式不可能拋出例外或不能接受拋出例外時,使用noexcept 理由 如果不打算拋出例外的話,程式就會認為無法處理這種錯誤,并且應當盡早終止,如此可以有效地阻止例外的傳播與擴散。 示例 //不可 ......

    uj5u.com 2020-09-10 00:57:27 more
  • Codeforces 1400E Clear the Multiset(貪心 + 分治)

    鏈接:https://codeforces.com/problemset/problem/1400/E 來源:Codeforces 思路:給你一個陣列,現在你可以進行兩種操作,操作1:將一段沒有 0 的區間進行減一的操作,操作2:將 i 位置上的元素歸零。最終問:將這個陣列的全部元素歸零后操作的最少 ......

    uj5u.com 2020-09-10 00:57:30 more
  • UVA11610 【Reverse Prime】

    本人看到此題沒有翻譯,就附帶了一個自己的翻譯版本 思考 這一題,它的第一個要求是找出所有 $7$ 位反向質數及其質因數的個數。 我們應該需要質數篩篩選1~$10^{7}$的所有數,這里就不慢慢介紹了。但是,重讀題,我們突然發現反向質數都是 $7$ 位,而將它反過來后的數字卻是 $6$ 位數,這就說明 ......

    uj5u.com 2020-09-10 00:57:36 more
  • 統計區間素數數量

    1 #pragma GCC optimize(2) 2 #include <bits/stdc++.h> 3 using namespace std; 4 bool isprime[1000000010]; 5 vector<int> prime; 6 inline int getlist(int ......

    uj5u.com 2020-09-10 00:57:47 more
  • C/C++編程筆記:C++中的 const 變數詳解,教你正確認識const用法

    1、C中的const 1、區域const變數存放在堆疊區中,會分配記憶體(也就是說可以通過地址間接修改變數的值)。測驗代碼如下: 運行結果: 2、全域const變數存放在只讀資料段(不能通過地址修改,會發生寫入錯誤), 默認為外部聯編,可以給其他源檔案使用(需要用extern關鍵字修飾) 運行結果: ......

    uj5u.com 2020-09-10 00:58:04 more
  • 【C++犯錯記錄】VS2019 MFC添加資源不懂如何修改資源宏ID

    1. 首先在資源視圖中,添加資源 2. 點擊新添加的資源,復制自動生成的ID 3. 在解決方案資源管理器中找到Resource.h檔案,編輯,使用整個專案搜索和替換的方式快速替換 宏宣告 4. Ctrl+Shift+F 全域搜索,點擊查找全部,然后逐個替換 5. 為什么使用搜索替換而不使用屬性視窗直 ......

    uj5u.com 2020-09-10 00:59:11 more
  • 【C++犯錯記錄】VS2019 MFC不懂的批量添加資源

    1. 打開資源頭檔案Resource.h,在其中預先定義好宏 ID(不清楚其實ID值應該設定多少,可以先新建一個相同的資源項,再在這個資源的ID值的基礎上遞增即可) 2. 在資源視圖中選中專案資源,按F7編輯資源檔案,按 ID 型別 相對路徑的形式添加 資源。(別忘了先把檔案拷貝到專案中的res檔案 ......

    uj5u.com 2020-09-10 01:00:19 more
  • C/C++編程筆記:關于C++的參考型別,專供新手入門使用

    今天要講的是C++中我最喜歡的一個用法——參考,也叫別名。 參考就是給一個變數名取一個變數名,方便我們間接地使用這個變數。我們可以給一個變數創建N個參考,這N + 1個變數共享了同一塊記憶體區域。(參考型別的變數會占用記憶體空間,占用的記憶體空間的大小和指標型別的大小是相同的。雖然參考是一個物件的別名,但 ......

    uj5u.com 2020-09-10 01:00:22 more
  • 【C/C++編程筆記】從頭開始學習C ++:初學者完整指南

    眾所周知,C ++的學習曲線陡峭,但是花時間學習這種語言將為您的職業帶來奇跡,并使您與其他開發人員區分開。您會更輕松地學習新語言,形成真正的解決問題的技能,并在編程的基礎上打下堅實的基礎。 C ++將幫助您養成良好的編程習慣(即清晰一致的編碼風格,在撰寫代碼時注釋代碼,并限制類內部的可見性),并且由 ......

    uj5u.com 2020-09-10 01:00:41 more
最新发布
  • Rust中的智能指標:Box<T> Rc<T> Arc<T> Cell<T> RefCell<T> Weak

    Rust中的智能指標是什么 智能指標(smart pointers)是一類資料結構,是擁有資料所有權和額外功能的指標。是指標的進一步發展 指標(pointer)是一個包含記憶體地址的變數的通用概念。這個地址參考,或 ” 指向”(points at)一些其 他資料 。參考以 & 符號為標志并借用了他們所 ......

    uj5u.com 2023-04-20 07:24:10 more
  • Java的值傳遞和參考傳遞

    值傳遞不會改變本身,參考傳遞(如果傳遞的值需要實體化到堆里)如果發生修改了會改變本身。 1.基本資料型別都是值傳遞 package com.example.basic; public class Test { public static void main(String[] args) { int ......

    uj5u.com 2023-04-20 07:24:04 more
  • [2]SpinalHDL教程——Scala簡單入門

    第一個 Scala 程式 shell里面輸入 $ scala scala> 1 + 1 res0: Int = 2 scala> println("Hello World!") Hello World! 檔案形式 object HelloWorld { /* 這是我的第一個 Scala 程式 * 以 ......

    uj5u.com 2023-04-20 07:23:58 more
  • 理解函式指標和回呼函式

    理解 函式指標 指向函式的指標。比如: 理解函式指標的偽代碼 void (*p)(int type, char *data); // 定義一個函式指標p void func(int type, char *data); // 宣告一個函式func p = func; // 將指標p指向函式func ......

    uj5u.com 2023-04-20 07:23:52 more
  • Django筆記二十五之資料庫函式之日期函式

    本文首發于公眾號:Hunter后端 原文鏈接:Django筆記二十五之資料庫函式之日期函式 日期函式主要介紹兩個大類,Extract() 和 Trunc() Extract() 函式作用是提取日期,比如我們可以提取一個日期欄位的年份,月份,日等資料 Trunc() 的作用則是截取,比如 2022-0 ......

    uj5u.com 2023-04-20 07:23:45 more
  • 一天吃透JVM面試八股文

    什么是JVM? JVM,全稱Java Virtual Machine(Java虛擬機),是通過在實際的計算機上仿真模擬各種計算機功能來實作的。由一套位元組碼指令集、一組暫存器、一個堆疊、一個垃圾回收堆和一個存盤方法域等組成。JVM屏蔽了與作業系統平臺相關的資訊,使得Java程式只需要生成在Java虛擬機 ......

    uj5u.com 2023-04-20 07:23:31 more
  • 使用Java接入小程式訂閱訊息!

    更新完微信服務號的模板訊息之后,我又趕緊把微信小程式的訂閱訊息給實作了!之前我一直以為微信小程式也是要企業才能申請,沒想到小程式個人就能申請。 訊息推送平臺🔥推送下發【郵件】【短信】【微信服務號】【微信小程式】【企業微信】【釘釘】等訊息型別。 https://gitee.com/zhongfuch ......

    uj5u.com 2023-04-20 07:22:59 more
  • java -- 緩沖流、轉換流、序列化流

    緩沖流 緩沖流, 也叫高效流, 按照資料型別分類: 位元組緩沖流:BufferedInputStream,BufferedOutputStream 字符緩沖流:BufferedReader,BufferedWriter 緩沖流的基本原理,是在創建流物件時,會創建一個內置的默認大小的緩沖區陣列,通過緩沖 ......

    uj5u.com 2023-04-20 07:22:49 more
  • Java-SpringBoot-Range請求頭設定實作視頻分段傳輸

    老實說,人太懶了,現在基本都不喜歡寫筆記了,但是網上有關Range請求頭的文章都太水了 下面是抄的一段StackOverflow的代碼...自己大修改過的,寫的注釋挺全的,應該直接看得懂,就不解釋了 寫的不好...只是希望能給視頻網站開發的新手一點點幫助吧. 業務場景:視頻分段傳輸、視頻多段傳輸(理 ......

    uj5u.com 2023-04-20 07:22:42 more
  • Windows 10開發教程_編程入門自學教程_菜鳥教程-免費教程分享

    教程簡介 Windows 10開發入門教程 - 從簡單的步驟了解Windows 10開發,從基本到高級概念,包括簡介,UWP,第一個應用程式,商店,XAML控制元件,資料系結,XAML性能,自適應設計,自適應UI,自適應代碼,檔案管理,SQLite資料庫,應用程式到應用程式通信,應用程式本地化,應用程式 ......

    uj5u.com 2023-04-20 07:22:35 more