主頁 > 後端開發 > 面試必問:分布式鎖實作之zk(Zookeeper)

面試必問:分布式鎖實作之zk(Zookeeper)

2020-10-08 09:16:17 後端開發

點贊再看,養成習慣,微信搜索【三太子敖丙】關注這個互聯網茍且偷生的工具人,

本文 GitHub https://github.com/JavaFamily 已收錄,有一線大廠面試完整考點、資料以及我的系列文章,

前言

鎖我想不需要我過多的去說,大家都知道是怎么一回事了吧?

在多執行緒環境下,由于背景關系的切換,資料可能出現不一致的情況或者資料被污染,我們需要保證資料安全,所以想到了加鎖,

所謂的加鎖機制呢,就是當一個執行緒訪問該類的某個資料時,進行保護,其他執行緒不能進行訪問,直到該執行緒讀取完,其他執行緒才可使用,

還記得我之前說過Redis在分布式的情況下,需要對存在并發競爭的資料進行加鎖,老公們十分費解,Redis是單執行緒的嘛?為啥還要加鎖呢?

看來老公們還是年輕啊,你說的不需要加鎖的情況是這樣的:

單個服務去訪問Redis的時候,確實因為Redis本身單執行緒的原因是不用考慮執行緒安全的,但是,現在有哪個公司還是單機的呀?肯定都是分布式集群了嘛,

老公們你看下這樣的場景是不是就有問題了:

你們經常不是說秒殺嘛,拿到庫存判斷,那老婆告訴你分布式情況就是會出問題的,

我們為了減少DB的壓力,把庫存預熱到了KV,現在KV的庫存是1,

  1. 服務A去Redis查詢到庫存發現是1,那說明我能搶到這個商品對不對,那我就準備減一了,但是還沒減,
  2. 同時服務B也去拿發現也是1,那我也搶到了呀,那我也減,
  3. C同理,
  4. 等所有的服務都判斷完了,你發現誒,怎么變成-2了,超賣了呀,這下完了,

老公們是不是發現問題了,這就需要分布式鎖的介入了,我會分三個章節去分別介紹分布式鎖的三種實作方式(Zookeeper,Redis,MySQL),說出他們的優缺點,以及一般大廠的實踐場景,

正文

一個騷里騷氣的面試官啥也沒拿的就走了進來,你一看,這不是你老婆嘛,你正準備叫他的時候,發現他一臉嚴肅,死鬼還裝嚴肅,肯定會給我放水的吧,

B站搜:三太子敖丙
B站搜:三太子敖丙

咳咳,我們啥也不說了,開始今天的面試吧,

正常執行緒行程同步的機制有哪些?

  • 互斥:互斥的機制,保證同一時間只有一個執行緒可以操作共享資源 synchronized,Lock等,
  • 臨界值:讓多執行緒串行話去訪問資源
  • 事件通知:通過事件的通知去保證大家都有序訪問共享資源
  • 信號量:多個任務同時訪問,同時限制數量,比如發令槍CDL,Semaphore等

那分布式鎖你了解過有哪些么?

分布式鎖實作主要以Zookeeper(以下簡稱zk)、Redis、MySQL這三種為主,

那先跟我聊一下zk吧,你能說一下他常見的使用場景么?

他主要的應用場景有以下幾個:

  • 服務注冊與訂閱(共用節點)
  • 分布式通知(監聽znode)
  • 服務命名(znode特性)
  • 資料訂閱、發布(watcher)
  • 分布式鎖(臨時節點)

zk是啥?

他是個資料庫,檔案存盤系統,并且有監聽通知機制(觀察者模式)

存檔案系統,他存了什么?

節點

zk的節點型別有4大類

  • 持久化節點(zk斷開節點還在)

  • 持久化順序編號目錄節點

  • 臨時目錄節點(客戶端斷開后節點就洗掉了)

  • 臨時目錄編號目錄節點

節點名稱都是唯一的,

節點怎么創建?

我特么,這樣問的么?可是我面試只看了分布式鎖,我得好好想想!!!

還好我之前在自己的服務器搭建了一個zk的集群,我剛好跟大家回憶一波,

create /test laogong // 創建永久節點 

那臨時節點呢?

create -e /test laogong // 創建臨時節點

臨時節點就創建成功了,如果我斷開這次鏈接,這個節點自然就消失了,這是我的一個zk管理工具,目錄可能清晰點,

如何創建順序節點呢?

create -s /test // 創建順序節點

臨時順序節點呢?

我想聰明的老公都會搶答了

create -e -s /test  // 創建臨時順序節點

我退出后,重新連接,發現剛才創建的所有臨時節點都沒了,

開篇演示這么多呢,我就是想給大家看到的zk大概的一個操作流程和資料結構,中間涉及的搭建以及其他的技能我就不說了,我們重點聊一下他在分布式鎖中的實作,

zk就是基于節點去實作各種分布式鎖的,

就拿開頭的場景來說,zk應該怎么去保證分布式情況下的執行緒安全呢?并發競爭他是怎么控制的呢?

為了模擬并發競爭這樣一個情況,我寫了點偽代碼,大家可以先看看

我定義了一個庫存inventory值為1,還用到了一個CountDownLatch發令槍,等10個執行緒都就緒了一起去扣減庫存,

是不是就像10臺機器一起去拿到庫存,然后扣減庫存了?

所有機器一起去拿,發現都是1,那大家都認為是自己搶到了,都做了減一的操作,但是等所有人都執行完,再去set值的時候,發現其實已經超賣了,我列印出來給大家看看,

是吧,這還不是超賣一個兩個的問題,超賣7個都有,代碼里面明明判斷了庫存大于0才去減的,怎么回事開頭我說明了,

那怎么解決這個問題?

sync,lock也只能保證你當前機器執行緒安全,這樣分布式訪問還是有問題,

上面跟大家提到的zk的節點就可以解決這個問題,

zk節點有個唯一的特性,就是我們創建過這個節點了,你再創建zk是會報錯的,那我們就利用一下他的唯一性去實作一下,

怎么實作呢?

上面不是10個執行緒嘛?

我們全部去創建,創建成功的第一個回傳true他就可以繼續下面的扣減庫存操作,后續的節點訪問就會全部報錯,扣減失敗,我們把它們丟一個佇列去排隊,

那怎么釋放鎖呢?

洗掉節點咯,刪了再通知其他的人過來加鎖,依次類推,

我們實作一下,zk加鎖的場景,

是不是,只有第一個執行緒能扣減成功,其他的都失敗了,

但是你發現問題沒有,你加了鎖了,你得釋放啊,你不釋放后面的報錯了就不重試了,

那簡單,洗掉鎖就釋放掉了,Lock在finally里面unLock,現在我們在finally洗掉節點,

加鎖我們知道創建節點就夠了,但是你得實作一個阻塞的效果呀,那咋搞?

死回圈,遞回不斷去嘗試,直到成功,一個偽裝的阻塞效果,

怎么知道前面的老哥洗掉節點了嗯?

監聽節點的洗掉事件

但是你發現你這樣做的問題沒?

是的,會出現死鎖,

第一個仔加鎖成功了,在執行代碼的時候,機器宕機了,那節點是不是就不能洗掉了?

你要故作沉思,自問自答,時而看看遠方,時而看看面試官,假裝自己什么都不知道,

哦我想起來了,創建臨時節點就好了,客戶端連接一斷開,別的就可以監聽到節點的變化了,

嗯還不錯,那你發現還有別的問題沒?

好像這種監聽機制也不好,

怎么個不好呢?

你們可以看到,監聽,是所有服務都去監聽一個節點的,節點的釋放也會通知所有的服務器,如果是900個服務器呢?

這對服務器是很大的一個挑戰,一個釋放的訊息,就好像一個牧羊犬進入了羊群,大家都四散而開,隨時可能干掉機器,會占用服務資源,網路帶寬等等,

這就是羊群效應,

那怎么解決這個問題?

繼續故作沉思,啊啊啊,好難,我的腦袋,,,,

你TM別裝了好不好?

好的,臨時順序節點,可以順利解決這個問題,

怎么實作老公你先別往下看,先自己想想,

之前說了全部監聽一個節點問題很大,那我們就監聽我們的前一個節點,因為是順序的,很容易找到自己的前后,

和之前監聽一個永久節點的區別就在于,這里每個節點只監聽了自己的前一個節點,釋放當然也是一個個釋放下去,就不會出現羊群效應了,

以上所有代碼我都會開源到我的https://github.com/AobingJava/Thanos其實上面的還有瑕疵,大家可以去拉下來改一下提交pr,我會看合適的會通過的,

你說了這么多,挺不錯的,你能說說ZK在分布式鎖中實踐的一些缺點么?

Zk性能上可能并沒有快取服務那么高,

因為每次在創建鎖和釋放鎖的程序中,都要動態創建、銷毀瞬時節點來實作鎖功能,

ZK中創建和洗掉節點只能通過Leader服務器來執行,然后將資料同步到所有的Follower機器上,(這里涉及zk集群的知識,我就不展開了,以后zk章節跟老公們細聊)

還有么?

使用Zookeeper也有可能帶來并發問題,只是并不常見而已,

由于網路抖動,客戶端可ZK集群的session連接斷了,那么zk以為客戶端掛了,就會洗掉臨時節點,這時候其他客戶端就可以獲取到分布式鎖了,

就可能產生并發問題了,這個問題不常見是因為zk有重試機制,一旦zk集群檢測不到客戶端的心跳,就會重試,Curator客戶端支持多種重試策略,

多次重試之后還不行的話才會洗掉臨時節點,

Tip:所以,選擇一個合適的重試策略也比較重要,要在鎖的粒度和并發之間找一個平衡,

有更好的實作么?

基于Redis的分布式鎖

能跟我聊聊么?

我看看了手上的表,老公,今天天色不早了,你全問完了,我怎么多水幾篇文章呢?

行確實很晚了,那你回家去把家務干了吧?

我????

=
=

總結

zk通過臨時節點,解決掉了死鎖的問題,一旦客戶端獲取到鎖之后突然掛掉(Session連接斷開),那么這個臨時節點就會自動洗掉掉,其他客戶端自動獲取鎖,

zk通過節點排隊監聽的機制,也實作了阻塞的原理,其實就是個遞回在那無限等待最小節點釋放的程序,

我上面沒實作鎖的可重入,但是也很好實作,可以帶上執行緒資訊就可以了,或者機器資訊這樣的唯一標識,獲取的時候判斷一下,

zk的集群也是高可用的,只要半數以上的或者,就可以對外提供服務了,

這周會寫完Redis和資料庫的分布式鎖的,老公們等好,

我是敖丙,一個在互聯網茍且偷生的工具人,

最好的關系是互相成就老公們的「三連」就是丙丙創作的最大動力,我們下期見!

注:如果本篇博客有任何錯誤和建議,歡迎老公們留言,老公你快說句話啊


文章持續更新,可以微信搜索「 三太子敖丙 」第一時間閱讀,回復【資料】【面試】【簡歷】有我準備的一線大廠面試資料和簡歷模板,本文 GitHub https://github.com/JavaFamily 已經收錄,有大廠面試完整考點,歡迎Star,

你知道的越多,你不知道的越多

轉載請註明出處,本文鏈接:https://www.uj5u.com/houduan/162683.html

標籤:Java

上一篇:Java筆試真題及參考答案

下一篇:請不要在 JDK 7+ 中使用這個 JSON 包了!

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【C++】Microsoft C++、C 和匯編程式檔案

    ......

    uj5u.com 2020-09-10 00:57:23 more
  • 例外宣告

    相比于斷言適用于排除邏輯上不可能存在的狀態,例外通常是用于邏輯上可能發生的錯誤。 例外宣告 Item 1:當函式不可能拋出例外或不能接受拋出例外時,使用noexcept 理由 如果不打算拋出例外的話,程式就會認為無法處理這種錯誤,并且應當盡早終止,如此可以有效地阻止例外的傳播與擴散。 示例 //不可 ......

    uj5u.com 2020-09-10 00:57:27 more
  • Codeforces 1400E Clear the Multiset(貪心 + 分治)

    鏈接:https://codeforces.com/problemset/problem/1400/E 來源:Codeforces 思路:給你一個陣列,現在你可以進行兩種操作,操作1:將一段沒有 0 的區間進行減一的操作,操作2:將 i 位置上的元素歸零。最終問:將這個陣列的全部元素歸零后操作的最少 ......

    uj5u.com 2020-09-10 00:57:30 more
  • UVA11610 【Reverse Prime】

    本人看到此題沒有翻譯,就附帶了一個自己的翻譯版本 思考 這一題,它的第一個要求是找出所有 $7$ 位反向質數及其質因數的個數。 我們應該需要質數篩篩選1~$10^{7}$的所有數,這里就不慢慢介紹了。但是,重讀題,我們突然發現反向質數都是 $7$ 位,而將它反過來后的數字卻是 $6$ 位數,這就說明 ......

    uj5u.com 2020-09-10 00:57:36 more
  • 統計區間素數數量

    1 #pragma GCC optimize(2) 2 #include <bits/stdc++.h> 3 using namespace std; 4 bool isprime[1000000010]; 5 vector<int> prime; 6 inline int getlist(int ......

    uj5u.com 2020-09-10 00:57:47 more
  • C/C++編程筆記:C++中的 const 變數詳解,教你正確認識const用法

    1、C中的const 1、區域const變數存放在堆疊區中,會分配記憶體(也就是說可以通過地址間接修改變數的值)。測驗代碼如下: 運行結果: 2、全域const變數存放在只讀資料段(不能通過地址修改,會發生寫入錯誤), 默認為外部聯編,可以給其他源檔案使用(需要用extern關鍵字修飾) 運行結果: ......

    uj5u.com 2020-09-10 00:58:04 more
  • 【C++犯錯記錄】VS2019 MFC添加資源不懂如何修改資源宏ID

    1. 首先在資源視圖中,添加資源 2. 點擊新添加的資源,復制自動生成的ID 3. 在解決方案資源管理器中找到Resource.h檔案,編輯,使用整個專案搜索和替換的方式快速替換 宏宣告 4. Ctrl+Shift+F 全域搜索,點擊查找全部,然后逐個替換 5. 為什么使用搜索替換而不使用屬性視窗直 ......

    uj5u.com 2020-09-10 00:59:11 more
  • 【C++犯錯記錄】VS2019 MFC不懂的批量添加資源

    1. 打開資源頭檔案Resource.h,在其中預先定義好宏 ID(不清楚其實ID值應該設定多少,可以先新建一個相同的資源項,再在這個資源的ID值的基礎上遞增即可) 2. 在資源視圖中選中專案資源,按F7編輯資源檔案,按 ID 型別 相對路徑的形式添加 資源。(別忘了先把檔案拷貝到專案中的res檔案 ......

    uj5u.com 2020-09-10 01:00:19 more
  • C/C++編程筆記:關于C++的參考型別,專供新手入門使用

    今天要講的是C++中我最喜歡的一個用法——參考,也叫別名。 參考就是給一個變數名取一個變數名,方便我們間接地使用這個變數。我們可以給一個變數創建N個參考,這N + 1個變數共享了同一塊記憶體區域。(參考型別的變數會占用記憶體空間,占用的記憶體空間的大小和指標型別的大小是相同的。雖然參考是一個物件的別名,但 ......

    uj5u.com 2020-09-10 01:00:22 more
  • 【C/C++編程筆記】從頭開始學習C ++:初學者完整指南

    眾所周知,C ++的學習曲線陡峭,但是花時間學習這種語言將為您的職業帶來奇跡,并使您與其他開發人員區分開。您會更輕松地學習新語言,形成真正的解決問題的技能,并在編程的基礎上打下堅實的基礎。 C ++將幫助您養成良好的編程習慣(即清晰一致的編碼風格,在撰寫代碼時注釋代碼,并限制類內部的可見性),并且由 ......

    uj5u.com 2020-09-10 01:00:41 more
最新发布
  • Rust中的智能指標:Box<T> Rc<T> Arc<T> Cell<T> RefCell<T> Weak

    Rust中的智能指標是什么 智能指標(smart pointers)是一類資料結構,是擁有資料所有權和額外功能的指標。是指標的進一步發展 指標(pointer)是一個包含記憶體地址的變數的通用概念。這個地址參考,或 ” 指向”(points at)一些其 他資料 。參考以 & 符號為標志并借用了他們所 ......

    uj5u.com 2023-04-20 07:24:10 more
  • Java的值傳遞和參考傳遞

    值傳遞不會改變本身,參考傳遞(如果傳遞的值需要實體化到堆里)如果發生修改了會改變本身。 1.基本資料型別都是值傳遞 package com.example.basic; public class Test { public static void main(String[] args) { int ......

    uj5u.com 2023-04-20 07:24:04 more
  • [2]SpinalHDL教程——Scala簡單入門

    第一個 Scala 程式 shell里面輸入 $ scala scala> 1 + 1 res0: Int = 2 scala> println("Hello World!") Hello World! 檔案形式 object HelloWorld { /* 這是我的第一個 Scala 程式 * 以 ......

    uj5u.com 2023-04-20 07:23:58 more
  • 理解函式指標和回呼函式

    理解 函式指標 指向函式的指標。比如: 理解函式指標的偽代碼 void (*p)(int type, char *data); // 定義一個函式指標p void func(int type, char *data); // 宣告一個函式func p = func; // 將指標p指向函式func ......

    uj5u.com 2023-04-20 07:23:52 more
  • Django筆記二十五之資料庫函式之日期函式

    本文首發于公眾號:Hunter后端 原文鏈接:Django筆記二十五之資料庫函式之日期函式 日期函式主要介紹兩個大類,Extract() 和 Trunc() Extract() 函式作用是提取日期,比如我們可以提取一個日期欄位的年份,月份,日等資料 Trunc() 的作用則是截取,比如 2022-0 ......

    uj5u.com 2023-04-20 07:23:45 more
  • 一天吃透JVM面試八股文

    什么是JVM? JVM,全稱Java Virtual Machine(Java虛擬機),是通過在實際的計算機上仿真模擬各種計算機功能來實作的。由一套位元組碼指令集、一組暫存器、一個堆疊、一個垃圾回收堆和一個存盤方法域等組成。JVM屏蔽了與作業系統平臺相關的資訊,使得Java程式只需要生成在Java虛擬機 ......

    uj5u.com 2023-04-20 07:23:31 more
  • 使用Java接入小程式訂閱訊息!

    更新完微信服務號的模板訊息之后,我又趕緊把微信小程式的訂閱訊息給實作了!之前我一直以為微信小程式也是要企業才能申請,沒想到小程式個人就能申請。 訊息推送平臺🔥推送下發【郵件】【短信】【微信服務號】【微信小程式】【企業微信】【釘釘】等訊息型別。 https://gitee.com/zhongfuch ......

    uj5u.com 2023-04-20 07:22:59 more
  • java -- 緩沖流、轉換流、序列化流

    緩沖流 緩沖流, 也叫高效流, 按照資料型別分類: 位元組緩沖流:BufferedInputStream,BufferedOutputStream 字符緩沖流:BufferedReader,BufferedWriter 緩沖流的基本原理,是在創建流物件時,會創建一個內置的默認大小的緩沖區陣列,通過緩沖 ......

    uj5u.com 2023-04-20 07:22:49 more
  • Java-SpringBoot-Range請求頭設定實作視頻分段傳輸

    老實說,人太懶了,現在基本都不喜歡寫筆記了,但是網上有關Range請求頭的文章都太水了 下面是抄的一段StackOverflow的代碼...自己大修改過的,寫的注釋挺全的,應該直接看得懂,就不解釋了 寫的不好...只是希望能給視頻網站開發的新手一點點幫助吧. 業務場景:視頻分段傳輸、視頻多段傳輸(理 ......

    uj5u.com 2023-04-20 07:22:42 more
  • Windows 10開發教程_編程入門自學教程_菜鳥教程-免費教程分享

    教程簡介 Windows 10開發入門教程 - 從簡單的步驟了解Windows 10開發,從基本到高級概念,包括簡介,UWP,第一個應用程式,商店,XAML控制元件,資料系結,XAML性能,自適應設計,自適應UI,自適應代碼,檔案管理,SQLite資料庫,應用程式到應用程式通信,應用程式本地化,應用程式 ......

    uj5u.com 2023-04-20 07:22:35 more