主頁 > 後端開發 > 不用找了,基于 Redis 的分布式鎖實戰來了!

不用找了,基于 Redis 的分布式鎖實戰來了!

2020-10-20 01:37:19 後端開發

作者:菜蚜
my.oschina.net/wnjustdoit/blog/1606215

前言:在分布式環境中,我們經常使用鎖來進行并發控制,鎖可分為樂觀鎖和悲觀鎖,

基于資料庫版本戳的實作是樂觀鎖,基于redis或zookeeper的實作可認為是悲觀鎖了,樂觀鎖和悲觀鎖最根本的區別在于執行緒之間是否相互阻塞,

那么,本文主要來討論基于redis的分布式鎖演算法問題,

從2.6.12版本開始,redis為SET命令增加了一系列選項(set [key] NX/XX EX/PX [expiration]):

  • EX seconds – 設定鍵key的過期時間,單位時秒

  • PX milliseconds – 設定鍵key的過期時間,單位時毫秒

  • NX – 只有鍵key不存在的時候才會設定key的值

  • XX – 只有鍵key存在的時候才會設定key的值

原文地址:https://redis.io/commands/set
中文地址:http://redis.cn/commands/set.html

注意: 由于SET命令加上選項已經可以完全取代SETNX, SETEX, PSETEX的功能,所以在將來的版本中,redis可能會不推薦使用并且最終拋棄這幾個命令,

這里簡單提一下,在舊版本的redis中(指2.6.12版本之前),使用redis實作分布式鎖一般需要setNX、expire、getSet、del等命令,而且會發現這種實作有很多邏輯判斷的原子操作以及本地時間等并沒有控制好,

而在舊版本的redis中,redis的超時時間很難控制,用戶迫切需要把setNX和expiration結合為一體的命令,把他們作為一個原子操作,這樣新版本的多選項set命令誕生了,然而這并沒有完全解決復雜的超時控制帶來的問題,

接下來,我們的一切討論都基于新版redis,

在這里,我先提出幾個在實作redis分布式鎖中需要考慮的關鍵問題

1、死鎖問題;

1.1、為了防止死鎖,redis至少需要設定一個超時時間;

1.2、由1.1引申出來,當鎖自動釋放了,但是程式并沒有執行完畢,這時候其他執行緒又獲取到鎖執行同樣的程式,可能會造成并發問題,這個問題我們需要考慮一下是否歸屬于分布式鎖帶來問題的范疇,

2、鎖釋放問題,這里會有兩個問題;

2.1、每個獲取redis鎖的執行緒應該釋放自己獲取到的鎖,而不是其他執行緒的,所以我們需要在每個執行緒獲取鎖的時候給鎖做上不同的標記以示區分;

2.2、由2.1帶來的問題是執行緒在釋放鎖的時候需要判斷當前鎖是否屬于自己,如果屬于自己才釋放,這里涉及到邏輯判斷陳述句,至少是兩個操作在進行,那么我們需要考慮這兩個操作要在一個原子內執行,否者在兩個行為之間可能會有其他執行緒插入執行,導致程式紊亂,

3、更可靠的鎖;

單實體的redis(這里指只有一個master節點)往往是不可靠的,雖然實作起來相對簡單一些,但是會面臨著宕機等不可用的場景,即使在主從復制的時候也顯得并不可靠(因為redis的主從復制往往是異步的),

關于Martin Kleppmann的Redlock的分析

原文地址:https://redis.io/topics/distlock
中文地址:http://redis.cn/topics/distlock.html

文章分析得出,這種演算法只需具備3個特性就可以實作一個最低保障的分布式鎖,

  • 安全屬性(Safety property): 獨享(相互排斥),在任意一個時刻,只有一個客戶端持有鎖,

  • 活性A(Liveness property A): 無死鎖,即便持有鎖的客戶端崩潰(crashed)或者網路被分裂(gets partitioned),鎖仍然可以被獲取,

  • 活性B(Liveness property B): 容錯,只要大部分Redis節點都活著,客戶端就可以獲取和釋放鎖.

我們來分析一下:

第一點安全屬性意味著悲觀鎖(互斥鎖)是我們做redis分布式鎖的前提,否者將可能造成并發;

第二點表明為了避免死鎖,我們需要設定鎖超時時間,保證在一定的時間過后,鎖可以重新被利用;

第三點是說對于客戶端來說,獲取鎖和手動釋放鎖可以有更高的可靠性,

更進一步分析,結合上文提到的關鍵問題,這里可以引申出另外的兩個問題:
  • 怎么才能合理判斷程式真正處理的有效時間范圍?(這里有個時間偏移的問題)

  • redis Master節點宕機后恢復(可能還沒有持久化到磁盤)、主從節點切換,(N/2)+1這里的N應該怎么動態計算更合理?

接下來再看,redis之父antirez對Redlock的評價

原文地址:http://antirez.com/news/101

文中主要提到了網路延遲和本地時鐘的修改(不管是時間服務器或人為修改)對這種演算法可能造成的影響,

最后,來點實踐吧

I、傳統的單實體redis分布式鎖實作(關鍵步驟)

獲取鎖(含自動釋放鎖):

SET resource_name my_random_value NX PX 30000  
 手動洗掉鎖(Lua腳本):  
  
if redis.call("get",KEYS[1]) == ARGV[1] then  
    return redis.call("del",KEYS[1])  
else  
    return 0  
end  

II、分布式環境的redis(多master節點)的分布式鎖實作

為了保證在盡可能短的時間內獲取到(N/2)+1個節點的鎖,可以并行去獲取各個節點的鎖(當然,并行可能需要消耗更多的資源,因為串行只需要count到足夠數量的鎖就可以停止獲取了);

另外,怎么動態實時統一獲取redis master nodes需要更進一步去思考了,

QA,補充一下說明(以下為我與朋友溝通的情況,以說明文中大家可能不夠明白的地方):

1、在關鍵問題2.1中,洗掉就洗掉了,會造成什么問題?

執行緒A超時,準備洗掉鎖;但此時的鎖屬于執行緒B;執行緒B還沒執行完,執行緒A把鎖洗掉了,這時執行緒C獲取到鎖,同時執行程式;所以不能亂刪,

2、在關鍵問題2.2中,只要在key生成時,跟執行緒相關就不用考慮這個問題了嗎?

不同的執行緒執行程式,執行緒之間肯雖然有差異呀,然后在redis鎖的value設定有執行緒資訊,比如執行緒id或執行緒名稱,是分布式環境的話加個機器id前綴咯(類似于twitter的snowflake演算法!),但是在del命令只會涉及到key,不會再次檢查value,所以還是需要lua腳本控制if(condition){xxx}的原子性,

3、那要不要考慮鎖的重入性?

不需要重入;try…finally 沒得重入的場景;對于單個執行緒來說,執行是串行的,獲取鎖之后必定會釋放,因為finally的代碼必定會執行啊(只要進入了try塊,finally必定會執行),

4、為什么兩個執行緒都會去洗掉鎖?(貌似重復的問題,不管怎樣,還是耐心解答吧)

每個執行緒只能管理自己的鎖,不能管理別人執行緒的鎖啊,這里可以聯想一下ThreadLocal,

5、如果加鎖的執行緒掛了怎么辦?只能等待自動超時?

看你怎么寫程式的了,一種是問題3的回答;另外,那就自動超時咯,這種情況也適用于網路over了,

6、時間太長,程式例外就會蛋疼,時間太短,就會出現程式還沒有處理完就超時了,這豈不是很尷尬?

是呀,所以需要更好的衡量這個超時時間的設定,

實踐部分主要代碼:

RedisLock工具類:

package com.caiya.cms.web.component;  
  
import com.caiya.cache.CacheException;  
import com.caiya.cache.redis.JedisCache;  
import org.slf4j.Logger;  
import org.slf4j.LoggerFactory;  
  
import java.util.Objects;  
import java.util.concurrent.TimeUnit;  
  
/**  
 * redis實作分布式鎖  
 * 可實作特性:  
 * 1、使多執行緒無序排隊獲取和釋放鎖;  
 * 2、丟棄未成功獲得鎖的執行緒處理;  
 * 3、只釋放執行緒本身加持的鎖;  
 * 4、避免死鎖  
 *  
 * @author wangnan  
 * @since 1.0  
 */  
public final class RedisLock {  
  
    private static final Logger logger = LoggerFactory.getLogger(RedisLock.class);  
  
    /**  
     * 嘗試加鎖(僅一次)  
     *  
     * @param lockKey       鎖key  
     * @param lockValue     鎖value  
     * @param expireSeconds 鎖超時時間(秒)  
     * @return 是否加鎖成功  
     * @throws CacheException  
     */  
    public static boolean tryLock(String lockKey, String lockValue, long expireSeconds) throws CacheException {  
        JedisCache jedisCache = JedisCacheFactory.getInstance().getJedisCache();  
        try {  
            String response = jedisCache.set(lockKey, lockValue, "nx", "ex", expireSeconds);  
            return Objects.equals(response, "OK");  
        } finally {  
            jedisCache.close();  
        }  
    }  
  
    /**  
     * 加鎖(指定最大嘗試次數范圍內)  
     *  
     * @param lockKey       鎖key  
     * @param lockValue     鎖value  
     * @param expireSeconds 鎖超時時間(秒)  
     * @param tryTimes      最大嘗試次數  
     * @param sleepMillis   每兩次嘗試之間休眠時間(毫秒)  
     * @return 是否加鎖成功  
     * @throws CacheException  
     */  
    public static boolean lock(String lockKey, String lockValue, long expireSeconds, int tryTimes, long sleepMillis) throws CacheException {  
        boolean result;  
        int count = 0;  
        do {  
            count++;  
            result = tryLock(lockKey, lockValue, expireSeconds);  
            try {  
                TimeUnit.MILLISECONDS.sleep(sleepMillis);  
            } catch (InterruptedException e) {  
                logger.error(e.getMessage(), e);  
            }  
        } while (!result && count <= tryTimes);  
        return result;  
    }  
  
    /**  
     * 釋放鎖  
     *  
     * @param lockKey   鎖key  
     * @param lockValue 鎖value  
     */  
    public static void unlock(String lockKey, String lockValue) {  
        JedisCache jedisCache = JedisCacheFactory.getInstance().getJedisCache();  
        try {  
            String luaScript = "if redis.call('get',KEYS[1]) == ARGV[1] then return redis.call('del',KEYS[1]) else return 0 end";  
            Object result = jedisCache.eval(luaScript, 1, lockKey, lockValue);  
//            Objects.equals(result, 1L);  
        } catch (Exception e) {  
            logger.error(e.getMessage(), e);  
        } finally {  
            jedisCache.close();  
        }  
//        return false;  
    }  
  
  
    private RedisLock() {  
    }  
  
}  

使用工具類的代碼片段1:

        ...  
        String lockKey = Constant.DEFAULT_CACHE_NAME + ":addItemApply:" + applyPriceDTO.getItemId() + "_" + applyPriceDTO.getSupplierId();// 跟業務相關的唯一拼接鍵  
        String lockValue = Constant.DEFAULT_CACHE_NAME + ":" + System.getProperty("JvmId") + ":" + Thread.currentThread().getName() + ":" + System.currentTimeMillis();// 生成集群環境中的唯一值  
        boolean locked = RedisLock.tryLock(lockKey, lockValue, 100);// 只嘗試一次,在本次處理程序中直接拒絕其他執行緒的請求  
        if (!locked) {  
            throw new IllegalAccessException("您的操作太頻繁了,休息一下再來吧~");  
        }  
        try {  
            // 開始處理核心業務邏輯  
            Item item = itemService.queryItemByItemId(applyPriceDTO.getItemId());  
            ...  
            ...  
        } finally {  
            RedisLock.unlock(lockKey, lockValue);// 在finally塊中釋放鎖  
        }  

使用工具類的代碼片段2:

        ...  
        String lockKey = Constant.DEFAULT_CACHE_NAME + ":addItemApply:" + applyPriceDTO.getItemId() + "_" + applyPriceDTO.getSupplierId();  
        String lockValue = Constant.DEFAULT_CACHE_NAME + ":機器編號:" + Thread.currentThread().getName() + ":" + System.currentTimeMillis();  
        boolean locked = RedisLock.lock(lockKey, lockValue, 100, 20, 100);// 非公平鎖,無序競爭(這里需要合理根據業務處理情況設定最大嘗試次數和每次休眠時間)  
        if (!locked) {  
            throw new IllegalAccessException("系統太忙,本次操作失敗");// 一般來說,不會走到這一步;如果真的有這種情況,并且在合理設定鎖嘗試次數和等待回應時間之后仍然處理不過來,可能需要考慮優化程式回應時間或者用訊息佇列排隊執行了  
        }  
  
        try {  
            // 開始處理核心業務邏輯  
            Item item = itemService.queryItemByItemId(applyPriceDTO.getItemId());  
            ...  
            ...  
        } finally {  
            RedisLock.unlock(lockKey, lockValue);  
        }  
        ...  

附加:

基于redis的分布式鎖實作客戶端Redisson:

https://github.com/redisson/redisson/wiki/8.-Distributed-locks-and-synchronizers

基于zookeeper的分布式鎖實作:

http://curator.apache.org/curator-recipes/shared-reentrant-lock.html

推薦去我的博客閱讀更多:

1.Java JVM、集合、多執行緒、新特性系列教程

2.Spring MVC、Spring Boot、Spring Cloud 系列教程

3.Maven、Git、Eclipse、Intellij IDEA 系列工具教程

4.Java、后端、架構、阿里巴巴等大廠最新面試題

覺得不錯,別忘了點贊+轉發哦!

轉載請註明出處,本文鏈接:https://www.uj5u.com/houduan/181229.html

標籤:Java

上一篇:Spring 常犯的十大錯誤,打死都不要犯!

下一篇:Java已經25年了

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【C++】Microsoft C++、C 和匯編程式檔案

    ......

    uj5u.com 2020-09-10 00:57:23 more
  • 例外宣告

    相比于斷言適用于排除邏輯上不可能存在的狀態,例外通常是用于邏輯上可能發生的錯誤。 例外宣告 Item 1:當函式不可能拋出例外或不能接受拋出例外時,使用noexcept 理由 如果不打算拋出例外的話,程式就會認為無法處理這種錯誤,并且應當盡早終止,如此可以有效地阻止例外的傳播與擴散。 示例 //不可 ......

    uj5u.com 2020-09-10 00:57:27 more
  • Codeforces 1400E Clear the Multiset(貪心 + 分治)

    鏈接:https://codeforces.com/problemset/problem/1400/E 來源:Codeforces 思路:給你一個陣列,現在你可以進行兩種操作,操作1:將一段沒有 0 的區間進行減一的操作,操作2:將 i 位置上的元素歸零。最終問:將這個陣列的全部元素歸零后操作的最少 ......

    uj5u.com 2020-09-10 00:57:30 more
  • UVA11610 【Reverse Prime】

    本人看到此題沒有翻譯,就附帶了一個自己的翻譯版本 思考 這一題,它的第一個要求是找出所有 $7$ 位反向質數及其質因數的個數。 我們應該需要質數篩篩選1~$10^{7}$的所有數,這里就不慢慢介紹了。但是,重讀題,我們突然發現反向質數都是 $7$ 位,而將它反過來后的數字卻是 $6$ 位數,這就說明 ......

    uj5u.com 2020-09-10 00:57:36 more
  • 統計區間素數數量

    1 #pragma GCC optimize(2) 2 #include <bits/stdc++.h> 3 using namespace std; 4 bool isprime[1000000010]; 5 vector<int> prime; 6 inline int getlist(int ......

    uj5u.com 2020-09-10 00:57:47 more
  • C/C++編程筆記:C++中的 const 變數詳解,教你正確認識const用法

    1、C中的const 1、區域const變數存放在堆疊區中,會分配記憶體(也就是說可以通過地址間接修改變數的值)。測驗代碼如下: 運行結果: 2、全域const變數存放在只讀資料段(不能通過地址修改,會發生寫入錯誤), 默認為外部聯編,可以給其他源檔案使用(需要用extern關鍵字修飾) 運行結果: ......

    uj5u.com 2020-09-10 00:58:04 more
  • 【C++犯錯記錄】VS2019 MFC添加資源不懂如何修改資源宏ID

    1. 首先在資源視圖中,添加資源 2. 點擊新添加的資源,復制自動生成的ID 3. 在解決方案資源管理器中找到Resource.h檔案,編輯,使用整個專案搜索和替換的方式快速替換 宏宣告 4. Ctrl+Shift+F 全域搜索,點擊查找全部,然后逐個替換 5. 為什么使用搜索替換而不使用屬性視窗直 ......

    uj5u.com 2020-09-10 00:59:11 more
  • 【C++犯錯記錄】VS2019 MFC不懂的批量添加資源

    1. 打開資源頭檔案Resource.h,在其中預先定義好宏 ID(不清楚其實ID值應該設定多少,可以先新建一個相同的資源項,再在這個資源的ID值的基礎上遞增即可) 2. 在資源視圖中選中專案資源,按F7編輯資源檔案,按 ID 型別 相對路徑的形式添加 資源。(別忘了先把檔案拷貝到專案中的res檔案 ......

    uj5u.com 2020-09-10 01:00:19 more
  • C/C++編程筆記:關于C++的參考型別,專供新手入門使用

    今天要講的是C++中我最喜歡的一個用法——參考,也叫別名。 參考就是給一個變數名取一個變數名,方便我們間接地使用這個變數。我們可以給一個變數創建N個參考,這N + 1個變數共享了同一塊記憶體區域。(參考型別的變數會占用記憶體空間,占用的記憶體空間的大小和指標型別的大小是相同的。雖然參考是一個物件的別名,但 ......

    uj5u.com 2020-09-10 01:00:22 more
  • 【C/C++編程筆記】從頭開始學習C ++:初學者完整指南

    眾所周知,C ++的學習曲線陡峭,但是花時間學習這種語言將為您的職業帶來奇跡,并使您與其他開發人員區分開。您會更輕松地學習新語言,形成真正的解決問題的技能,并在編程的基礎上打下堅實的基礎。 C ++將幫助您養成良好的編程習慣(即清晰一致的編碼風格,在撰寫代碼時注釋代碼,并限制類內部的可見性),并且由 ......

    uj5u.com 2020-09-10 01:00:41 more
最新发布
  • Rust中的智能指標:Box<T> Rc<T> Arc<T> Cell<T> RefCell<T> Weak

    Rust中的智能指標是什么 智能指標(smart pointers)是一類資料結構,是擁有資料所有權和額外功能的指標。是指標的進一步發展 指標(pointer)是一個包含記憶體地址的變數的通用概念。這個地址參考,或 ” 指向”(points at)一些其 他資料 。參考以 & 符號為標志并借用了他們所 ......

    uj5u.com 2023-04-20 07:24:10 more
  • Java的值傳遞和參考傳遞

    值傳遞不會改變本身,參考傳遞(如果傳遞的值需要實體化到堆里)如果發生修改了會改變本身。 1.基本資料型別都是值傳遞 package com.example.basic; public class Test { public static void main(String[] args) { int ......

    uj5u.com 2023-04-20 07:24:04 more
  • [2]SpinalHDL教程——Scala簡單入門

    第一個 Scala 程式 shell里面輸入 $ scala scala> 1 + 1 res0: Int = 2 scala> println("Hello World!") Hello World! 檔案形式 object HelloWorld { /* 這是我的第一個 Scala 程式 * 以 ......

    uj5u.com 2023-04-20 07:23:58 more
  • 理解函式指標和回呼函式

    理解 函式指標 指向函式的指標。比如: 理解函式指標的偽代碼 void (*p)(int type, char *data); // 定義一個函式指標p void func(int type, char *data); // 宣告一個函式func p = func; // 將指標p指向函式func ......

    uj5u.com 2023-04-20 07:23:52 more
  • Django筆記二十五之資料庫函式之日期函式

    本文首發于公眾號:Hunter后端 原文鏈接:Django筆記二十五之資料庫函式之日期函式 日期函式主要介紹兩個大類,Extract() 和 Trunc() Extract() 函式作用是提取日期,比如我們可以提取一個日期欄位的年份,月份,日等資料 Trunc() 的作用則是截取,比如 2022-0 ......

    uj5u.com 2023-04-20 07:23:45 more
  • 一天吃透JVM面試八股文

    什么是JVM? JVM,全稱Java Virtual Machine(Java虛擬機),是通過在實際的計算機上仿真模擬各種計算機功能來實作的。由一套位元組碼指令集、一組暫存器、一個堆疊、一個垃圾回收堆和一個存盤方法域等組成。JVM屏蔽了與作業系統平臺相關的資訊,使得Java程式只需要生成在Java虛擬機 ......

    uj5u.com 2023-04-20 07:23:31 more
  • 使用Java接入小程式訂閱訊息!

    更新完微信服務號的模板訊息之后,我又趕緊把微信小程式的訂閱訊息給實作了!之前我一直以為微信小程式也是要企業才能申請,沒想到小程式個人就能申請。 訊息推送平臺🔥推送下發【郵件】【短信】【微信服務號】【微信小程式】【企業微信】【釘釘】等訊息型別。 https://gitee.com/zhongfuch ......

    uj5u.com 2023-04-20 07:22:59 more
  • java -- 緩沖流、轉換流、序列化流

    緩沖流 緩沖流, 也叫高效流, 按照資料型別分類: 位元組緩沖流:BufferedInputStream,BufferedOutputStream 字符緩沖流:BufferedReader,BufferedWriter 緩沖流的基本原理,是在創建流物件時,會創建一個內置的默認大小的緩沖區陣列,通過緩沖 ......

    uj5u.com 2023-04-20 07:22:49 more
  • Java-SpringBoot-Range請求頭設定實作視頻分段傳輸

    老實說,人太懶了,現在基本都不喜歡寫筆記了,但是網上有關Range請求頭的文章都太水了 下面是抄的一段StackOverflow的代碼...自己大修改過的,寫的注釋挺全的,應該直接看得懂,就不解釋了 寫的不好...只是希望能給視頻網站開發的新手一點點幫助吧. 業務場景:視頻分段傳輸、視頻多段傳輸(理 ......

    uj5u.com 2023-04-20 07:22:42 more
  • Windows 10開發教程_編程入門自學教程_菜鳥教程-免費教程分享

    教程簡介 Windows 10開發入門教程 - 從簡單的步驟了解Windows 10開發,從基本到高級概念,包括簡介,UWP,第一個應用程式,商店,XAML控制元件,資料系結,XAML性能,自適應設計,自適應UI,自適應代碼,檔案管理,SQLite資料庫,應用程式到應用程式通信,應用程式本地化,應用程式 ......

    uj5u.com 2023-04-20 07:22:35 more