主頁 > 後端開發 > 開源通用高性能的分布式id序列組件

開源通用高性能的分布式id序列組件

2023-07-01 07:44:09 後端開發

原文地址:https://ntopic.cn/p/2023062101/

  • Gitee源代碼倉庫:https://gitee.com/obullxl/sequence-jdbc
  • GitHub源代碼倉庫:https://github.com/obullxl/sequence-jdbc

分布式id序列說明

業務資料的存盤,少不了資料記錄的id序列,

id序列(或稱序列)的生成方式有很多種,比如當前時間戳、資料庫的序列值(Oracle的序列,MySQL的自增ID等)、UUID等方式,

這些生成方式都有一定的局限性,如時間戳在業務量較大時容易重復、Oracle序列和MySQL的自增ID限定了資料庫型別(且MySQL的自增ID只能保證單庫唯一,在分庫分表的場景下也不適用)、UUID容易重復且無法保證遞增等,

同時,一般業務資料的id序列通常會帶上一些業務資訊,比如增加業務標識前綴、增加年月日等資訊,業務id序列的處理變得多樣,則進一步要求業務id序列的生成通用且高效,

通用分布式id序列組件

為了屏蔽業務獲取id序列因資料庫型別、分庫分表等帶來的研發和維護成本,我們把分布式id序列的獲取抽取為一個通用組件,對業務統一介面和規范,

通用分布式id序列實作方式有很多,本文主要介紹一種基于資料表的實作方式,通過一張表記錄所有的業務序列名和值,業務根據序列名獲取下一個序列值(和Oracle序列型別,但是無需為每個序列創建序列,因此更簡單):

image

本方案的設計主要考量點:

  • 通用性:僅依賴一張序列資料表,JDBC支持的資料庫均可使用,包括SQLite、MySQL、Oracle、OceanBase等,
  • 高性能:本地快取一個序列區間,快取使用完之前無DB互動;快取的區間可設定,區間越大,DB訪問越少,性能越高,
  • 分布式:受益于集中式的序列資料表,保證了序列全域唯一,

分布式id序列組件設計

組件介面設計

組件介面只有1個,就是獲取序列:

/**
 * Author: [email protected]
 * Copyright (c) 2020-2023 All Rights Reserved.
 */
package cn.ntopic.sequence;

/**
 * 分布式序列服務
 *
 * @author obullxl 2023年06月21日: 新增
 */
public interface NTSequence {

    /**
     * 默認序列名稱
     */
    String DEFAULT_SEQUENCE_NAME = "DEFAULT";

    /**
     * 序列名稱最大長度
     */
    int MAX_SEQUENCE_NAME_LENGTH = 64;

    /**
     * 獲取下一個序列值
     *
     * @return 獲取默認序列的新的唯一的序列值 {@link #DEFAULT_SEQUENCE_NAME}
     * @throws IllegalArgumentException 引數非法
     */
    default long next() {
        return this.next(DEFAULT_SEQUENCE_NAME);
    }


    /**
     * 獲取下一個序列值
     *
     * @param sequenceName 序列名稱,非空,1~64字符,業務可隨意指定(如:用戶模塊為`USER`,訂單模塊為`ORDER`等)
     * @return 新的唯一的序列值
     * @throws IllegalArgumentException 引數非法
     */
    long next(String sequenceName);
}

組件可控引數

在追求通用性和性能的同時,以引數的方式供個性化調控:

  • id序列資料表名:默認值為nt_sequence;但對于不同的業務,對資料表名有要求規范(如:表名前置等),因此序列資料表名可設定
  • id序列起始值:默認值為1,即序列值從1開始遞增;但對于存量業務,id值起始值需要比存量最大值要大,否則容易重復
  • id序列最大值:默認值為99999999,序列值遞增到最大值,則回圈從起始值開始
  • 序列更新重試次數:默認值為10,當快取序列用盡,需要查詢和更新序列資料表,比較存在網路通訊和DB操作,不可避免存在例外失敗,失敗后會進行重試
  • 序列快取大小:默認值為1000,值越大,訪問DB越少,性能越高,序列的連續性越差(如:快取大小為1000,當序列用到400時,服務器重啟了,那么401~1000直接的序列就丟失了);相反,值越小,訪問DB越多,性能越低,序列的連續性越好,
/**
 * 屬性-資料源
 */
private final DataSource ntDataSource;

/**
 * 屬性-重試次數
 */
private int retryTimes = 10;

/**
 * 屬性-資料表名
 */
private String tableName = "nt_sequence";

/**
 * 屬性-序列獲取步長(即序列快取大小)
 */
private long step = 1000L;

/**
 * 屬性-序列最小值
 */
private long minValue = https://www.cnblogs.com/obullxl/archive/2023/06/30/1L;

/**
 * 屬性-序列最大值
 */
private long maxValue = 99999999L;

序列組件使用

  • Gitee源代碼倉庫:https://gitee.com/obullxl/sequence-jdbc
  • GitHub源代碼倉庫:https://github.com/obullxl/sequence-jdbc

目前JAR包已經發布,通過Gitee進行倉庫托管,也可直接使用,2步即可:

  • 第一步:在專案源代碼的根pom.xml中,設定倉庫地址:
<repositories>
   <repository>
      <id>Gitee-obullxl</id>
      <url>https://gitee.com/obullxl/maven-repository/master/repository</url>
   </repository>
</repositories>
  • 第二步:參考JAR包,僅需要依賴本JAR包,無其他JAR包依賴:
<dependency>
    <groupId>cn.ntopic</groupId>
    <artifactId>sequence-jdbc</artifactId>
    <version>1.0.1</version>
</dependency>

在業務代碼中呼叫序列組件樣例:

// 1. 構建資料源
DruidDataSource dataSource = new DruidDataSource();
dataSource.setUrl("jdbc:sqlite:/Users/obullxl/CodeSpace/sequence-jdbc/SequenceJDBC.sqlite");
dataSource.setDriverClassName("org.sqlite.JDBC");
dataSource.setPoolPreparedStatements(false);
dataSource.setMaxPoolPreparedStatementPerConnectionSize(-1);
dataSource.setTestOnBorrow(true);
dataSource.setTestOnReturn(false);
dataSource.setTestWhileIdle(true);
dataSource.setValidationQuery("SELECT '1' FROM sqlite_master LIMIT 1");

// 2. 初始化序列組件
NTSequenceImpl ntSequence = new NTSequenceImpl(dataSource);
ntSequence.setTableName(tableName);
ntSequence.createTable();
ntSequence.init();

// 3. 獲取序列值

@Autowire
@Qualifier("ntSequence")
private NTSequence ntSequence;

// 獲取`DEFAULT`默認序列ID
long newId1 = ntSequence.next();
long newId2 = ntSequence.next();
long newId3 = ntSequence.next();

// 獲取`USER`用戶ID:
long newUserId1 = ntSequence.next("USER");
long newUserId2 = ntSequence.next("USER");
long newUserId3 = ntSequence.next("USER");

// 獲取`ORDER`訂單ID:
long newOrderId1 = ntSequence.next("ORDER");
long newOrderId2 = ntSequence.next("ORDER");
long newOrderId3 = ntSequence.next("ORDER");

完整的使用方法,可引數源代碼倉庫說明檔案(README.md):

  • Gitee源代碼倉庫:https://gitee.com/obullxl/sequence-jdbc
  • GitHub源代碼倉庫:https://github.com/obullxl/sequence-jdbc

分布式id序列測驗用例

因為代碼較大,請直接查看源代碼:

  • Gitee測驗源代碼:https://gitee.com/obullxl/sequence-jdbc/blob/master/src/test/java/cn/ntopic/sequence/NTSequenceTest.java
  • GitHub測驗源代碼:https://github.com/obullxl/sequence-jdbc/blob/master/src/test/java/cn/ntopic/sequence/NTSequenceTest.java
------緣在,惜緣;緣去,隨緣!個人博客:http://ntopic.cn------

轉載請註明出處,本文鏈接:https://www.uj5u.com/houduan/556401.html

標籤:其他

上一篇:Java-語法基礎

下一篇:返回列表

標籤雲
其他(161921) Python(38266) JavaScript(25517) Java(18286) C(15238) 區塊鏈(8274) C#(7972) AI(7469) 爪哇(7425) MySQL(7278) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5876) 数组(5741) R(5409) Linux(5347) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4609) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2438) ASP.NET(2404) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) .NET技术(1985) HtmlCss(1979) 功能(1967) Web開發(1951) C++(1942) python-3.x(1918) 弹簧靴(1913) xml(1889) PostgreSQL(1881) .NETCore(1863) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【C++】Microsoft C++、C 和匯編程式檔案

    ......

    uj5u.com 2020-09-10 00:57:23 more
  • 例外宣告

    相比于斷言適用于排除邏輯上不可能存在的狀態,例外通常是用于邏輯上可能發生的錯誤。 例外宣告 Item 1:當函式不可能拋出例外或不能接受拋出例外時,使用noexcept 理由 如果不打算拋出例外的話,程式就會認為無法處理這種錯誤,并且應當盡早終止,如此可以有效地阻止例外的傳播與擴散。 示例 //不可 ......

    uj5u.com 2020-09-10 00:57:27 more
  • Codeforces 1400E Clear the Multiset(貪心 + 分治)

    鏈接:https://codeforces.com/problemset/problem/1400/E 來源:Codeforces 思路:給你一個陣列,現在你可以進行兩種操作,操作1:將一段沒有 0 的區間進行減一的操作,操作2:將 i 位置上的元素歸零。最終問:將這個陣列的全部元素歸零后操作的最少 ......

    uj5u.com 2020-09-10 00:57:30 more
  • UVA11610 【Reverse Prime】

    本人看到此題沒有翻譯,就附帶了一個自己的翻譯版本 思考 這一題,它的第一個要求是找出所有 $7$ 位反向質數及其質因數的個數。 我們應該需要質數篩篩選1~$10^{7}$的所有數,這里就不慢慢介紹了。但是,重讀題,我們突然發現反向質數都是 $7$ 位,而將它反過來后的數字卻是 $6$ 位數,這就說明 ......

    uj5u.com 2020-09-10 00:57:36 more
  • 統計區間素數數量

    1 #pragma GCC optimize(2) 2 #include <bits/stdc++.h> 3 using namespace std; 4 bool isprime[1000000010]; 5 vector<int> prime; 6 inline int getlist(int ......

    uj5u.com 2020-09-10 00:57:47 more
  • C/C++編程筆記:C++中的 const 變數詳解,教你正確認識const用法

    1、C中的const 1、區域const變數存放在堆疊區中,會分配記憶體(也就是說可以通過地址間接修改變數的值)。測驗代碼如下: 運行結果: 2、全域const變數存放在只讀資料段(不能通過地址修改,會發生寫入錯誤), 默認為外部聯編,可以給其他源檔案使用(需要用extern關鍵字修飾) 運行結果: ......

    uj5u.com 2020-09-10 00:58:04 more
  • 【C++犯錯記錄】VS2019 MFC添加資源不懂如何修改資源宏ID

    1. 首先在資源視圖中,添加資源 2. 點擊新添加的資源,復制自動生成的ID 3. 在解決方案資源管理器中找到Resource.h檔案,編輯,使用整個專案搜索和替換的方式快速替換 宏宣告 4. Ctrl+Shift+F 全域搜索,點擊查找全部,然后逐個替換 5. 為什么使用搜索替換而不使用屬性視窗直 ......

    uj5u.com 2020-09-10 00:59:11 more
  • 【C++犯錯記錄】VS2019 MFC不懂的批量添加資源

    1. 打開資源頭檔案Resource.h,在其中預先定義好宏 ID(不清楚其實ID值應該設定多少,可以先新建一個相同的資源項,再在這個資源的ID值的基礎上遞增即可) 2. 在資源視圖中選中專案資源,按F7編輯資源檔案,按 ID 型別 相對路徑的形式添加 資源。(別忘了先把檔案拷貝到專案中的res檔案 ......

    uj5u.com 2020-09-10 01:00:19 more
  • C/C++編程筆記:關于C++的參考型別,專供新手入門使用

    今天要講的是C++中我最喜歡的一個用法——參考,也叫別名。 參考就是給一個變數名取一個變數名,方便我們間接地使用這個變數。我們可以給一個變數創建N個參考,這N + 1個變數共享了同一塊記憶體區域。(參考型別的變數會占用記憶體空間,占用的記憶體空間的大小和指標型別的大小是相同的。雖然參考是一個物件的別名,但 ......

    uj5u.com 2020-09-10 01:00:22 more
  • 【C/C++編程筆記】從頭開始學習C ++:初學者完整指南

    眾所周知,C ++的學習曲線陡峭,但是花時間學習這種語言將為您的職業帶來奇跡,并使您與其他開發人員區分開。您會更輕松地學習新語言,形成真正的解決問題的技能,并在編程的基礎上打下堅實的基礎。 C ++將幫助您養成良好的編程習慣(即清晰一致的編碼風格,在撰寫代碼時注釋代碼,并限制類內部的可見性),并且由 ......

    uj5u.com 2020-09-10 01:00:41 more
最新发布
  • 開源通用高性能的分布式id序列組件

    業務資料的存盤,少不了資料記錄的id序列,id序列(或稱序列)的生成方式有很多種,比如當前時間戳、資料庫的序列值(Oracle的序列,MySQL的自增ID等)、UUID等方式,但這些生成方式均存在一定的局限性,本文介紹一種通用高性能的分布式id序列的設計思路…… ......

    uj5u.com 2023-07-01 07:44:09 more
  • Java-語法基礎

    > JDK8 > > 復習用 ## Java前置知識 1. JavaSE Java Standard Edition 標準版 支持面向桌面級應用(如Windows下的應用程式)的 Java平臺,提供了完整的Java核心API 此版本以前稱為 J2SE 2. JavaEE Java Enterpris ......

    uj5u.com 2023-07-01 07:43:49 more
  • Java基礎語法

    1、Java的八種基本資料型別 1、byte 1位元組 取值范圍:-128~127 2、short 2位元組 取值范圍:-32768~32767 3、int 4位元組 取值范圍:-231~231-1 # int是開發中最常用的,也是Java中默認的資料型別 4、long 8位元組 取值范圍:-263~263 ......

    uj5u.com 2023-07-01 07:43:33 more
  • 微信小程式訂閱模板訊息推送

    **背景** 在實際的小程式開發程序中往往需要用到給用戶發送訂閱訊息,比如:我們在店里掃碼點餐時在付款時往往彈出一個授權視窗(比如‘取餐通知’)這個時候我們就需要對接微信小程式的模板訊息。 [https://developers.weixin.qq.com/miniprogram/dev/OpenA ......

    uj5u.com 2023-07-01 07:43:29 more
  • 記一次Native memory leak排查程序

    路由計算服務是路由系統的核心服務,負責運單路由計劃的計算以及實操與計劃的匹配。在運維程序中,發現在長期不重啟的情況下,有TP99緩慢爬坡的現象。此外,在每周例行調度的試算程序中,能明顯看到記憶體的上漲。 ......

    uj5u.com 2023-07-01 07:43:24 more
  • 狂收 3.2k star!百度開源壓測工具,可模擬幾十億的并發場景,太強悍了

    dperf 是一款基于 DPDK 的 100Gbps 網路性能和負載測驗軟體,能夠每秒建立千萬級的 HTTP 連接、億級別的并發請求和數百 Gbps 的吞吐量。 ## 優點 ### 性能強大: - 基于 DPDK,使用一臺普通 x86 服務器就可以產生巨大的流量:千萬級的 HTTP 每秒新建連接數, ......

    uj5u.com 2023-07-01 07:43:20 more
  • 在python中實作使用迭代生成器yield減少記憶體占用的方法

    在python編碼中for回圈處理任務時,會將所有的待遍歷參量加載到記憶體中。其實這本沒有必要,因為這些參量很有可能是一次性使用的,甚至很多場景下這些參量是不需要同時存盤在記憶體中的,這時候就會用到本文所介紹的迭代生成器yield。 ### 1.基本使用 首先我們用一個例子來演示一下迭代生成器yield ......

    uj5u.com 2023-07-01 07:43:16 more
  • 使用Python字串訪問與修改區域變數

    在Python中定義一個函式時,就會把變數空間劃分為全域變數(global)與區域變數(local),如果是定義在一個類的成員函式中,那么就還有額外的成員變數(self)空間。那么,如果在實際操作中,想把這幾種不同的變數空間做一個分離的話,有沒有辦法呢? ### 1.讀取和修改區域變數 首先來看一下 ......

    uj5u.com 2023-07-01 07:43:11 more
  • Python Django Web開發實戰

    # Python Django全面介紹 Django是一個非常強大的Python Web開發框架,它以"快速開發"和"干凈、實用的設計"為設計宗旨。本文將從Django的基本概念開始,逐漸引導大家理解如何使用Django構建復雜的web應用程式。 ## Django基本概念與原理 首先,讓我們從Dj ......

    uj5u.com 2023-07-01 07:43:07 more
  • zip解壓和壓縮

    zip解壓和壓縮 引言 介紹zip檔案的概念 涉及到的Java類和包:java.util.zip https://blog.csdn.net/u012998680/article/details/126060855 壓縮檔案 準備壓縮的源檔案和目標zip檔案的路徑 創建FileOutputStrea ......

    uj5u.com 2023-07-01 07:43:02 more