主頁 > .NET開發 > .NET 5 全自動分表組件,.NET 分表方案 ,分表架構與設計

.NET 5 全自動分表組件,.NET 分表方案 ,分表架構與設計

2021-11-01 06:03:02 .NET開發

 

 一、疑問&目的

 

 1.1 分表使用場景

  (1)可擴展架構設計,比如一個ERP用5年不卡,到了10就卡了因為資料太多了,這個時候很多人都是備份然后清空資料,這個作業大并且麻煩,以前的資料很難在使用

  (2) 資料量太多 ,例如每天都有 幾十上百萬的資料進入庫,如果不分表后面查詢將會非常緩慢

    (3)   性能瓶頸 ,資料庫現有資料超過1個億,很多情況下索引會莫名失效,性能大大下降,如果使用分表,我們只需要針對一個分表進行操作性能大大提升

 1.2  我的目的

說到ORM很多會想到EF Core Dapper SqlSugar Chloe  Freesql等,但是說到分表組件或許者大家想不到一個名詞

我寫這一篇文章最大的目的是想大家記住 全自動的分表組件 【 SqlSugar 】

沒錯SqlSugar是一個ORM框架,并且已經完美支持了自動分表 ,希望你能喜歡

 

二、SqlSugar分表優勢

2.1 簡單 

 CURD和分表一體化 ,小白也能很好的使用分表,只要會使用 ORM 就會使用分表 ,2者語法同步 就多 一個 .SplitTable   

 2.2 功能強大

支持 表結構同步,自動建表,強大的查詢陳述句,插入,更新,洗掉

 2.3 組件化設計

默認集成了按  日、周、月、季、年的方式表,  比如,我想根據加密演算法分表,或者根據多個欄位分表,或者不滿意現在的分表 都可以已擴展實作

    //實作下面介面就能將自定義的分表集成到ORM中
    public interface ISplitTableService
    {
        //1 根據現有表選出當前分表
        List<SplitTableInfo> GetAllTables(ISqlSugarClient db,EntityInfo EntityInfo,List<DbTableInfo> tableInfos);

        //2 獲取表名
        string GetTableName(ISqlSugarClient db, EntityInfo EntityInfo);
        string GetTableName(ISqlSugarClient db, EntityInfo EntityInfo, SplitType type);
        string GetTableName(ISqlSugarClient db, EntityInfo entityInfo, SplitType splitType, object fieldValue);

        //3 獲取分組欄位的值
        object GetFieldValue(ISqlSugarClient db, EntityInfo entityInfo, SplitType splitType, object entityValue);
    }
    //說白了重寫介面分為3類,基本要的引數都有現成的,可以模仿我現有分表的代碼輕松實作

  

三、 自帶分表的使用

自帶分表支持按年、按月、按日、按季、按周進行分表

 3.1 定義物體

我們定義一個物體,主鍵不能用自增或者int ,設為long或者guid都可以,我例子就用自帶的雪花ID實作分表

   [SplitTable(SplitType.Year)]//按年分表 (自帶分表支持 年、季、月、周、日)
   [SugarTable("SplitTestTable_{year}{month}{day}")]//生成表名格式 3個變數必須要有
    public class SplitTestTable 
    {
        [SugarColumn(IsPrimaryKey =true)]
        public long Id { get; set; }

        public string Name { get; set; }
        [SplitField] //分表欄位  在插入的時候會根據這個欄位插入哪個表,在更新洗掉的時候也能可方便的用這個欄位找出相關表
        public DateTime CreateTime { get; set; }
    } 

 3.2 初始化和同步結構

 (1)如果一張表沒有 查詢肯定會報錯,所以程式啟動時需要建一張表

    (2)假如分了20張表,物體類發生變更,那么 20張表可以自動同步結構,與物體一致

db.CodeFirst.SplitTables().InitTables<SplitTestTable>(); //程式啟動時加這一行

 3.2 查詢用法

 (1)基礎篩選

 下面運算式中的tas可以對當前分表進行篩選,Take(3) 表示最近3張表,如果是按年那么就是最近3年的資料,按月就是最近3個月的資料

Db.Queryable<SplitTestTable>().Where(it => it.Name.Contains("a")).SplitTable(tas => tas.Take(3)).ToList();//先過濾在合并
Db.Queryable<SplitTestTable>().SplitTable(tas => tas.Take(3)).Where(it => it.Name.Contains("a")).ToList();//先合并在過濾

 (2)精準篩選

根據分表欄位的值可以精準的定位到具體是哪一個分表

比Take(N)性能要高出很多

 var name=Db.SplitHelper<SplitTestTable>().GetTableName(data.CreateTime);
 Db.Queryable<SplitTestTable>().Where(it => it.Id==data.Id).SplitTable(tas => tas.InTableNames(name)).ToList();

(3)運算式過濾  

 Db.Queryable<SplitTestTable>().Where(it => it.Id==data.Id).SplitTable(tas => tas.Where(y=>y.TableName.Contains("2019"))).ToList();

  (4)  聯表查詢 

//分表使用聯表查詢
var list=db.Queryable<Order>()
              .SplitTable(tabs=>tabs.Take(3))//Order表只取最近3張表和Custom JOIN
              .LeftJoin<Custom>((o,c)=>o.CustomId==c.Id).Select((o,c)=>new { name=o.Name,cname=c.Name }).ToPageList(1,2);  

 (5)  分頁查詢  

  var count = 0;
  db.Queryable<SplitTestTable>().Where(it => it.Name.Contains("a")).SplitTable(tas => tas.Take(3)).ToPageList(1,2,ref count);//

  

3.3 插入 

因為我們用的是Long所以采用雪ID插入(guid也可以禁止使用自增列), 物體結構看上面 3.1

 var data = https://www.cnblogs.com/sunkaixuan/archive/2021/10/31/new SplitTestTable()
 {
       CreateTime=Convert.ToDateTime("2019-12-1"),
       Name="jack"
   };

  db.Insertable(data).SplitTable().ExecuteReturnSnowflakeId();//插入并回傳雪花ID  

因為我們是根據CreateTime進行的分表,生成的SQL陳述句如下:

INSERT INTO [SplitTestTable_20190101] --如果表不存在會自動建表
           ([Id],[Name],[CreateTime])
     VALUES
           (@Id,@Name,@CreateTime) ;

批量插入 

var datas = new List<SplitTestTable>(){new SplitTestTable(){CreateTime=Convert.ToDateTime("2019-12-1"),Name="jack"} ,
new SplitTestTable(){CreateTime=Convert.ToDateTime("2022-02-1"),Name="jack"},
new SplitTestTable(){CreateTime=Convert.ToDateTime("2020-02-1"),Name="jack"},
new SplitTestTable(){CreateTime=Convert.ToDateTime("2021-12-1"),Name="jack"}};

db.Insertable(datas).SplitTable().ExecuteReturnSnowflakeIdList();//插入回傳雪花ID集合

執行完生成的表

 

生成的Sql: 

自動識別4條記錄,分別插入4個不同的表中

  

 3.4 洗掉資料 

 (1)懶人模式洗掉

最近3張表都執行一遍洗掉

db.Deleteable<SplitTestTable>().In(id).SplitTable(tas=>tas.Take(3)).ExecuteCommand();

生在的SQL如下:

DELETE FROM [SplitTestTable_20220101] WHERE [Id] IN (1454675372531515392)

DELETE FROM [SplitTestTable_20210101] WHERE [Id] IN (1454675372531515392)

DELETE FROM [SplitTestTable_20200101] WHERE [Id] IN (1454675372531515392)

  (2)精準洗掉     

 相對于上面的操作性能更高,可以精準找到具體表

var deldata = https://www.cnblogs.com/sunkaixuan/archive/2021/10/31/new SplitTestTable()
            {
                Id = id,
                CreateTime = DateTime.Now
            };
 var tableName = db.SplitHelper(deldata).GetTableNames();
 db.Deleteable().Where(deldata).SplitTable(tas=>tas.InTableNames(tableName)).ExecuteCommand();

 生成的SQL如下:

DELETE FROM [SplitTestTable_20210101] WHERE [Id] IN (1454676863531089920)

 3.5 更新資料  

更新的用法基本上和洗掉一樣

//更新近3張表
db.Updateable(deldata).SplitTable(tas=>tas.Take(3)).ExecuteCommand();
 
//精準找到表名并且更新資料
var tableName = db.SplitHelper(deldata).GetTableNames();
db.Updateable(deldata).SplitTable(tas => tas.InTableNames(tableName)).ExecuteCommand();


//通過運算式過濾出要更新的表
db.Updateable(deldata).SplitTable(tas => tas.Where(y=>y.TableName.Contains("_2019"))).ExecuteCommand();

    

四、 自定義分表使用 

 上面的分表功能是我們自帶集成的,比如我想實作自定義的分表我該如何實作呢?

  4.1 按首字母拼音分表

  我們就寫個按24個字母進行分表的小例子,來學習一下如何自定義分表

  4.2  創建分表類

我們新建一個類繼承成ISplitTableService 介面 

 public class WordSplitService : ISplitTableService
    {
        /// <summary>
        /// 回傳資料用于 tas 進行篩選
        /// </summary>
        /// <param name="db"></param>
        /// <param name="EntityInfo"></param>
        /// <param name="tableInfos"></param>
        /// <returns></returns>
        public List<SplitTableInfo> GetAllTables(ISqlSugarClient db, EntityInfo EntityInfo, List<DbTableInfo> tableInfos)
        {
            List<SplitTableInfo> result = new List<SplitTableInfo>();
            foreach (var item in tableInfos)
            {
                if (item.Name.Contains(EntityInfo.DbTableName+"_First")) //區分標識如果不用正則符復雜一些,防止找錯表
                {
                    SplitTableInfo data = https://www.cnblogs.com/sunkaixuan/archive/2021/10/31/new SplitTableInfo()
                    {
                        TableName = item.Name //要用item.name不要寫錯了
                    };
                    result.Add(data);
                }
            }
            return result.OrderBy(it=>it.TableName).ToList();
        }

        /// 
        /// 獲取分表欄位的值
        /// 
        /// 
        /// 默認表名
        /// 
        /// 

  4.3  使用自定義分表

代碼:

//使用自定義分表
db.CurrentConnectionConfig.ConfigureExternalServices.SplitTableService =new WordSplitService();
//插入資料
db.Insertable(new WordTestTable(){CreateTime=DateTime.Now,Name="BC"}).SplitTable().ExecuteReturnSnowflakeId();
db.Insertable(new WordTestTable(){CreateTime = DateTime.Now,Name = "AC"}).SplitTable().ExecuteReturnSnowflakeId();
db.Insertable(new WordTestTable(){ CreateTime = DateTime.Now, Name = "ZBZ"}).SplitTable().ExecuteReturnSnowflakeId();      

 執行完資料庫就多了3張表,因為是按首字母分的表 ,插入了3條記錄自動創建了3張表

插入生成的SQL:

INSERT INTO [WordTestTable_FirstB]
           ([Id],[Name],[CreateTime])
     VALUES
           (@Id,@Name,@CreateTime) ;
INSERT INTO [WordTestTable_FirstA]
           ([Id],[Name],[CreateTime])
     VALUES
           (@Id,@Name,@CreateTime) ;
INSERT INTO [WordTestTable_FirstZ]
           ([Id],[Name],[CreateTime])
     VALUES
           (@Id,@Name,@CreateTime) ;

查詢指定表 

var listall = db.Queryable<WordTestTable>().Where(it => it.Name == "all").SplitTable(tas => tas.ContainsTableNames("_FirstA")).ToList();

生成的SQL:

SELECT * FROM  (SELECT [Id],[Name],[CreateTime] FROM [WordTestTable_FirstA]  WHERE ( [Name] = @Name0UnionAll1 )) unionTable  

 

SqlSugar ORM 新語法 

需要 NUGET安裝 SqlSugarCore  5.0.4.3-proview-03

以前有些人說SQLSUGAR聯表不優美,所以我也支了最優美聯表語法:

新語法1:

簡單的聯表

   var leftQueryable = db.Queryable<Custom>()
        .LeftJoin<OrderItem>((c, i) => c.Id == i.ItemId)
       .Select(c =>c).ToList(); 

SQL如下:

SELECT c.* FROM [Custom] c Left JOIN [OrderDetail] i ON ( [c].[Id] = [i].[ItemId] )  

新語法2:

表  和 Queryable 進行聯表

        var rigtQueryable = db.Queryable<Custom>()
            .LeftJoin<OrderItem>((o, i) => o.Id == i.ItemId)
                .Select(o => o);

        var List = db.Queryable<Order>()
            .LeftJoin(rigtQueryable, (c, j) => c.CustomId == j.Id)
            .Select(c => c).ToList();  

SQL如下:

SELECT c.* FROM [Order] c Left JOIN (SELECT o.* FROM [Custom] o Left JOIN [OrderDetail] i ON ( [o].[Id] = [i].[ItemId] )  ) j ON ( [c].[CustomId] = [j].[Id] )

新語法3

 Queryable 和表 進行聯表

    var leftQueryable = db.Queryable<Custom>()
        .LeftJoin<OrderItem>((c, i) => c.Id == i.ItemId)
         .Select(c =>c) ;

    var List = db.Queryable(leftQueryable)
        .LeftJoin<Order>((o, cu) => o.Id == cu.Id)
        .Select(o => o).ToList();  

SQL如下:

SELECT o.* FROM  (SELECT * FROM  (SELECT c.* FROM [Custom] c Left JOIN [OrderDetail] i ON ( [c].[Id] = [i].[ItemId] )  ) t ) o Left JOIN [Order] cu  ON ( [o].[Id] = [cu].[Id] )

  

總結

SqlSugar 一直在創新,并且越來越好,相信分表功能,新的語法一定會讓很多人喜歡

    

原始碼下載: 

 https://github.com/donet5/SqlSugar     沒點關注的點一波關注 ,你們的贊或者一個star就是我們這些開源些的動力

 

Nuget 安裝

 

 

  

  

  

  

轉載請註明出處,本文鏈接:https://www.uj5u.com/net/342976.html

標籤:.NET技术

上一篇:走進WPF之資源

下一篇:WPF 寫一個提醒工具軟體(完整專案)

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • WebAPI簡介

    Web體系結構: 有三個核心:資源(resource),URL(統一資源識別符號)和表示 他們的關系是這樣的:一個資源由一個URL進行標識,HTTP客戶端使用URL定位資源,表示是從資源回傳資料,媒體型別是資源回傳的資料格式。 接下來我們說下HTTP. HTTP協議的系統是一種無狀態的方式,使用請求/ ......

    uj5u.com 2020-09-09 22:07:47 more
  • asp.net core 3.1 入口:Program.cs中的Main函式

    本文分析Program.cs 中Main()函式中代碼的運行順序分析asp.net core程式的啟動,重點不是剖析原始碼,而是理清程式開始時執行的順序。到呼叫了哪些實體,哪些法方。asp.net core 3.1 的程式入口在專案Program.cs檔案里,如下。ususing System; us ......

    uj5u.com 2020-09-09 22:07:49 more
  • asp.net網站作為websocket服務端的應用該如何寫

    最近被websocket的一個問題困擾了很久,有一個需求是在web網站中搭建websocket服務。客戶端通過網頁與服務器建立連接,然后服務器根據ip給客戶端網頁發送資訊。 其實,這個需求并不難,只是剛開始對websocket的內容不太了解。上網搜索了一下,有通過asp.net core 實作的、有 ......

    uj5u.com 2020-09-09 22:08:02 more
  • ASP.NET 開源匯入匯出庫Magicodes.IE Docker中使用

    Magicodes.IE在Docker中使用 更新歷史 2019.02.13 【Nuget】版本更新到2.0.2 【匯入】修復單列匯入的Bug,單元測驗“OneColumnImporter_Test”。問題見(https://github.com/dotnetcore/Magicodes.IE/is ......

    uj5u.com 2020-09-09 22:08:05 more
  • 在webform中使用ajax

    如果你用過Asp.net webform, 說明你也算是.NET 開發的老兵了。WEBform應該是2011 2013左右,當時還用visual studio 2005、 visual studio 2008。后來基本都用的是MVC。 如果是新開發的專案,估計沒人會用webform技術。但是有些舊版 ......

    uj5u.com 2020-09-09 22:08:50 more
  • iis添加asp.net網站,訪問提示:由于擴展配置問題而無法提供您請求的

    今天在iis服務器配置asp.net網站,遇到一個問題,記錄一下: 問題:由于擴展配置問題而無法提供您請求的頁面。如果該頁面是腳本,請添加處理程式。如果應下載檔案,請添加 MIME 映射。 WindowServer2012服務器,添加角色安裝完.netframework和iis之后,運行aspx頁面 ......

    uj5u.com 2020-09-09 22:10:00 more
  • WebAPI-處理架構

    帶著問題去思考,大家好! 問題1:HTTP請求和回傳相應的HTTP回應資訊之間發生了什么? 1:首先是最底層,托管層,位于WebAPI和底層HTTP堆疊之間 2:其次是 訊息處理程式管道層,這里比如日志和快取。OWIN的參考是將訊息處理程式管道的一些功能下移到堆疊下端的OWIN中間件了。 3:控制器處理 ......

    uj5u.com 2020-09-09 22:11:13 more
  • 微信門戶開發框架-使用指導說明書

    微信門戶應用管理系統,采用基于 MVC + Bootstrap + Ajax + Enterprise Library的技術路線,界面層采用Boostrap + Metronic組合的前端框架,資料訪問層支持Oracle、SQLServer、MySQL、PostgreSQL等資料庫。框架以MVC5,... ......

    uj5u.com 2020-09-09 22:15:18 more
  • WebAPI-HTTP編程模型

    帶著問題去思考,大家好!它是什么?它包含什么?它能干什么? 訊息 HTTP編程模型的核心就是訊息抽象,表示為:HttPRequestMessage,HttpResponseMessage.用于客戶端和服務端之間交換請求和回應訊息。 HttpMethod類包含了一組靜態屬性: private stat ......

    uj5u.com 2020-09-09 22:15:23 more
  • 部署WebApi隨筆

    一、跨域 NuGet參考Microsoft.AspNet.WebApi.Cors WebApiConfig.cs中配置: // Web API 配置和服務 config.EnableCors(new EnableCorsAttribute("*", "*", "*")); 二、清除默認回傳XML格式 ......

    uj5u.com 2020-09-09 22:15:48 more
最新发布
  • C#多執行緒學習(二) 如何操縱一個執行緒

    <a href="https://www.cnblogs.com/x-zhi/" target="_blank"><img width="48" height="48" class="pfs" src="https://pic.cnblogs.com/face/2943582/20220801082530.png" alt="" /></...

    uj5u.com 2023-04-19 09:17:20 more
  • C#多執行緒學習(二) 如何操縱一個執行緒

    C#多執行緒學習(二) 如何操縱一個執行緒 執行緒學習第一篇:C#多執行緒學習(一) 多執行緒的相關概念 下面我們就動手來創建一個執行緒,使用Thread類創建執行緒時,只需提供執行緒入口即可。(執行緒入口使程式知道該讓這個執行緒干什么事) 在C#中,執行緒入口是通過ThreadStart代理(delegate)來提供的 ......

    uj5u.com 2023-04-19 09:16:49 more
  • 記一次 .NET某醫療器械清洗系統 卡死分析

    <a href="https://www.cnblogs.com/huangxincheng/" target="_blank"><img width="48" height="48" class="pfs" src="https://pic.cnblogs.com/face/214741/20200614104537.png" alt="" /&g...

    uj5u.com 2023-04-18 08:39:04 more
  • 記一次 .NET某醫療器械清洗系統 卡死分析

    一:背景 1. 講故事 前段時間協助訓練營里的一位朋友分析了一個程式卡死的問題,回過頭來看這個案例比較經典,這篇稍微整理一下供后來者少踩坑吧。 二:WinDbg 分析 1. 為什么會卡死 因為是表單程式,理所當然就是看主執行緒此時正在做什么? 可以用 ~0s ; k 看一下便知。 0:000> k # ......

    uj5u.com 2023-04-18 08:33:10 more
  • SignalR, No Connection with that ID,IIS

    <a href="https://www.cnblogs.com/smartstar/" target="_blank"><img width="48" height="48" class="pfs" src="https://pic.cnblogs.com/face/u36196.jpg" alt="" /></a>...

    uj5u.com 2023-03-30 17:21:52 more
  • 一次對pool的誤用導致的.net頻繁gc的診斷分析

    <a href="https://www.cnblogs.com/dotnet-diagnostic/" target="_blank"><img width="48" height="48" class="pfs" src="https://pic.cnblogs.com/face/3115652/20230225090434.png" alt=""...

    uj5u.com 2023-03-28 10:15:33 more
  • 一次對pool的誤用導致的.net頻繁gc的診斷分析

    <a href="https://www.cnblogs.com/dotnet-diagnostic/" target="_blank"><img width="48" height="48" class="pfs" src="https://pic.cnblogs.com/face/3115652/20230225090434.png" alt=""...

    uj5u.com 2023-03-28 10:13:31 more
  • C#遍歷指定檔案夾中所有檔案的3種方法

    <a href="https://www.cnblogs.com/xbhp/" target="_blank"><img width="48" height="48" class="pfs" src="https://pic.cnblogs.com/face/957602/20230310105611.png" alt="" /></a&...

    uj5u.com 2023-03-27 14:46:55 more
  • C#/VB.NET:如何將PDF轉為PDF/A

    <a href="https://www.cnblogs.com/Carina-baby/" target="_blank"><img width="48" height="48" class="pfs" src="https://pic.cnblogs.com/face/2859233/20220427162558.png" alt="" />...

    uj5u.com 2023-03-27 14:46:35 more
  • 武裝你的WEBAPI-OData聚合查詢

    <a href="https://www.cnblogs.com/podolski/" target="_blank"><img width="48" height="48" class="pfs" src="https://pic.cnblogs.com/face/616093/20140323000327.png" alt="" /><...

    uj5u.com 2023-03-27 14:46:16 more