主頁 > 後端開發 > 【MyBatis】saveBatch 性能調優

【MyBatis】saveBatch 性能調優

2023-05-25 07:55:50 後端開發

最近在壓測一批介面,發現介面處理速度慢的有點超出預期,感覺很奇怪,后面定位發現是資料庫批量保存這塊很慢, 

這個專案用的是 mybatis-plus,批量保存直接用的是 mybatis-plus 提供的 saveBatch, 我點進去看了下原始碼,感覺有點不太對勁:

 繼續追蹤了下,從這個代碼來看,確實是 for 回圈一條一條執行了 sqlSession.insert,下面的 consumer 執行的就是上面的 sqlSession.insert:

 然后累計一定數量后,一批 flush,從這點來看,這個 saveBach 的性能肯定比直接一條一條 insert 快,

我直接進行一個粗略的實驗,簡單創建了一張表來對比一波!

 

1、1000條資料,一條一條插入

@Test
void MybatisPlusSaveOne() {
    SqlSession sqlSession = sqlSessionFactory.openSession();
    try {
        StopWatch stopWatch = new StopWatch();
        stopWatch.start("mybatis plus save one");
        for (int i = 0; i < 1000; i++) {
            OpenTest openTest = new OpenTest();
            openTest.setA("a" + i);
            openTest.setB("b" + i);
            openTest.setC("c" + i);
            openTest.setD("d" + i);
            openTest.setE("e" + i);
            openTest.setF("f" + i);
            openTest.setG("g" + i);
            openTest.setH("h" + i);
            openTest.setI("i" + i);
            openTest.setJ("j" + i);
            openTest.setK("k" + i);
            //一條一條插入
            openTestService.save(openTest);
        }
        sqlSession.commit();
        stopWatch.stop();
        log.info("mybatis plus save one:" + stopWatch.getTotalTimeMillis());
    } finally {
        sqlSession.close();
    }
}

 可以看到,執行一批 1000 條數的批量保存,耗費的時間是 121011 毫秒,

 

2、1000條資料用 mybatis-plus 自帶的 saveBatch 插入

@Test
void MybatisPlusSaveBatch() {
    SqlSession sqlSession = sqlSessionFactory.openSession();
    try {
        List<OpenTest> openTestList = new ArrayList<>();
        for (int i = 0; i < 1000; i++) {
            OpenTest openTest = new OpenTest();
            openTest.setA("a" + i);
            openTest.setB("b" + i);
            openTest.setC("c" + i);
            openTest.setD("d" + i);
            openTest.setE("e" + i);
            openTest.setF("f" + i);
            openTest.setG("g" + i);
            openTest.setH("h" + i);
            openTest.setI("i" + i);
            openTest.setJ("j" + i);
            openTest.setK("k" + i);
            openTestList.add(openTest);
        }
        StopWatch stopWatch = new StopWatch();
        stopWatch.start("mybatis plus save batch");
        //批量插入
        openTestService.saveBatch(openTestList);
        sqlSession.commit();
        stopWatch.stop();
        log.info("mybatis plus save batch:" + stopWatch.getTotalTimeMillis());
    } finally {
        sqlSession.close();
    }
}

 耗費的時間是 59927 毫秒,比一條一條插入快了一倍,從這點來看,效率還是可以的,

然后常見的還有一種利用拼接 SQL 方式來實作批量插入,我們也來對比試試看性能如何,

3、1000 條資料用手動拼接 SQL 方式插入, 搞個手動拼接:

 來跑跑下性能如何:

@Test
void MapperSaveBatch() {
    SqlSession sqlSession = sqlSessionFactory.openSession();
    try {
        List<OpenTest> openTestList = new ArrayList<>();
        for (int i = 0; i < 1000; i++) {
            OpenTest openTest = new OpenTest();
            openTest.setA("a" + i);
            openTest.setB("b" + i);
            openTest.setC("c" + i);
            openTest.setD("d" + i);
            openTest.setE("e" + i);
            openTest.setF("f" + i);
            openTest.setG("g" + i);
            openTest.setH("h" + i);
            openTest.setI("i" + i);
            openTest.setJ("j" + i);
            openTest.setK("k" + i);
            openTestList.add(openTest);
        }
        StopWatch stopWatch = new StopWatch();
        stopWatch.start("mapper save batch");
        //手動拼接批量插入
        openTestMapper.saveBatch(openTestList);
        sqlSession.commit();
        stopWatch.stop();
        log.info("mapper save batch:" + stopWatch.getTotalTimeMillis());
    } finally {
        sqlSession.close();
    }
}

 耗時只有 2275 毫秒,性能比 mybatis-plus 自帶的 saveBatch 好了 26 倍!

這時,我又突然回想起以前直接用 JDBC 批量保存的介面,那都到這份上了,順帶也跑跑看!

4、1000 條資料用 JDBC executeBatch 插入

@Test
void JDBCSaveBatch() throws SQLException {
    SqlSession sqlSession = sqlSessionFactory.openSession();
    Connection connection = sqlSession.getConnection();
    connection.setAutoCommit(false);

    String sql = "insert into open_test(a,b,c,d,e,f,g,h,i,j,k) values(?,?,?,?,?,?,?,?,?,?,?)";
    PreparedStatement statement = connection.prepareStatement(sql);
    try {
        for (int i = 0; i < 1000; i++) {
            statement.setString(1,"a" + i);
            statement.setString(2,"b" + i);
            statement.setString(3, "c" + i);
            statement.setString(4,"d" + i);
            statement.setString(5,"e" + i);
            statement.setString(6,"f" + i);
            statement.setString(7,"g" + i);
            statement.setString(8,"h" + i);
            statement.setString(9,"i" + i);
            statement.setString(10,"j" + i);
            statement.setString(11,"k" + i);
            statement.addBatch();
        }
        StopWatch stopWatch = new StopWatch();
        stopWatch.start("JDBC save batch");
        statement.executeBatch();
        connection.commit();
        stopWatch.stop();
        log.info("JDBC save batch:" + stopWatch.getTotalTimeMillis());
    } finally {
        statement.close();
        sqlSession.close();
    }
}

 

耗時是 55663 毫秒,所以 JDBC executeBatch 的性能跟 mybatis-plus 的 saveBatch 一樣(底層一樣),

綜上所述,拼接 SQL 的方式實作批量保存效率最佳

但是我又不太甘心,總感覺應該有什么別的法子,然后我就繼續跟著 mybatis-plus 的原始碼 debug 了一下,跟到了 MySQL 的驅動,突然發現有個 if 里面的條件有點顯眼:

 就是這個叫 rewriteBatchedStatements 的玩意,從名字來看是要重寫批操作的 Statement,前面batchHasPlainStatements 已經是 false,取反肯定是 true,所以只要這引數是 true 就會進行一波操作,

我看了下默認是 false,

 同時我也上網查了下 rewriteBatchedStatements 引數,好家伙,好像有用!

 直接將 jdbcurl 加上了這個引數:

 然后繼續跑了下 mybatis-plus 自帶的 saveBatch,果然性能大大提高,跟拼接 SQL 差不多!

 順帶我也跑了下 JDBC 的 executeBatch ,果然也提高了,

 然后我繼續 debug ,來探探 rewriteBatchedStatements 究竟是怎么 rewrite 的! 如果這個引數是 true,則會執行下面的方法且直接回傳:

 看下 executeBatchedInserts 究竟干了什么:

 看到上面我圈出來的代碼沒,好像已經有點感覺了,繼續往下 debug,

果然!SQL 陳述句被 rewrite了:

 對插入而言,所謂的 rewrite 其實就是將一批插入拼接成 insert into xxx values (a),(b),(c)...這樣一條陳述句的形式然后執行,這樣一來跟拼接 SQL 的效果是一樣的,

那為什么默認不給這個引數設定為 true 呢?主要有以下兩點:

如果批量陳述句中的某些陳述句失敗,則默認重寫會導致所有陳述句都失敗,

批量陳述句的某些陳述句引數不一樣,則默認重寫會使得查詢快取未命中,

看起來影響不大,所以我給我的專案設定上了這個引數!

最后

稍微總結下我粗略的對比(雖然粗略,但實驗結果符合原理層面的理解),如果你想更準確地做實驗,可以使用 JMH,并且測驗更多組數(如 5000,10000等)的情況,

 

所以如果有使用 JDBC 的 Batch 性能方面的需求,要將 rewriteBatchedStatements 設定為 true,這樣能提高很多性能,

然后如果喜歡手動拼接 SQL 要注意一次拼接的數量,分批處理,

 

轉載請註明出處,本文鏈接:https://www.uj5u.com/houduan/553284.html

標籤:其他

上一篇:一步步完整搭建一個圖紙管理系統(Django+Vue3)

下一篇:返回列表

標籤雲
其他(159602) Python(38169) JavaScript(25446) Java(18123) C(15231) 區塊鏈(8268) C#(7972) AI(7469) 爪哇(7425) MySQL(7208) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5873) 数组(5741) R(5409) Linux(5340) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4576) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2433) ASP.NET(2403) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) .NET技术(1976) 功能(1967) Web開發(1951) HtmlCss(1942) C++(1922) python-3.x(1918) 弹簧靴(1913) xml(1889) PostgreSQL(1878) .NETCore(1861) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【C++】Microsoft C++、C 和匯編程式檔案

    ......

    uj5u.com 2020-09-10 00:57:23 more
  • 例外宣告

    相比于斷言適用于排除邏輯上不可能存在的狀態,例外通常是用于邏輯上可能發生的錯誤。 例外宣告 Item 1:當函式不可能拋出例外或不能接受拋出例外時,使用noexcept 理由 如果不打算拋出例外的話,程式就會認為無法處理這種錯誤,并且應當盡早終止,如此可以有效地阻止例外的傳播與擴散。 示例 //不可 ......

    uj5u.com 2020-09-10 00:57:27 more
  • Codeforces 1400E Clear the Multiset(貪心 + 分治)

    鏈接:https://codeforces.com/problemset/problem/1400/E 來源:Codeforces 思路:給你一個陣列,現在你可以進行兩種操作,操作1:將一段沒有 0 的區間進行減一的操作,操作2:將 i 位置上的元素歸零。最終問:將這個陣列的全部元素歸零后操作的最少 ......

    uj5u.com 2020-09-10 00:57:30 more
  • UVA11610 【Reverse Prime】

    本人看到此題沒有翻譯,就附帶了一個自己的翻譯版本 思考 這一題,它的第一個要求是找出所有 $7$ 位反向質數及其質因數的個數。 我們應該需要質數篩篩選1~$10^{7}$的所有數,這里就不慢慢介紹了。但是,重讀題,我們突然發現反向質數都是 $7$ 位,而將它反過來后的數字卻是 $6$ 位數,這就說明 ......

    uj5u.com 2020-09-10 00:57:36 more
  • 統計區間素數數量

    1 #pragma GCC optimize(2) 2 #include <bits/stdc++.h> 3 using namespace std; 4 bool isprime[1000000010]; 5 vector<int> prime; 6 inline int getlist(int ......

    uj5u.com 2020-09-10 00:57:47 more
  • C/C++編程筆記:C++中的 const 變數詳解,教你正確認識const用法

    1、C中的const 1、區域const變數存放在堆疊區中,會分配記憶體(也就是說可以通過地址間接修改變數的值)。測驗代碼如下: 運行結果: 2、全域const變數存放在只讀資料段(不能通過地址修改,會發生寫入錯誤), 默認為外部聯編,可以給其他源檔案使用(需要用extern關鍵字修飾) 運行結果: ......

    uj5u.com 2020-09-10 00:58:04 more
  • 【C++犯錯記錄】VS2019 MFC添加資源不懂如何修改資源宏ID

    1. 首先在資源視圖中,添加資源 2. 點擊新添加的資源,復制自動生成的ID 3. 在解決方案資源管理器中找到Resource.h檔案,編輯,使用整個專案搜索和替換的方式快速替換 宏宣告 4. Ctrl+Shift+F 全域搜索,點擊查找全部,然后逐個替換 5. 為什么使用搜索替換而不使用屬性視窗直 ......

    uj5u.com 2020-09-10 00:59:11 more
  • 【C++犯錯記錄】VS2019 MFC不懂的批量添加資源

    1. 打開資源頭檔案Resource.h,在其中預先定義好宏 ID(不清楚其實ID值應該設定多少,可以先新建一個相同的資源項,再在這個資源的ID值的基礎上遞增即可) 2. 在資源視圖中選中專案資源,按F7編輯資源檔案,按 ID 型別 相對路徑的形式添加 資源。(別忘了先把檔案拷貝到專案中的res檔案 ......

    uj5u.com 2020-09-10 01:00:19 more
  • C/C++編程筆記:關于C++的參考型別,專供新手入門使用

    今天要講的是C++中我最喜歡的一個用法——參考,也叫別名。 參考就是給一個變數名取一個變數名,方便我們間接地使用這個變數。我們可以給一個變數創建N個參考,這N + 1個變數共享了同一塊記憶體區域。(參考型別的變數會占用記憶體空間,占用的記憶體空間的大小和指標型別的大小是相同的。雖然參考是一個物件的別名,但 ......

    uj5u.com 2020-09-10 01:00:22 more
  • 【C/C++編程筆記】從頭開始學習C ++:初學者完整指南

    眾所周知,C ++的學習曲線陡峭,但是花時間學習這種語言將為您的職業帶來奇跡,并使您與其他開發人員區分開。您會更輕松地學習新語言,形成真正的解決問題的技能,并在編程的基礎上打下堅實的基礎。 C ++將幫助您養成良好的編程習慣(即清晰一致的編碼風格,在撰寫代碼時注釋代碼,并限制類內部的可見性),并且由 ......

    uj5u.com 2020-09-10 01:00:41 more
最新发布
  • 【MyBatis】saveBatch 性能調優

    最近在壓測一批介面,發現介面處理速度慢的有點超出預期,感覺很奇怪,后面定位發現是資料庫批量保存這塊很慢。 這個專案用的是 mybatis-plus,批量保存直接用的是 mybatis-plus 提供的 saveBatch。 我點進去看了下原始碼,感覺有點不太對勁: 繼續追蹤了下,從這個代碼來看,確實是 ......

    uj5u.com 2023-05-25 07:55:50 more
  • 一步步完整搭建一個圖紙管理系統(Django+Vue3)

    # 圖紙管理系統 ## 一、初步構建后端專案 ### 1、打開已經創建好的虛擬環境:激活activate(推薦使用虛擬環境)并創建專案 ![](https://img2023.cnblogs.com/blog/2240937/202305/2240937-20230524164953360-1300 ......

    uj5u.com 2023-05-25 07:54:59 more
  • Python檔案讀寫、StringIO和BytesIO

    ### StringIO和BytesIO 很多時候,資料讀寫不一定是檔案,也可以在記憶體中讀寫。StringIO就是在記憶體中讀寫str。 要把str寫入StringIO,我們需要先創建一個StringIO,然后,像檔案一樣寫入即可: ```python >>> from io import Strin ......

    uj5u.com 2023-05-25 07:54:32 more
  • Java開啟異步的兩種方式

    # 二、Java開啟異步的兩種方式 ## 1、注解開啟:==@Async== ### 1.1、配置異步的執行緒池 - 必須配置異步執行緒池,否則異步不會生效。 - @EnableAsync 注解:指定異步執行緒池。不指定默認使用:SimpleAsyncTaskExecutor執行緒池 - SimpleAsy ......

    uj5u.com 2023-05-25 07:54:24 more
  • Python從0到1丨了解影像形態學運算中腐蝕和膨脹

    摘要:這篇文章將詳細講解影像形態學知識,主要介紹影像腐蝕處理和膨脹處理。 本文分享自華為云社區《[Python從零到壹] 四十七.影像增強及運算篇之腐蝕和膨脹詳解》,作者: eastmount 。 一.形態學理論知識 數學形態學的應用可以簡化影像資料,保持它們基本的形狀特征,并出去不相干的結構。數學 ......

    uj5u.com 2023-05-25 07:54:06 more
  • minikub linux安裝

    親測好使的安裝方式親測好使的安裝方式親測好使的安裝方式親測好使的安裝方式親測好使的安裝方式親測好使的安裝方式親測好使的安裝方式親測好使的安裝方式親測好使的安裝方式親測好使的安裝方式親測好使的安裝方式親測好使的安裝方式親測好使的安裝方式親測好使的安裝方式親測好使的安裝方式親測好使的安裝方式親測好使的安 ......

    uj5u.com 2023-05-25 07:53:59 more
  • Java如何生成亂數?要不要了解一下!

    我們在學習 Java 基礎時就知道可以生成亂數,可以為我們枯燥的學習增加那么一丟丟的樂趣。本文就來介紹 Java 亂數。 ......

    uj5u.com 2023-05-25 07:53:55 more
  • Ruby教程_編程入門自學教程_菜鳥教程-免費教程分享

    ## 教程簡介 Ruby,一種簡單快捷的面向物件(面向物件程式設計)腳本語言,在20世紀90年代由日本人松本行弘(Yukihiro Matsumoto)開發,遵守GPL協議和Ruby License。它的靈感與特性來自于 Perl、Smalltalk、Eiffel、Ada以及 Lisp 語言。由 R ......

    uj5u.com 2023-05-25 07:53:51 more
  • Java配置執行緒池

    # 一、Java配置執行緒池 ## 1、執行緒池==分類==、其他 ### 1.1、分類 ==IO密集型 和 CPU密集型== 任務的特點不同,因此針對不同型別的任務,選擇不同型別的執行緒池可以獲得更好的性能表現。 #### 1.1. IO密集型任務 ? IO密集型任務的特點是需要頻繁讀寫磁盤、網路或者其 ......

    uj5u.com 2023-05-25 07:53:47 more
  • Spring Boot 我隨手封裝了一個萬能的 Excel 匯出工具,傳什么都能

    ## 前言 如題,這個小玩意,就是不限制你查的是哪張表,用的是什么類。 我直接一把梭,嘎嘎給你一頓匯出。 我知道,這是很多人都想過的, 至少我就收到很多人問過我這個類似的問題。 我也跟他們說了,但是他們就是不動手,其實真的很簡單。 不動手怎么辦? 我出手唄。 不多說開搞 。 ## 正文 玩法很簡單。 ......

    uj5u.com 2023-05-25 07:52:22 more