主頁 > 後端開發 > SQL優化終于干掉了“distinct”

SQL優化終于干掉了“distinct”

2020-10-08 21:40:32 後端開發

SQL優化之多表聯合查詢干掉“distinct”去重關鍵字

  • 一、優化目的
  • 二、優化之前的sql長這樣
  • 三、DISTINCT關鍵字的用法
  • 四、談:如何優化distinct的sql
  • 五、distinct真的和group by等價嗎?
  • 六、優化后的sql長啥樣?
  • 七、總結

一、優化目的

在我提交了代碼的時候,架構師給我指出我這個sql這樣寫會有問題,因為在分庫分表的時候,是不支持子查詢的,

所以需要把多表的子查詢的sql結構進行優化,

二、優化之前的sql長這樣

是不是挺恐怖的;(此處為了脫敏,我把相關的sql關鍵詞都給打碼掉了)

在這里插入圖片描述
這個sql的執行步驟如下:
1、查詢出來d表中的某個id欄位包含多個id值的所有的資料(因為此表是1-n的關系,所以需要去重,僅需要拿到不重復的id才可以繼續下一個步驟);可以看到此步驟我把查詢出來的多個值的結果給生成的了一個子表名為sss;

2、下一個步驟就是需要進行排序(以時間進行倒序排序,因為要在前臺進行按時間進行展示);

3、第3步就是把這些結果與a表進行合并,查詢出來排序后的每個id的資訊;然后進行分頁處理;

其他的可以不必關心,最終要的是去重關鍵字(DISTINCT),拿小本本記號,一會要考哦,

三、DISTINCT關鍵字的用法

實踐是驗證真理的唯一標準

例如有下表:

可以看到nameproduct_unit列有可能是重復的

mysql> SELECT t1.id,t1.name,t1.product_unit  FROM dd_product_category t1;
+----+----------+--------------+
| id | name     | product_unit |
+----+----------+--------------+
| 55 | 飲料     ||
| 56 | 飲料     ||
| 57 | 零食     ||
| 59 | 膨化食品 ||
| 60 | 方便食品 ||
| 61 | 自熱火鍋 ||
| 62 | 方便面   ||
| 63 | 礦泉水   ||
| 64 | 糖果     |              |
| 65 | 酒類     ||
| 66 | 烈酒     ||
| 67 | 啤酒     ||
| 68 | 預調酒   ||
+----+----------+--------------+
13 rows in set (0.13 sec)

mysql> 
mysql> 

如何我們想只拿到name或者product_unit列的值并且不想要重復的值該怎么辦?

1、拿到單個值是好拿的,但是是存在重復的資料的,這些重復的資料我們只保留一個就可以了,那么該怎么做呢?


mysql> SELECT t1.product_unit  FROM dd_product_category t1;
+--------------+
| product_unit |
+--------------+
||
||
||
||
||
||
||
||
|              |
||
||
||
||
+--------------+
13 rows in set (19.31 sec)

mysql> 

2、去除重復列

mysql> 
mysql> SELECT DISTINCT t1.product_unit  FROM dd_product_category t1;
+--------------+
| product_unit |
+--------------+
||
||
||
||
||
|              |
+--------------+
6 rows in set (0.11 sec)

mysql> 

是不是很簡單,雖然看著簡單,但是如果多表子查詢的時候,就會出現問題,例如你想要查詢表a,b,c三個表的資料,這三個表必然都是有關系的,

a和b是1-n的關系,但是你只有b表中id,你需要先查詢出來b表的資料,然后利用b表的資料去查詢a表的資料,然后再去查詢c表的資料,

想必肯定是很繞的,

整個程序中你肯定是需要去重的

當整個sql寫完,基本上跟我寫的優化前的sql也就差不多了,(多表嵌套,多sql嵌套sql,啦啦啦一大堆),

優化思路還是有很多的,當時能想到的就是把這個復雜的sql拆分成多個簡單的sql執行,然后使用Java后臺代碼進行處理,(對于不甘于現狀的我,想找到一個比這個更友好的解決方案的我,我是不會屈服這個問題的,

四、談:如何優化distinct的sql

說到這里,先給大家放上一個鏈接:

  • 1、(Mysql5.7官方手冊中提及到的關于優化distinct的方法)
    https://dev.mysql.com/doc/refman/5.7/en/distinct-optimization.html

  • 2、還有一個優化group by的:
    https://dev.mysql.com/doc/refman/5.7/en/group-by-optimization.html

推薦大家閱讀,

Mysql5.7官方手冊中提及到的關于優化distinct的方法,原文如下:

MySQL 5.7 Reference Manual / … / DISTINCT Optimization

8.2.1.16 DISTINCT Optimization

DISTINCT combined with ORDER BY needs a temporary table in many cases.

distinct 與order by 結合的許多情況下需要建一個臨時表;

Because DISTINCT may use GROUP BY, learn how MySQL works with columns in ORDER BY or HAVING clauses that are not part of the selected columns. See Section 12.20.3, “MySQL Handling of GROUP BY”.

因為distinct可能使用group by,了解MySQL如何處理按order by 列或者具有不屬于所選列的子句,見12.20.3節, “MySQL Handling of GROUP BY”.

In most cases, a DISTINCT clause can be considered as a special case of GROUP BY. For example, the following two queries are equivalent:

在大多數情況下,一個不同的子句可以被認為是group by 的特殊情況,例如下面這兩個查詢是等價的:

SELECT DISTINCT c1, c2, c3 FROM t1
WHERE c1 > const;
SELECT c1, c2, c3 FROM t1
WHERE c1 > const GROUP BY c1, c2, c3;

Due to this equivalence, the optimizations applicable to GROUP BY queries can be also applied to queries with a DISTINCT clause. Thus, for more details on the optimization possibilities for DISTINCT queries, see Section 8.2.1.15, “GROUP BY Optimization”.

由于這種等價性,適用于group by查詢的優化,也可以應用于具有不同子句的查詢,因此,關于distinct的查詢優化的更多細節可以參考Section 8.2.1.15, “GROUP BY Optimization”.

When combining LIMIT row_count with DISTINCT, MySQL stops as soon as it finds row_count unique rows.

當row_count與distinct一起使用時,MySQL一旦發現row_count是唯一的行,就會停止,

If you do not use columns from all tables named in a query, MySQL stops scanning any unused tables as soon as it finds the first match. In the following case, assuming that t1 is used before t2 (which you can check with EXPLAIN), MySQL stops reading from t2 (for any particular row in t1) when it finds the first row in t2:

如果在查詢中不適用來自所有表的列,MySQL一旦找到第一個匹配項就會停止掃描任何未使用的表,

在下面的例子中,假設t1在t2之前使用(你可以使用explanin來檢查),MySQL在找到t2的第一行時停止從t2讀取(對于t1中的任何特定行),

SELECT DISTINCT t1.a FROM t1, t2 where t1.a=t2.a;

官方的手冊中寫到的,真是句句扣心呀!!!

總結有以下比較重要的幾點:

  • 1、distinct與group by幾乎等價;
  • 2、distinct的相關優化與group by的查詢優化方法是等價的;

五、distinct真的和group by等價嗎?

我們抱著試試看的態度,去做個試驗,

就以下列這個效果為最終目的好了:

mysql> 
mysql> SELECT DISTINCT t1.product_unit  FROM dd_product_category t1;
+--------------+
| product_unit |
+--------------+
||
||
||
||
||
|              |
+--------------+
6 rows in set (0.11 sec)

mysql> 

使用group by去重:

mysql> select  t1.product_unit from dd_product_category t1 group by t1.product_unit;
+--------------+
| product_unit |
+--------------+
|              |
||
||
||
||
||
+--------------+
6 rows in set (19.46 sec)

mysql> 

可以看到,最終拿到的資料是一模一樣的,

那么我們試驗是成功的,distinct的效果和group by的效果是一樣的,

那么我們優化distinct就變向的去優化group by了(我優化前的sql并未使用group by所以談不上優化group by,只能說是把distinct的復雜sql改造成group by 的sql),

打開我前面提到的這個優化group by的官方手冊:
https://dev.mysql.com/doc/refman/5.7/en/group-by-optimization.html

由于原文比較長,這里就不在過多贅述,

現在需要做的就是把distinct改造成group by的sql語法的寫法,

六、優化后的sql長啥樣?

怎么樣,改造后的sql,是不是還挺清爽的,

1、我們扔掉了多個嵌套sql

2、也不用去生成一個sss的臨時表了

在這里插入圖片描述

七、總結

對于本人而言學到了:

  • 1、distinct與group by幾乎等價;
  • 2、distinct的相關優化與group by的查詢優化方法是等價的;
  • 3、如果distinct的不能讓sql最優化,那么可以嘗試著使用group by的方式去改造一下,

這些我都上傳到了百度云,
在這里插入圖片描述

為了防止鏈接丟失可以關注公眾號,回復:"mysql",即可拿到MySQL相關的全部精彩內容,

歡迎一起學習,一起交流,一起進步,

關注我微信公眾號第一時間推送給你精彩內容哦:

回復選單,更有好禮,驚喜在等著你,

在這里插入圖片描述

快來我粉絲群:每天歡快的玩耍(微信掃描二維碼即可加入,群馬上滿,抓緊啦!!!)
在這里插入圖片描述

TrueDei CSDN認證博客專家 Linux 分布式 Java
不荒廢現在,不畏懼未來!我認為把知識給別人講會,講明白,自己才徹底明白,努力把文章寫好,寫明白每一篇文章,分享給更多人,

轉載請註明出處,本文鏈接:https://www.uj5u.com/houduan/163487.html

標籤:java

上一篇:優質高效!阿里新產架構進階手冊,Github已星標71.6k

下一篇:騰訊Java社招四面面經分享(4年java經驗者)

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【C++】Microsoft C++、C 和匯編程式檔案

    ......

    uj5u.com 2020-09-10 00:57:23 more
  • 例外宣告

    相比于斷言適用于排除邏輯上不可能存在的狀態,例外通常是用于邏輯上可能發生的錯誤。 例外宣告 Item 1:當函式不可能拋出例外或不能接受拋出例外時,使用noexcept 理由 如果不打算拋出例外的話,程式就會認為無法處理這種錯誤,并且應當盡早終止,如此可以有效地阻止例外的傳播與擴散。 示例 //不可 ......

    uj5u.com 2020-09-10 00:57:27 more
  • Codeforces 1400E Clear the Multiset(貪心 + 分治)

    鏈接:https://codeforces.com/problemset/problem/1400/E 來源:Codeforces 思路:給你一個陣列,現在你可以進行兩種操作,操作1:將一段沒有 0 的區間進行減一的操作,操作2:將 i 位置上的元素歸零。最終問:將這個陣列的全部元素歸零后操作的最少 ......

    uj5u.com 2020-09-10 00:57:30 more
  • UVA11610 【Reverse Prime】

    本人看到此題沒有翻譯,就附帶了一個自己的翻譯版本 思考 這一題,它的第一個要求是找出所有 $7$ 位反向質數及其質因數的個數。 我們應該需要質數篩篩選1~$10^{7}$的所有數,這里就不慢慢介紹了。但是,重讀題,我們突然發現反向質數都是 $7$ 位,而將它反過來后的數字卻是 $6$ 位數,這就說明 ......

    uj5u.com 2020-09-10 00:57:36 more
  • 統計區間素數數量

    1 #pragma GCC optimize(2) 2 #include <bits/stdc++.h> 3 using namespace std; 4 bool isprime[1000000010]; 5 vector<int> prime; 6 inline int getlist(int ......

    uj5u.com 2020-09-10 00:57:47 more
  • C/C++編程筆記:C++中的 const 變數詳解,教你正確認識const用法

    1、C中的const 1、區域const變數存放在堆疊區中,會分配記憶體(也就是說可以通過地址間接修改變數的值)。測驗代碼如下: 運行結果: 2、全域const變數存放在只讀資料段(不能通過地址修改,會發生寫入錯誤), 默認為外部聯編,可以給其他源檔案使用(需要用extern關鍵字修飾) 運行結果: ......

    uj5u.com 2020-09-10 00:58:04 more
  • 【C++犯錯記錄】VS2019 MFC添加資源不懂如何修改資源宏ID

    1. 首先在資源視圖中,添加資源 2. 點擊新添加的資源,復制自動生成的ID 3. 在解決方案資源管理器中找到Resource.h檔案,編輯,使用整個專案搜索和替換的方式快速替換 宏宣告 4. Ctrl+Shift+F 全域搜索,點擊查找全部,然后逐個替換 5. 為什么使用搜索替換而不使用屬性視窗直 ......

    uj5u.com 2020-09-10 00:59:11 more
  • 【C++犯錯記錄】VS2019 MFC不懂的批量添加資源

    1. 打開資源頭檔案Resource.h,在其中預先定義好宏 ID(不清楚其實ID值應該設定多少,可以先新建一個相同的資源項,再在這個資源的ID值的基礎上遞增即可) 2. 在資源視圖中選中專案資源,按F7編輯資源檔案,按 ID 型別 相對路徑的形式添加 資源。(別忘了先把檔案拷貝到專案中的res檔案 ......

    uj5u.com 2020-09-10 01:00:19 more
  • C/C++編程筆記:關于C++的參考型別,專供新手入門使用

    今天要講的是C++中我最喜歡的一個用法——參考,也叫別名。 參考就是給一個變數名取一個變數名,方便我們間接地使用這個變數。我們可以給一個變數創建N個參考,這N + 1個變數共享了同一塊記憶體區域。(參考型別的變數會占用記憶體空間,占用的記憶體空間的大小和指標型別的大小是相同的。雖然參考是一個物件的別名,但 ......

    uj5u.com 2020-09-10 01:00:22 more
  • 【C/C++編程筆記】從頭開始學習C ++:初學者完整指南

    眾所周知,C ++的學習曲線陡峭,但是花時間學習這種語言將為您的職業帶來奇跡,并使您與其他開發人員區分開。您會更輕松地學習新語言,形成真正的解決問題的技能,并在編程的基礎上打下堅實的基礎。 C ++將幫助您養成良好的編程習慣(即清晰一致的編碼風格,在撰寫代碼時注釋代碼,并限制類內部的可見性),并且由 ......

    uj5u.com 2020-09-10 01:00:41 more
最新发布
  • Rust中的智能指標:Box<T> Rc<T> Arc<T> Cell<T> RefCell<T> Weak

    Rust中的智能指標是什么 智能指標(smart pointers)是一類資料結構,是擁有資料所有權和額外功能的指標。是指標的進一步發展 指標(pointer)是一個包含記憶體地址的變數的通用概念。這個地址參考,或 ” 指向”(points at)一些其 他資料 。參考以 & 符號為標志并借用了他們所 ......

    uj5u.com 2023-04-20 07:24:10 more
  • Java的值傳遞和參考傳遞

    值傳遞不會改變本身,參考傳遞(如果傳遞的值需要實體化到堆里)如果發生修改了會改變本身。 1.基本資料型別都是值傳遞 package com.example.basic; public class Test { public static void main(String[] args) { int ......

    uj5u.com 2023-04-20 07:24:04 more
  • [2]SpinalHDL教程——Scala簡單入門

    第一個 Scala 程式 shell里面輸入 $ scala scala> 1 + 1 res0: Int = 2 scala> println("Hello World!") Hello World! 檔案形式 object HelloWorld { /* 這是我的第一個 Scala 程式 * 以 ......

    uj5u.com 2023-04-20 07:23:58 more
  • 理解函式指標和回呼函式

    理解 函式指標 指向函式的指標。比如: 理解函式指標的偽代碼 void (*p)(int type, char *data); // 定義一個函式指標p void func(int type, char *data); // 宣告一個函式func p = func; // 將指標p指向函式func ......

    uj5u.com 2023-04-20 07:23:52 more
  • Django筆記二十五之資料庫函式之日期函式

    本文首發于公眾號:Hunter后端 原文鏈接:Django筆記二十五之資料庫函式之日期函式 日期函式主要介紹兩個大類,Extract() 和 Trunc() Extract() 函式作用是提取日期,比如我們可以提取一個日期欄位的年份,月份,日等資料 Trunc() 的作用則是截取,比如 2022-0 ......

    uj5u.com 2023-04-20 07:23:45 more
  • 一天吃透JVM面試八股文

    什么是JVM? JVM,全稱Java Virtual Machine(Java虛擬機),是通過在實際的計算機上仿真模擬各種計算機功能來實作的。由一套位元組碼指令集、一組暫存器、一個堆疊、一個垃圾回收堆和一個存盤方法域等組成。JVM屏蔽了與作業系統平臺相關的資訊,使得Java程式只需要生成在Java虛擬機 ......

    uj5u.com 2023-04-20 07:23:31 more
  • 使用Java接入小程式訂閱訊息!

    更新完微信服務號的模板訊息之后,我又趕緊把微信小程式的訂閱訊息給實作了!之前我一直以為微信小程式也是要企業才能申請,沒想到小程式個人就能申請。 訊息推送平臺🔥推送下發【郵件】【短信】【微信服務號】【微信小程式】【企業微信】【釘釘】等訊息型別。 https://gitee.com/zhongfuch ......

    uj5u.com 2023-04-20 07:22:59 more
  • java -- 緩沖流、轉換流、序列化流

    緩沖流 緩沖流, 也叫高效流, 按照資料型別分類: 位元組緩沖流:BufferedInputStream,BufferedOutputStream 字符緩沖流:BufferedReader,BufferedWriter 緩沖流的基本原理,是在創建流物件時,會創建一個內置的默認大小的緩沖區陣列,通過緩沖 ......

    uj5u.com 2023-04-20 07:22:49 more
  • Java-SpringBoot-Range請求頭設定實作視頻分段傳輸

    老實說,人太懶了,現在基本都不喜歡寫筆記了,但是網上有關Range請求頭的文章都太水了 下面是抄的一段StackOverflow的代碼...自己大修改過的,寫的注釋挺全的,應該直接看得懂,就不解釋了 寫的不好...只是希望能給視頻網站開發的新手一點點幫助吧. 業務場景:視頻分段傳輸、視頻多段傳輸(理 ......

    uj5u.com 2023-04-20 07:22:42 more
  • Windows 10開發教程_編程入門自學教程_菜鳥教程-免費教程分享

    教程簡介 Windows 10開發入門教程 - 從簡單的步驟了解Windows 10開發,從基本到高級概念,包括簡介,UWP,第一個應用程式,商店,XAML控制元件,資料系結,XAML性能,自適應設計,自適應UI,自適應代碼,檔案管理,SQLite資料庫,應用程式到應用程式通信,應用程式本地化,應用程式 ......

    uj5u.com 2023-04-20 07:22:35 more