主頁 > 移動端開發 > SQL優化終于干掉了“distinct”

SQL優化終于干掉了“distinct”

2020-10-10 19:53:42 移動端開發

SQL優化之多表聯合查詢干掉“distinct”去重關鍵字

  • 一、優化目的
  • 二、優化之前的sql長這樣
  • 三、DISTINCT關鍵字的用法
  • 四、談:如何優化distinct的sql
  • 五、distinct真的和group by等價嗎?
  • 六、優化后的sql長啥樣?
  • 七、總結

一、優化目的

在我提交了代碼的時候,架構師給我指出我這個sql這樣寫會有問題,因為在分庫分表的時候,是不支持子查詢的,

所以需要把多表的子查詢的sql結構進行優化,

二、優化之前的sql長這樣

是不是挺恐怖的;(此處為了脫敏,我把相關的sql關鍵詞都給打碼掉了)

在這里插入圖片描述
這個sql的執行步驟如下:
1、查詢出來d表中的某個id欄位包含多個id值的所有的資料(因為此表是1-n的關系,所以需要去重,僅需要拿到不重復的id才可以繼續下一個步驟);可以看到此步驟我把查詢出來的多個值的結果給生成的了一個子表名為sss;

2、下一個步驟就是需要進行排序(以時間進行倒序排序,因為要在前臺進行按時間進行展示);

3、第3步就是把這些結果與a表進行合并,查詢出來排序后的每個id的資訊;然后進行分頁處理;

其他的可以不必關心,最終要的是去重關鍵字(DISTINCT),拿小本本記號,一會要考哦,

三、DISTINCT關鍵字的用法

實踐是驗證真理的唯一標準

例如有下表:

可以看到nameproduct_unit列有可能是重復的

mysql> SELECT t1.id,t1.name,t1.product_unit  FROM dd_product_category t1;
+----+----------+--------------+
| id | name     | product_unit |
+----+----------+--------------+
| 55 | 飲料     ||
| 56 | 飲料     ||
| 57 | 零食     ||
| 59 | 膨化食品 ||
| 60 | 方便食品 ||
| 61 | 自熱火鍋 ||
| 62 | 方便面   ||
| 63 | 礦泉水   ||
| 64 | 糖果     |              |
| 65 | 酒類     ||
| 66 | 烈酒     ||
| 67 | 啤酒     ||
| 68 | 預調酒   ||
+----+----------+--------------+
13 rows in set (0.13 sec)

mysql> 
mysql> 

如何我們想只拿到name或者product_unit列的值并且不想要重復的值該怎么辦?

1、拿到單個值是好拿的,但是是存在重復的資料的,這些重復的資料我們只保留一個就可以了,那么該怎么做呢?


mysql> SELECT t1.product_unit  FROM dd_product_category t1;
+--------------+
| product_unit |
+--------------+
||
||
||
||
||
||
||
||
|              |
||
||
||
||
+--------------+
13 rows in set (19.31 sec)

mysql> 

2、去除重復列

mysql> 
mysql> SELECT DISTINCT t1.product_unit  FROM dd_product_category t1;
+--------------+
| product_unit |
+--------------+
||
||
||
||
||
|              |
+--------------+
6 rows in set (0.11 sec)

mysql> 

是不是很簡單,雖然看著簡單,但是如果多表子查詢的時候,就會出現問題,例如你想要查詢表a,b,c三個表的資料,這三個表必然都是有關系的,

a和b是1-n的關系,但是你只有b表中id,你需要先查詢出來b表的資料,然后利用b表的資料去查詢a表的資料,然后再去查詢c表的資料,

想必肯定是很繞的,

整個程序中你肯定是需要去重的

當整個sql寫完,基本上跟我寫的優化前的sql也就差不多了,(多表嵌套,多sql嵌套sql,啦啦啦一大堆),

優化思路還是有很多的,當時能想到的就是把這個復雜的sql拆分成多個簡單的sql執行,然后使用Java后臺代碼進行處理,(對于不甘于現狀的我,想找到一個比這個更友好的解決方案的我,我是不會屈服這個問題的,

四、談:如何優化distinct的sql

說到這里,先給大家放上一個鏈接:

  • 1、(Mysql5.7官方手冊中提及到的關于優化distinct的方法)
    https://dev.mysql.com/doc/refman/5.7/en/distinct-optimization.html

  • 2、還有一個優化group by的:
    https://dev.mysql.com/doc/refman/5.7/en/group-by-optimization.html

推薦大家閱讀,

Mysql5.7官方手冊中提及到的關于優化distinct的方法,原文如下:

MySQL 5.7 Reference Manual / … / DISTINCT Optimization

8.2.1.16 DISTINCT Optimization

DISTINCT combined with ORDER BY needs a temporary table in many cases.

distinct 與order by 結合的許多情況下需要建一個臨時表;

Because DISTINCT may use GROUP BY, learn how MySQL works with columns in ORDER BY or HAVING clauses that are not part of the selected columns. See Section 12.20.3, “MySQL Handling of GROUP BY”.

因為distinct可能使用group by,了解MySQL如何處理按order by 列或者具有不屬于所選列的子句,見12.20.3節, “MySQL Handling of GROUP BY”.

In most cases, a DISTINCT clause can be considered as a special case of GROUP BY. For example, the following two queries are equivalent:

在大多數情況下,一個不同的子句可以被認為是group by 的特殊情況,例如下面這兩個查詢是等價的:

SELECT DISTINCT c1, c2, c3 FROM t1
WHERE c1 > const;
SELECT c1, c2, c3 FROM t1
WHERE c1 > const GROUP BY c1, c2, c3;

Due to this equivalence, the optimizations applicable to GROUP BY queries can be also applied to queries with a DISTINCT clause. Thus, for more details on the optimization possibilities for DISTINCT queries, see Section 8.2.1.15, “GROUP BY Optimization”.

由于這種等價性,適用于group by查詢的優化,也可以應用于具有不同子句的查詢,因此,關于distinct的查詢優化的更多細節可以參考Section 8.2.1.15, “GROUP BY Optimization”.

When combining LIMIT row_count with DISTINCT, MySQL stops as soon as it finds row_count unique rows.

當row_count與distinct一起使用時,MySQL一旦發現row_count是唯一的行,就會停止,

If you do not use columns from all tables named in a query, MySQL stops scanning any unused tables as soon as it finds the first match. In the following case, assuming that t1 is used before t2 (which you can check with EXPLAIN), MySQL stops reading from t2 (for any particular row in t1) when it finds the first row in t2:

如果在查詢中不適用來自所有表的列,MySQL一旦找到第一個匹配項就會停止掃描任何未使用的表,

在下面的例子中,假設t1在t2之前使用(你可以使用explanin來檢查),MySQL在找到t2的第一行時停止從t2讀取(對于t1中的任何特定行),

SELECT DISTINCT t1.a FROM t1, t2 where t1.a=t2.a;

官方的手冊中寫到的,真是句句扣心呀!!!

總結有以下比較重要的幾點:

  • 1、distinct與group by幾乎等價;
  • 2、distinct的相關優化與group by的查詢優化方法是等價的;

五、distinct真的和group by等價嗎?

我們抱著試試看的態度,去做個試驗,

就以下列這個效果為最終目的好了:

mysql> 
mysql> SELECT DISTINCT t1.product_unit  FROM dd_product_category t1;
+--------------+
| product_unit |
+--------------+
||
||
||
||
||
|              |
+--------------+
6 rows in set (0.11 sec)

mysql> 

使用group by去重:

mysql> select  t1.product_unit from dd_product_category t1 group by t1.product_unit;
+--------------+
| product_unit |
+--------------+
|              |
||
||
||
||
||
+--------------+
6 rows in set (19.46 sec)

mysql> 

可以看到,最終拿到的資料是一模一樣的,

那么我們試驗是成功的,distinct的效果和group by的效果是一樣的,

那么我們優化distinct就變向的去優化group by了(我優化前的sql并未使用group by所以談不上優化group by,只能說是把distinct的復雜sql改造成group by 的sql),

打開我前面提到的這個優化group by的官方手冊:
https://dev.mysql.com/doc/refman/5.7/en/group-by-optimization.html

由于原文比較長,這里就不在過多贅述,

現在需要做的就是把distinct改造成group by的sql語法的寫法,

六、優化后的sql長啥樣?

怎么樣,改造后的sql,是不是還挺清爽的,

1、我們扔掉了多個嵌套sql

2、也不用去生成一個sss的臨時表了

在這里插入圖片描述

七、總結

對于本人而言學到了:

  • 1、distinct與group by幾乎等價;
  • 2、distinct的相關優化與group by的查詢優化方法是等價的;
  • 3、如果distinct的不能讓sql最優化,那么可以嘗試著使用group by的方式去改造一下,

這些我都上傳到了百度云,
在這里插入圖片描述

為了防止鏈接丟失可以關注公眾號,回復:"mysql",即可拿到MySQL相關的全部精彩內容,

歡迎一起學習,一起交流,一起進步,

關注我微信公眾號第一時間推送給你精彩內容哦:

回復選單,更有好禮,驚喜在等著你,

在這里插入圖片描述

快來我粉絲群:每天歡快的玩耍(微信掃描二維碼即可加入,群馬上滿,抓緊啦!!!)
在這里插入圖片描述

TrueDei CSDN認證博客專家 Linux 分布式 Java
不荒廢現在,不畏懼未來!我認為把知識給別人講會,講明白,自己才徹底明白,努力把文章寫好,寫明白每一篇文章,分享給更多人,

轉載請註明出處,本文鏈接:https://www.uj5u.com/yidong/166645.html

標籤:其他

上一篇:C# 運算子的綜合應用

下一篇:MySql優化(三)索引

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【從零開始擼一個App】Dagger2

    Dagger2是一個IOC框架,一般用于Android平臺,第一次接觸的朋友,一定會被搞得暈頭轉向。它延續了Java平臺Spring框架代碼碎片化,注解滿天飛的傳統。嘗試將各處代碼片段串聯起來,理清思緒,真不是件容易的事。更不用說還有各版本細微的差別。 與Spring不同的是,Spring是通過反射 ......

    uj5u.com 2020-09-10 06:57:59 more
  • Flutter Weekly Issue 66

    新聞 Flutter 季度調研結果分享 教程 Flutter+FaaS一體化任務編排的思考與設計 詳解Dart中如何通過注解生成代碼 GitHub 用對了嗎?Flutter 團隊分享如何管理大型開源專案 插件 flutter-bubble-tab-indicator A Flutter librar ......

    uj5u.com 2020-09-10 06:58:52 more
  • Proguard 常用規則

    介紹 Proguard 入口,如何查看輸出,如何使用 keep 設定入口以及使用實體,如何配置壓縮,混淆,校驗等規則。

    ......

    uj5u.com 2020-09-10 06:59:00 more
  • Android 開發技術周報 Issue#292

    新聞 Android即將獲得類AirDrop功能:可向附近設備快速分享檔案 谷歌為安卓檔案管理應用引入可安全隱藏資料的Safe Folder功能 Android TV新主界面將顯示電影、電視節目和應用推薦內容 泄露的Android檔案暗示了傳說中的谷歌Pixel 5a與折疊屏新機 谷歌發布Andro ......

    uj5u.com 2020-09-10 07:00:37 more
  • AutoFitTextureView Error inflating class

    報錯: Binary XML file line #0: Binary XML file line #0: Error inflating class xxx.AutoFitTextureView 解決: <com.example.testy2.AutoFitTextureView android: ......

    uj5u.com 2020-09-10 07:00:41 more
  • 根據Uri,Cursor沒有獲取到對應的屬性

    Android: 背景:呼叫攝像頭,拍攝視頻,指定保存的地址,但是回傳的Cursor檔案,只有名稱和大小的屬性,沒有其他諸如時長,連ID屬性都沒有 使用 cursor.getInt(cursor.getColumnIndexOrThrow(MediaStore.Video.Media.DURATIO ......

    uj5u.com 2020-09-10 07:00:44 more
  • Android連載29-持久化技術

    一、持久化技術 我們平時所使用的APP產生的資料,在記憶體中都是瞬時的,會隨著斷電、關機等丟失資料,因此android系統采用了持久化技術,用于存盤這些“瞬時”資料 持久化技術包括:檔案存盤、SharedPreference存盤以及資料庫存盤,還有更復雜的SD卡記憶體儲。 二、檔案存盤 最基本存盤方式, ......

    uj5u.com 2020-09-10 07:00:47 more
  • Android Camera2Video整合到自己專案里

    背景: Android專案里呼叫攝像頭拍攝視頻,原本使用的 MediaStore.ACTION_VIDEO_CAPTURE, 后來因專案需要,改成了camera2 1.Camera2Video 官方demo有點問題,下載后,不能直接整合到專案 問題1.多次拍攝視頻崩潰 問題2.雙擊record按鈕, ......

    uj5u.com 2020-09-10 07:00:50 more
  • Android 開發技術周報 Issue#293

    新聞 谷歌為Android TV開發者提供多種新功能 Android 11將自動填表功能整合到鍵盤輸入建議中 谷歌宣布Android Auto即將支持更多的導航和數字停車應用 谷歌Pixel 5只有XL版本 搭載驍龍765G且將比Pixel 4更便宜 [圖]Wear OS將迎來重磅更新:應用啟動時間 ......

    uj5u.com 2020-09-10 07:01:38 more
  • 海豚星空掃碼投屏 Android 接收端 SDK 集成 六步驟

    掃碼投屏,開放網路,獨占設備,不需要額外下載軟體,微信掃碼,發現設備。支持標準DLNA協議,支持倍速播放。視頻,音頻,圖片投屏。好點意思。還支持自定義基于 DLNA 擴展的操作動作。好像要收費,沒體驗。 這里簡單記錄一下集成程序。 一 跟目錄的build.gradle添加私有mevan倉庫 mave ......

    uj5u.com 2020-09-10 07:01:43 more
最新发布
  • 歡迎頁輪播影片

    如圖,引導開始,球從上落下,同時淡入文字,然后文字開始輪播,最后一頁時停止,點擊進入首頁。 在來看看效果圖。 重力球先不講,主要歡迎輪播簡單實作 首先新建一個類 TextTranslationXGuideView,用于影片展示 文本是類似的,最后會有個圖片箭頭影片,布局很簡單,就是一個 TextVi ......

    uj5u.com 2023-04-20 08:40:31 more
  • 【FAQ】關于華為推送服務因營銷訊息頻次管控導致服務通訊類訊息

    一. 問題描述 使用華為推送服務下發IM訊息時,下發訊息請求成功且code碼為80000000,但是手機總是收不到訊息; 在華為推送自助分析(Beta)平臺查看發現,訊息發送觸發了頻控。 二. 問題原因及背景 2023年1月05日起,華為推送服務對咨詢營銷類訊息做了單個設備每日推送數量上限管理,具體 ......

    uj5u.com 2023-04-20 08:40:11 more
  • 歡迎頁輪播影片

    如圖,引導開始,球從上落下,同時淡入文字,然后文字開始輪播,最后一頁時停止,點擊進入首頁。 在來看看效果圖。 重力球先不講,主要歡迎輪播簡單實作 首先新建一個類 TextTranslationXGuideView,用于影片展示 文本是類似的,最后會有個圖片箭頭影片,布局很簡單,就是一個 TextVi ......

    uj5u.com 2023-04-20 08:39:36 more
  • 【FAQ】關于華為推送服務因營銷訊息頻次管控導致服務通訊類訊息

    一. 問題描述 使用華為推送服務下發IM訊息時,下發訊息請求成功且code碼為80000000,但是手機總是收不到訊息; 在華為推送自助分析(Beta)平臺查看發現,訊息發送觸發了頻控。 二. 問題原因及背景 2023年1月05日起,華為推送服務對咨詢營銷類訊息做了單個設備每日推送數量上限管理,具體 ......

    uj5u.com 2023-04-20 08:39:13 more
  • iOS從UI記憶體地址到讀取成員變數(oc/swift)

    開發除錯時,我們發現bug時常首先是從UI顯示發現例外,下一步才會去定位UI相關連的資料的。XCode有給我們提供一系列debug工具,但是很多人可能還沒有形成一套穩定的除錯流程,因此本文嘗試解決這個問題,順便提出一個暴論:UI顯示例外問題只需要兩個步驟就能完成定位作業的80%: 定位例外 UI 組 ......

    uj5u.com 2023-04-19 09:16:23 more
  • FIDE重磅更新!性能飛躍!體驗有禮!

    FIDE 開發者工具重構升級啦!實作500%性能提升,誠邀體驗! 一直以來不少開發者朋友在社區反饋,在使用 FIDE 工具的程序中,時常會遇到諸如加載不及時、代碼預覽/渲染性能不如意的情況,十分影響開發體驗。 作為技術團隊,我們深知一件趁手的開發工具對開發者的重要性,因此,在2023年開年,FinC ......

    uj5u.com 2023-04-19 09:16:15 more
  • 游戲內嵌社區服務開放,助力開發者提升玩家互動與留存

    華為 HMS Core 游戲內嵌社區服務提供快速訪問華為游戲中心論壇能力,支持玩家直接在游戲內瀏覽帖子和交流互動,助力開發者擴展內容生產和觸達的場景。 一、為什么要游戲內嵌社區? 二、游戲內嵌社區的典型使用場景 1、游戲內打開論壇 您可以在游戲內繪制論壇入口,為玩家提供沉浸式發帖、瀏覽、點贊、回帖、 ......

    uj5u.com 2023-04-19 09:15:46 more
  • iOS從UI記憶體地址到讀取成員變數(oc/swift)

    開發除錯時,我們發現bug時常首先是從UI顯示發現例外,下一步才會去定位UI相關連的資料的。XCode有給我們提供一系列debug工具,但是很多人可能還沒有形成一套穩定的除錯流程,因此本文嘗試解決這個問題,順便提出一個暴論:UI顯示例外問題只需要兩個步驟就能完成定位作業的80%: 定位例外 UI 組 ......

    uj5u.com 2023-04-19 09:14:53 more
  • FIDE重磅更新!性能飛躍!體驗有禮!

    FIDE 開發者工具重構升級啦!實作500%性能提升,誠邀體驗! 一直以來不少開發者朋友在社區反饋,在使用 FIDE 工具的程序中,時常會遇到諸如加載不及時、代碼預覽/渲染性能不如意的情況,十分影響開發體驗。 作為技術團隊,我們深知一件趁手的開發工具對開發者的重要性,因此,在2023年開年,FinC ......

    uj5u.com 2023-04-19 09:14:08 more
  • 游戲內嵌社區服務開放,助力開發者提升玩家互動與留存

    華為 HMS Core 游戲內嵌社區服務提供快速訪問華為游戲中心論壇能力,支持玩家直接在游戲內瀏覽帖子和交流互動,助力開發者擴展內容生產和觸達的場景。 一、為什么要游戲內嵌社區? 二、游戲內嵌社區的典型使用場景 1、游戲內打開論壇 您可以在游戲內繪制論壇入口,為玩家提供沉浸式發帖、瀏覽、點贊、回帖、 ......

    uj5u.com 2023-04-19 09:08:34 more