主頁 > 資料庫 > 2個場景實體講解GaussDB(DWS)基表統計資訊估算不準的處理方案

2個場景實體講解GaussDB(DWS)基表統計資訊估算不準的處理方案

2023-06-03 08:45:50 資料庫

摘要:通過2個實體場景講解GaussDB(DWS)運維解決方案,

本文分享自華為云社區《GaussDB(DWS)運維 -- 基表統計資訊估算不準的常見場景及處理方案》,作者:譡里個檔,

場景1:基表過濾欄位存在的隱式型別時,基表行數估算偏小

這種場景絕大部分場景DWS能夠處理,但是如果隱式型別轉后的結果與統計資訊中的欄位列舉值的運算式不一樣,就會導致估算的嚴重偏差

原始SQL如下

SELECT * FROM dmgrpdi.dwl_inv_res_rpt_ci_grp_f WHERE period_id=202212 AND source_flag=1;

對應的執行計劃

                                                    QUERY PLAN
-------------------------------------------------------------------------------------------------------------------
  id |                            operation                             | E-rows | E-memory | E-width |  E-costs
 ----+------------------------------------------------------------------+--------+----------+---------+-----------
 1 | -> Row Adapter                                                  | 14160 | | 717 | 680025.43
 2 | ->  Vector Streaming (type: GATHER) | 14160 | | 717 | 680025.43
 3 | ->  Vector Partition Iterator                              | 14160 | 1MB      | 717 | 678241.33
 4 | ->  Partitioned CStore Scan on dwl_inv_res_rpt_ci_grp_f | 14160 | 1MB      | 717 | 678241.33
                  Predicate Information (identified by plan id)
 -------------------------------------------------------------------------------
 3 --Vector Partition Iterator
         Iterations: 1
 4 --Partitioned CStore Scan on dwl_inv_res_rpt_ci_grp_f
         Filter: ((period_id = 202212::numeric) AND ((source_flag)::bigint = 1))
         Pushdown Predicate Filter: (period_id = 202212::numeric)
         Partitions Selected by Static Prune: 36

發現source_flag欄位上存在隱式型別轉換,查詢欄位source_flag的統計資訊

postgres=# SELECT most_common_vals,most_common_freqs, histogram_bounds  FROM pg_stats WHERE tablename = 'dwl_inv_res_rpt_ci_grp_f' AND attname = 'source_flag';
 most_common_vals | most_common_freqs | histogram_bounds
------------------+-----------------------------------+------------------
 {01,02,04,03}    | {.440034,.241349,.217413,.101089} | {05,06}
(1 row)

發現隱式型別轉后的結果(1)與統計資訊中的欄位列舉值('01')的運算式不一樣

處理方案:修改過濾條件,禁止型別轉換,并且使用正確的常量值書寫過濾條件

如上SQL陳述句中的source_flag=1修改為source_flag='01',修改后SQL陳述句如下

SELECT * FROM dmgrpdi.dwl_inv_res_rpt_ci_grp_f WHERE period_id=202212 AND source_flag='01';

查詢新陳述句的執行計劃

                                                      QUERY PLAN
----------------------------------------------------------------------------------------------------------------------
  id |                            operation                             |  E-rows | E-memory | E-width |  E-costs
 ----+------------------------------------------------------------------+-----------+----------+---------+-----------
 1 | -> Row Adapter                                                  | 108359075 | | 717 | 480542.98
 2 | ->  Vector Streaming (type: GATHER) | 108359075 | | 717 | 480542.98
 3 | ->  Vector Partition Iterator                              | 108359075 | 1MB      | 717 | 478758.88
 4 | ->  Partitioned CStore Scan on dwl_inv_res_rpt_ci_grp_f | 108359075 | 1MB      | 717 | 478758.88
                           Predicate Information (identified by plan id)
 -------------------------------------------------------------------------------------------------
 3 --Vector Partition Iterator
         Iterations: 1
 4 --Partitioned CStore Scan on dwl_inv_res_rpt_ci_grp_f
         Filter: ((period_id = 202212::numeric) AND (source_flag = '01'::text))
         Pushdown Predicate Filter: ((period_id = 202212::numeric) AND (source_flag = '01'::text))
         Partitions Selected by Static Prune: 36

場景2:基表在多列組合主鍵上過濾時,基表行數估算偏大

這種場景是因為DWS對基表上多個過濾條件之間采取弱相關性處理,當多個過濾條件是主鍵時,可能導致結果集估算偏大,

原始SQL如下

SELECT * FROM mca.mca_period_rate_t mca_rate2
WHERE period_number = '202208' AND from_currency_code = 'RMB' AND to_currency_code = 'USD'

執行資訊如下

 id |                      operation                       |       A-time | A-rows | E-rows | Peak Memory | E-memory | A-width | E-width | E-costs  
----+------------------------------------------------------+--------------------+--------+--------+-------------+----------+---------+---------+----------
 1 | -> Row Adapter                                      | 444.735 | 1 | 2033 | 227KB       | | | 321 | 22601.41 
 2 | ->  Vector Streaming (type: GATHER) | 444.720 | 1 | 2033 | 873KB       | | | 321 | 22601.41 
 3 | -> CStore Scan on mca_period_rate_t mca_rate2 | [435.167, 435.167] | 1 | 2033 | [5MB, 5MB] | 1MB      | | 321 | 22427.41 
                                                              Predicate Information (identified by plan id) 
-------------------------------------------------------------------------------------------------------------------------------------------------------------------------
 3 --CStore Scan on mca_period_rate_t mca_rate2
        Filter: (((period_number)::text = '202208'::text) AND ((from_currency_code)::text = 'RMB'::text) AND ((to_currency_code)::text = 'USD'::text))
 Rows Removed by Filter: 425812
        Pushdown Predicate Filter: (((period_number)::text = '202208'::text) AND ((from_currency_code)::text = 'RMB'::text) AND ((to_currency_code)::text = 'USD'::text))

可以發現基表mca.mca_period_rate_t的行數估算嚴重偏大,

使用如下SQL陳述句查看表mca.mca_period_rate_t的定義

SELECT pg_get_tabledef('mca.mca_period_rate_t'::regclass);

查詢表mca.mca_period_rate_t定義

SELECT pg_get_tabledef('mca.mca_period_rate_t');
SET search_path = mca;
CREATE TABLE mca_period_rate_t (
seq numeric NOT NULL,
period_number character varying(10) NOT NULL,
from_currency_code character varying(20) NOT NULL,
to_currency_code character varying(20) NOT NULL,
begin_rate numeric(35,18),
end_rate numeric(35,18),
avg_rate numeric(35,18),
creation_date timestamp(0) without time zone NOT NULL,
created_by numeric NOT NULL,
last_update_date timestamp(0) without time zone,
last_updated_by numeric,
rmb_begin_rate numeric(35,18),
usd_begin_rate numeric(35,18),
rmb_end_rate numeric(35,18),
usd_end_rate numeric(35,18),
rmb_avg_rate numeric(35,18),
usd_avg_rate numeric(35,18),
crt_cycle_id numeric,
crt_job_instance_id numeric,
last_upd_cycle_id numeric,
upd_job_instance_id numeric,
cdc_key_id character varying(128) DEFAULT sys_guid(),
end_rate2 numeric(35,18),
avg_rate2 numeric(35,18),
last_period_end_rate numeric(35,18)
)
WITH (orientation=column, compression=low, colversion=2.0, enable_delta=false)
DISTRIBUTE BY REPLICATION
TO GROUP group_version1;
CREATE UNIQUE INDEX mca_period_rate_u1 ON mca.mca_period_rate_t USING cbtree (period_number, from_currency_code, to_currency_code) TABLESPACE pg_default;

發現 (period_number, from_currency_code, to_currency_code) 為組合的唯一索引,

處理方案:對組合索引列收多列統計資訊

注意此種方案只適用在基表比較小的情況下,因為多列統計資訊需要使用百分比采樣的方式計算統計資訊,當表比較大時,統計資訊計算耗時回很長,

針對如上查詢陳述句執行如下陳述句收集(period_number, from_currency_code, to_currency_code) 多列統計資訊

ANALYZE mca.mca_period_rate_t((period_number, from_currency_code, to_currency_code));

收集多列統計資訊之后,基表的行數估算恢復正產

 id |                                      operation                                      |       A-time | A-rows | E-rows | Peak Memory | A-width | E-width | E-costs 
----+-------------------------------------------------------------------------------------+--------------------+--------+--------+-------------+---------+---------+---------
 1 | -> Row Adapter                                                                     | 195.504 | 1 | 1 | 227KB       | | 321 | 675.14 
 2 | ->  Vector Streaming (type: GATHER) | 195.491 | 1 | 1 | 873KB       | | 321 | 675.14 
 3 | -> CStore Index Scan using mca_period_rate_u1 on mca_period_rate_t mca_rate2 | [164.344, 164.344] | 1 | 1 | [5MB, 5MB] | | 321 | 501.14 
                                                      Predicate Information (identified by plan id) 
----------------------------------------------------------------------------------------------------------------------------------------------------------
 3 --CStore Index Scan using mca_period_rate_u1 on mca_period_rate_t mca_rate2
 Index Cond: (((period_number)::text = '202208'::text) AND ((from_currency_code)::text = 'RMB'::text) AND ((to_currency_code)::text = 'USD'::text))

 

點擊關注,第一時間了解華為云新鮮技術~

轉載請註明出處,本文鏈接:https://www.uj5u.com/shujuku/554201.html

標籤:SQL Server

上一篇:讀改變未來的九大演算法筆記02_資料庫

下一篇:返回列表

標籤雲
其他(160266) Python(38199) JavaScript(25474) Java(18184) C(15236) 區塊鏈(8269) C#(7972) AI(7469) 爪哇(7425) MySQL(7226) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5873) 数组(5741) R(5409) Linux(5346) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4581) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2434) ASP.NET(2403) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) .NET技术(1980) 功能(1967) HtmlCss(1952) Web開發(1951) C++(1928) python-3.x(1918) 弹簧靴(1913) xml(1889) PostgreSQL(1879) .NETCore(1863) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • GPU虛擬機創建時間深度優化

    **?桔妹導讀:**GPU虛擬機實體創建速度慢是公有云面臨的普遍問題,由于通常情況下創建虛擬機屬于低頻操作而未引起業界的重視,實際生產中還是存在對GPU實體創建時間有苛刻要求的業務場景。本文將介紹滴滴云在解決該問題時的思路、方法、并展示最終的優化成果。 從公有云服務商那里購買過虛擬主機的資深用戶,一 ......

    uj5u.com 2020-09-10 06:09:13 more
  • 可編程網卡芯片在滴滴云網路的應用實踐

    **?桔妹導讀:**隨著云規模不斷擴大以及業務層面對延遲、帶寬的要求越來越高,采用DPDK 加速網路報文處理的方式在橫向縱向擴展都出現了局限性。可編程芯片成為業界熱點。本文主要講述了可編程網卡芯片在滴滴云網路中的應用實踐,遇到的問題、帶來的收益以及開源社區貢獻。 #1. 資料中心面臨的問題 隨著滴滴 ......

    uj5u.com 2020-09-10 06:10:21 more
  • 滴滴資料通道服務演進之路

    **?桔妹導讀:**滴滴資料通道引擎承載著全公司的資料同步,為下游實時和離線場景提供了必不可少的源資料。隨著任務量的不斷增加,資料通道的整體架構也隨之發生改變。本文介紹了滴滴資料通道的發展歷程,遇到的問題以及今后的規劃。 #1. 背景 資料,對于任何一家互聯網公司來說都是非常重要的資產,公司的大資料 ......

    uj5u.com 2020-09-10 06:11:05 more
  • 滴滴AI Labs斬獲國際機器翻譯大賽中譯英方向世界第三

    **桔妹導讀:**深耕人工智能領域,致力于探索AI讓出行更美好的滴滴AI Labs再次斬獲國際大獎,這次獲獎的專案是什么呢?一起來看看詳細報道吧! 近日,由國際計算語言學協會ACL(The Association for Computational Linguistics)舉辦的世界最具影響力的機器 ......

    uj5u.com 2020-09-10 06:11:29 more
  • MPP (Massively Parallel Processing)大規模并行處理

    1、什么是mpp? MPP (Massively Parallel Processing),即大規模并行處理,在資料庫非共享集群中,每個節點都有獨立的磁盤存盤系統和記憶體系統,業務資料根據資料庫模型和應用特點劃分到各個節點上,每臺資料節點通過專用網路或者商業通用網路互相連接,彼此協同計算,作為整體提供 ......

    uj5u.com 2020-09-10 06:11:41 more
  • 滴滴資料倉庫指標體系建設實踐

    **桔妹導讀:**指標體系是什么?如何使用OSM模型和AARRR模型搭建指標體系?如何統一流程、規范化、工具化管理指標體系?本文會對建設的方法論結合滴滴資料指標體系建設實踐進行解答分析。 #1. 什么是指標體系 ##1.1 指標體系定義 指標體系是將零散單點的具有相互聯系的指標,系統化的組織起來,通 ......

    uj5u.com 2020-09-10 06:12:52 more
  • 單表千萬行資料庫 LIKE 搜索優化手記

    我們經常在資料庫中使用 LIKE 運算子來完成對資料的模糊搜索,LIKE 運算子用于在 WHERE 子句中搜索列中的指定模式。 如果需要查找客戶表中所有姓氏是“張”的資料,可以使用下面的 SQL 陳述句: SELECT * FROM Customer WHERE Name LIKE '張%' 如果需要 ......

    uj5u.com 2020-09-10 06:13:25 more
  • 滴滴Ceph分布式存盤系統優化之鎖優化

    **桔妹導讀:**Ceph是國際知名的開源分布式存盤系統,在工業界和學術界都有著重要的影響。Ceph的架構和演算法設計發表在國際系統領域頂級會議OSDI、SOSP、SC等上。Ceph社區得到Red Hat、SUSE、Intel等大公司的大力支持。Ceph是國際云計算領域應用最廣泛的開源分布式存盤系統, ......

    uj5u.com 2020-09-10 06:14:51 more
  • es~通過ElasticsearchTemplate進行聚合~嵌套聚合

    之前寫過《es~通過ElasticsearchTemplate進行聚合操作》的文章,這一次主要寫一個嵌套的聚合,例如先對sex集合,再對desc聚合,最后再對age求和,共三層嵌套。 Aggregations的部分特性類似于SQL語言中的group by,avg,sum等函式,Aggregation ......

    uj5u.com 2020-09-10 06:14:59 more
  • 爬蟲日志監控 -- Elastc Stack(ELK)部署

    傻瓜式部署,只需替換IP與用戶 導讀: 現ELK四大組件分別為:Elasticsearch(核心)、logstash(處理)、filebeat(采集)、kibana(可視化) 下載均在https://www.elastic.co/cn/downloads/下tar包,各組件版本最好一致,配合fdm會 ......

    uj5u.com 2020-09-10 06:15:05 more
最新发布
  • 2個場景實體講解GaussDB(DWS)基表統計資訊估算不準的處理方案

    摘要:通過2個實體場景講解GaussDB(DWS)運維解決方案。 本文分享自華為云社區《GaussDB(DWS)運維 -- 基表統計資訊估算不準的常見場景及處理方案》,作者:譡里個檔。 場景1:基表過濾欄位存在的隱式型別時,基表行數估算偏小 這種場景絕大部分場景DWS能夠處理,但是如果隱式型別轉后的 ......

    uj5u.com 2023-06-03 08:45:50 more
  • 讀改變未來的九大演算法筆記02_資料庫

    ![](https://img2023.cnblogs.com/blog/3076680/202306/3076680-20230602231102469-1389179464.png) # 1. 基礎思想 ## 1.1. 預寫日志記錄 ## 1.2. 兩階段提交 ## 1.3. 關系資料庫 # 2 ......

    uj5u.com 2023-06-03 08:45:34 more
  • Redis(一) -- 基礎

    # Redis Redis是一個開源(BSD許可高性能的記憶體存盤的key-value資料庫! 可用作資料庫,高速快取和訊息佇列代理。它支持字串、哈希表、串列(List)、集合(Set)、有序集合(Ordered Sets),位圖(bitmap),hyperloglogs,GEO等資料型別。內置復制 ......

    uj5u.com 2023-06-03 08:45:27 more
  • SQLite教程1

    ## 0簡介 在這個SQLite初學者教程中,我們用詳細的例子涵蓋了所有關于SQLite的基礎到高級主題。本課程將通過簡單易懂的主題和例子幫助你學習SQLite。 ### 什么是SQLite? SQLite是一個開源的、嵌入式的、關系型的資料庫管理系統,大約設計于2000年。它是一個輕量級的資料庫, ......

    uj5u.com 2023-06-03 08:45:13 more
  • 03_事務隔離

    # 03_事務隔離 ### 事務隔離 事務需要保證一組資料庫操作,要么全部成功,要么全部失敗; MySQL事務隔離性是保證資料一致性和并發控制的重要手段之一,它對于多個事務同時訪問和修改同一資料的情況下,能夠保證事務之間的獨立性和隔離性,避免資料的不一致和沖突。 ACID是MySQL事務的四個特性, ......

    uj5u.com 2023-06-03 08:44:30 more
  • 02_重要的兩個日志 redo log 和 binlog

    # 02_重要的兩個日志 redo log 和 binlog MySQL 45 講Note: 課程專欄名稱:《MySQL實戰45講》課程 筆記參考:[MYSQL45 講](https://gitee.com/moxi159753/LearningNotes/tree/master/MySQL/MyS ......

    uj5u.com 2023-06-03 08:44:22 more
  • 執行計劃快取,Prepared Statement性能躍升的秘密

    摘要:一起看一下GaussDB(for MySQL)是如何對執行計劃進行快取并加速Prepared Statement性能的。 本文分享自華為云社區《執行計劃快取,Prepared Statement性能躍升的秘密》,作者: GaussDB 資料庫。 引言 在資料庫系統中,SQL(Structure ......

    uj5u.com 2023-06-03 08:44:05 more
  • 存盤引擎的概念及作用,玩轉MySQL

    # 前言 從今天開始, 就帶各位小伙伴學習資料庫技術。**資料庫技術是Java開發中必不可少的一部分知識內容。也是非常重要的技術。本系列教程由淺入深, 全面講解資料庫體系。 非常適合零基礎的小伙伴來學習。** *** 全文大約【**1567】** 字,不說廢話,只講可以讓你學到技術、明白原理的純干貨 ......

    uj5u.com 2023-06-02 12:07:46 more
  • 4萬6千多高中作文大全ACCESS資料庫

    作文類的資料庫雖然已經有很多,有近萬條的,也有2萬條的,但今天弄到了小學、中學、高中一個系列的資料,而且最主要的是資料的記錄數很多。這份高中作文包含46169條記錄,分類也很好。 grade欄位統計:高一(14062)、高二(13375)、高三(17381)、高考(1351)。 type欄位統計:散 ......

    uj5u.com 2023-06-02 11:54:10 more
  • 存盤引擎的概念及作用,玩轉MySQL

    # 前言 從今天開始, 就帶各位小伙伴學習資料庫技術。**資料庫技術是Java開發中必不可少的一部分知識內容。也是非常重要的技術。本系列教程由淺入深, 全面講解資料庫體系。 非常適合零基礎的小伙伴來學習。** *** 全文大約【**1567】** 字,不說廢話,只講可以讓你學到技術、明白原理的純干貨 ......

    uj5u.com 2023-06-02 11:53:21 more