主頁 > 資料庫 > Doris(三) -- 索引

Doris(三) -- 索引

2023-05-29 09:16:10 資料庫

索引

索參考于幫助快速過濾或查找資料,
目前 Doris 主要支持兩類索引:
? 內建的智能索引:包括前綴索引和 ZoneMap 索引,
? 用戶創建的二級索引:包括 Bloom Filter 索引 和 Bitmap倒排索引,
其中 ZoneMap 索引是在列存格式上,對每一列自動維護的索引資訊,包括 Min/Max,Null 值個數等等,這種索引對用戶透明,

前綴索引

doris中,對于前綴索引有如下約束:

  1. 他的索引鍵最大長度是36個位元組
  2. 當他遇到了varchar資料型別的時候,即使沒有超過36個位元組,也會自動截斷
    image

doris為這個表創建前綴索引時,它生成的索引鍵如下:

user_id(8 Bytes) + age(4 Bytes) + message(prefix 24 Bytes)

以下表中我們定義了:age,user_name,message作為表的key
image
那么,doris為這個表創建前綴索引時,它生成的索引鍵如下:

age(4 Bytes) +user_name(20 Bytes)
-- 雖然還沒有超過36個位元組,但是已經遇到了一個varchar欄位,它自動截斷,不會再往后面取了

當我們的查詢條件,是前綴索引的前綴時,可以極大的加快查詢速度,

SELECT * FROM table WHERE user_id=1829239 and age=20
-- 該查詢的效率會遠高于以下查詢:
SELECT * FROM table WHERE age=20;

Bloom Filter 索引

image

  1. Bloom Filter 本質上是一種位圖結構,用于判斷一個值是否存在
  2. 會產生小概率的誤判,因為hash演算法天生的碰撞
  3. 在doris中是以tablet為粒度創建的,給每一個tablet創建一個布隆過濾器索引

創建BloomFilter索引

  • 建表的時候指定
PROPERTIES (
"bloom_filter_columns"="name,age,uid"
)
  • alter修改表的時候指定
ALTER TABLE sale_detail_bloom SET ("bloom_filter_columns" = "k1,k3");

ALTER TABLE sale_detail_bloom SET ("bloom_filter_columns" = "k1,k4");

ALTER TABLE sale_detail_bloom SET ("bloom_filter_columns" = "");

-- 查看BloomFilter索引
SHOW CREATE TABLE sale_detail_bloom \G;

-- 修改/洗掉BloomFilter索引
ALTER TABLE sale_detail_bloom SET ("bloom_filter_columns" = "customer_id,saler_id");

Doris BloomFilter適用場景
滿足以下幾個條件時可以考慮對某列建立Bloom Filter 索引:

  1. BloomFilter是在無法利用前綴索引的查詢場景中,來加快查詢速度的,
  2. 查詢會根據該列高頻過濾,而且查詢條件大多是 in 和 = 過濾,
  3. 不同于Bitmap, BloomFilter適用于高基數列,比如UserID,因為如果創建在低基數的列上,比如 “性別” 列,則每個Block幾乎都會包含所有取值,導致BloomFilter索引失去意義,欄位隨機
    Doris BloomFilter使用注意事項
  4. 不支持對Tinyint、Float、Double 型別的列建Bloom Filter索引,
  5. Bloom Filter索引只對 in 和 = 過濾查詢有加速效果,
  6. 可以通過explain來查看命中了哪種索引 --沒辦法查看

Bitmap 索引

用戶可以通過創建bitmap index 加速查詢

image

創建索引
在table1 上為siteid 創建bitmap 索引

CREATE INDEX [IF NOT EXISTS] index_name ON table1 (siteid) USING BITMAP COMMENT 'balabala';

create index 索引名稱  on 表名(給什么欄位創建bitmap索引) using bitmap COMMENT 'balabala';

create index user_id_bitmap on sale_detail_bloom(sku_id) USING BITMAP COMMENT '使用user_id創建的bitmap索引';

-- 查看索引
SHOW INDEX FROM example_db.table_name;

-- 洗掉索引
DROP INDEX [IF EXISTS] index_name ON [db_name.]table_name;

注意事項

  • bitmap 索引僅在單列上創建,
  • bitmap 索引能夠應用在 Duplicate、Uniq 資料模型的所有列和 Aggregate模型的key列上,
  • bitmap 索引支持的資料型別如下:(老版本只支持bitmap型別)
    TINYINT,SMALLINT,INT,BIGINT,CHAR,VARCHAR,DATE,DATETIME,LARGEINT,DECIMAL,BOOL
  • bitmap索引僅在 Segment V2 下生效(Segment V2是升級版本的檔案格式),當創建 index 時,表的存盤格式將默認轉換為 V2 格式

轉載請註明出處,本文鏈接:https://www.uj5u.com/shujuku/553673.html

標籤:大數據

上一篇:Doris(二) -- 基本概念和資料表模型

下一篇:返回列表

標籤雲
其他(159897) Python(38178) JavaScript(25460) Java(18141) C(15232) 區塊鏈(8268) C#(7972) AI(7469) 爪哇(7425) MySQL(7214) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5873) 数组(5741) R(5409) Linux(5343) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4577) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2434) ASP.NET(2403) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) .NET技术(1977) 功能(1967) Web開發(1951) HtmlCss(1949) C++(1924) python-3.x(1918) 弹簧靴(1913) xml(1889) PostgreSQL(1878) .NETCore(1862) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • GPU虛擬機創建時間深度優化

    **?桔妹導讀:**GPU虛擬機實體創建速度慢是公有云面臨的普遍問題,由于通常情況下創建虛擬機屬于低頻操作而未引起業界的重視,實際生產中還是存在對GPU實體創建時間有苛刻要求的業務場景。本文將介紹滴滴云在解決該問題時的思路、方法、并展示最終的優化成果。 從公有云服務商那里購買過虛擬主機的資深用戶,一 ......

    uj5u.com 2020-09-10 06:09:13 more
  • 可編程網卡芯片在滴滴云網路的應用實踐

    **?桔妹導讀:**隨著云規模不斷擴大以及業務層面對延遲、帶寬的要求越來越高,采用DPDK 加速網路報文處理的方式在橫向縱向擴展都出現了局限性。可編程芯片成為業界熱點。本文主要講述了可編程網卡芯片在滴滴云網路中的應用實踐,遇到的問題、帶來的收益以及開源社區貢獻。 #1. 資料中心面臨的問題 隨著滴滴 ......

    uj5u.com 2020-09-10 06:10:21 more
  • 滴滴資料通道服務演進之路

    **?桔妹導讀:**滴滴資料通道引擎承載著全公司的資料同步,為下游實時和離線場景提供了必不可少的源資料。隨著任務量的不斷增加,資料通道的整體架構也隨之發生改變。本文介紹了滴滴資料通道的發展歷程,遇到的問題以及今后的規劃。 #1. 背景 資料,對于任何一家互聯網公司來說都是非常重要的資產,公司的大資料 ......

    uj5u.com 2020-09-10 06:11:05 more
  • 滴滴AI Labs斬獲國際機器翻譯大賽中譯英方向世界第三

    **桔妹導讀:**深耕人工智能領域,致力于探索AI讓出行更美好的滴滴AI Labs再次斬獲國際大獎,這次獲獎的專案是什么呢?一起來看看詳細報道吧! 近日,由國際計算語言學協會ACL(The Association for Computational Linguistics)舉辦的世界最具影響力的機器 ......

    uj5u.com 2020-09-10 06:11:29 more
  • MPP (Massively Parallel Processing)大規模并行處理

    1、什么是mpp? MPP (Massively Parallel Processing),即大規模并行處理,在資料庫非共享集群中,每個節點都有獨立的磁盤存盤系統和記憶體系統,業務資料根據資料庫模型和應用特點劃分到各個節點上,每臺資料節點通過專用網路或者商業通用網路互相連接,彼此協同計算,作為整體提供 ......

    uj5u.com 2020-09-10 06:11:41 more
  • 滴滴資料倉庫指標體系建設實踐

    **桔妹導讀:**指標體系是什么?如何使用OSM模型和AARRR模型搭建指標體系?如何統一流程、規范化、工具化管理指標體系?本文會對建設的方法論結合滴滴資料指標體系建設實踐進行解答分析。 #1. 什么是指標體系 ##1.1 指標體系定義 指標體系是將零散單點的具有相互聯系的指標,系統化的組織起來,通 ......

    uj5u.com 2020-09-10 06:12:52 more
  • 單表千萬行資料庫 LIKE 搜索優化手記

    我們經常在資料庫中使用 LIKE 運算子來完成對資料的模糊搜索,LIKE 運算子用于在 WHERE 子句中搜索列中的指定模式。 如果需要查找客戶表中所有姓氏是“張”的資料,可以使用下面的 SQL 陳述句: SELECT * FROM Customer WHERE Name LIKE '張%' 如果需要 ......

    uj5u.com 2020-09-10 06:13:25 more
  • 滴滴Ceph分布式存盤系統優化之鎖優化

    **桔妹導讀:**Ceph是國際知名的開源分布式存盤系統,在工業界和學術界都有著重要的影響。Ceph的架構和演算法設計發表在國際系統領域頂級會議OSDI、SOSP、SC等上。Ceph社區得到Red Hat、SUSE、Intel等大公司的大力支持。Ceph是國際云計算領域應用最廣泛的開源分布式存盤系統, ......

    uj5u.com 2020-09-10 06:14:51 more
  • es~通過ElasticsearchTemplate進行聚合~嵌套聚合

    之前寫過《es~通過ElasticsearchTemplate進行聚合操作》的文章,這一次主要寫一個嵌套的聚合,例如先對sex集合,再對desc聚合,最后再對age求和,共三層嵌套。 Aggregations的部分特性類似于SQL語言中的group by,avg,sum等函式,Aggregation ......

    uj5u.com 2020-09-10 06:14:59 more
  • 爬蟲日志監控 -- Elastc Stack(ELK)部署

    傻瓜式部署,只需替換IP與用戶 導讀: 現ELK四大組件分別為:Elasticsearch(核心)、logstash(處理)、filebeat(采集)、kibana(可視化) 下載均在https://www.elastic.co/cn/downloads/下tar包,各組件版本最好一致,配合fdm會 ......

    uj5u.com 2020-09-10 06:15:05 more
最新发布
  • Doris(三) -- 索引

    # 索引 索參考于幫助快速過濾或查找資料。 目前 Doris 主要支持兩類索引: ? 內建的智能索引:包括前綴索引和 ZoneMap 索引。 ? 用戶創建的二級索引:包括 Bloom Filter 索引 和 Bitmap倒排索引。 其中 ZoneMap 索引是在列存格式上,對每一列自動維護的索引資訊 ......

    uj5u.com 2023-05-29 09:16:10 more
  • Doris(二) -- 基本概念和資料表模型

    # 欄位型別 | 資料型別 | 位元組 | 范圍 | | | | | |TINYINT|1 位元組|-2^7 + 1 ~ 2^7 - 1| |SMALLINT|2 位元組|-2^15 + 1 ~ 2^15 - 1| |INT|4 位元組|-2^31 + 1 ~ 2^31 - 1| |BIGINT|8 位元組| ......

    uj5u.com 2023-05-28 08:37:01 more
  • GaussDB(DWS)條件運算式函式回傳錯誤結果集排查

    摘要:條件運算式函式中出現結果集不一致問題,我們首先要考慮是否入參資料型別不一致導致出參不一致。 本文分享自華為云社區《GaussDB(DWS)條件運算式函式回傳錯誤結果集排查》,作者:yd_211369925 。 (一)案例背景 客戶使用greatest獲取并回傳引數串列中值最大的運算式的值,子查 ......

    uj5u.com 2023-05-28 08:31:42 more
  • GaussDB(DWS)條件運算式函式回傳錯誤結果集排查

    摘要:條件運算式函式中出現結果集不一致問題,我們首先要考慮是否入參資料型別不一致導致出參不一致。 本文分享自華為云社區《GaussDB(DWS)條件運算式函式回傳錯誤結果集排查》,作者:yd_211369925 。 (一)案例背景 客戶使用greatest獲取并回傳引數串列中值最大的運算式的值,子查 ......

    uj5u.com 2023-05-28 08:30:40 more
  • Doris(二) -- 基本概念和資料表模型

    # 欄位型別 | 資料型別 | 位元組 | 范圍 | | | | | |TINYINT|1 位元組|-2^7 + 1 ~ 2^7 - 1| |SMALLINT|2 位元組|-2^15 + 1 ~ 2^15 - 1| |INT|4 位元組|-2^31 + 1 ~ 2^31 - 1| |BIGINT|8 位元組| ......

    uj5u.com 2023-05-28 08:30:04 more
  • SQL進階教程讀后總結與感想

    ![](https://img2023.cnblogs.com/blog/3076680/202305/3076680-20230516151258933-1445766867.png) # 1. 基本資訊 SQL進階教程 [日]MICK 人民郵電出版社,2017年11月出版,**1版** ## 1 ......

    uj5u.com 2023-05-27 08:07:21 more
  • Doris(一) -- 簡介和安裝

    ## Doris 簡介 ### Doris 概述 Apache Doris 由百度大資料部研發 (之前叫百度 Palo,2018 年貢獻到 Apache 社區后,更名為 Doris), 在百度內部,有超過 200 個產品線在使用,部署機器超過 1000 臺,單一業務最大可達到上百 TB。 Apach ......

    uj5u.com 2023-05-27 08:07:12 more
  • 一文教會你用Apache SeaTunnel Zeta離線把資料從MySQL同步到Star

    我們介紹一下SeaTunnel支持的第一個同步場景:離線批量同步。顧名思意,離線批量同步需要用戶定義好SeaTunnel JobConfig,選擇批處理模式,作業啟動后開始同步資料,當資料同步完成后作業完成退出。 ......

    uj5u.com 2023-05-27 08:06:59 more
  • 7個工程應用中資料庫性能優化經驗分享

    摘要:此篇文章分別從sql執行程序、執行計劃、索引資料結構、索引查詢提速原理、聚焦索引、左前綴優化原則、自增主鍵索引這些角度談一談我們對資料庫優化的理解。 本文分享自華為云社區《工程應用中資料庫性能優化經驗小結》,作者: 葉工 。 1、前言 現階段交付的演算法產品,絕大多數涉及到資料庫的使用。它承載的 ......

    uj5u.com 2023-05-27 08:01:26 more
  • 詳解GaussDB(DWS)用戶監控原理及應用

    摘要:本文將聚焦于用戶監控的原理及應用進行介紹。 本文分享自華為云社區《GaussDB(DWS)監控工具指南(二)用戶級監控》,作者:幕后小黑爪 。 前言 資源監控是整個運維乃至整個產品生命周期重要的一環,事前及時陳述句發現故障,事后提供詳實的資料用于追查定位問題。GaussDB(DWS)整個資源監控 ......

    uj5u.com 2023-05-27 07:51:13 more