主頁 > 資料庫 > Elasticsearch 之 join 關聯查詢及使用場景

Elasticsearch 之 join 關聯查詢及使用場景

2023-05-26 14:35:40 資料庫

在Elasticsearch這樣的分布式系統中執行類似SQL的join連接是代價是比較大的,然而,Elasticsearch卻給我們提供了基于水平擴展的兩種連接形式 ,這句話摘自Elasticsearch官網,從“然而”來看,說明某些場景某些情況下我們還是可以使用的

一、join總述

1、關系類比

在關系型資料庫中,以MySQL為例,尤其B端類系統且資料量不是特別大的場景,我們經常用到join關鍵字對有關系的兩張或者多張表進行關聯查詢,但是當資料量達到一定量級時,查詢性能就是經常困擾的問題,由于es可以做到數億量級的秒查(具體由分片數量決定),這時候把資料同步到es是我們可以使用解決方案之一,

那么不禁有疑問問了,由于業務場景的決定,之前必須關聯查詢的兩張表還能做到進行關聯嗎?

答案是可以的,es也提供了類似于關系型資料庫的關聯查詢,但是它又與關系型資料的關聯查詢有明顯的區別與限制,

2、使用場景

如果把關系資料庫原有關聯的兩張表,同步到es后,通常情況下,我們業務開發中會有兩種查詢訴求的場景

場景1

訴求:展示子表維度的明細資料(包含父表和子表中欄位的條件)

方案:對于此種查詢訴求,我們可以把原來關聯的父子表打成父子表欄位混合在一起的大寬表,既能滿足查詢條件,又有查詢性能的保障,也是常用存盤方案之一

場景2

訴求:展示父表維度的明細資料(包含父表和子表中欄位的條件)

方案:然而,對于此種查詢訴求,需要通過子表的條件來查詢出父表的明細結果,場景1的寬表存盤方案是子表明細資料,而最終我們要的是父表明細資料,顯然對于場景1的存盤方案是不能滿足的,如果非要使用場景1的存盤方案,我們還要對寬表結果進行一次groupby或者collapse操作來得到父表結果,

這個時候我們就可以使用es提供的join功能來完成場景2的訴求查詢,同時它也滿足場景1的訴求查詢

3、使用限制

由于es屬于分布式檔案型資料庫,資料自然是存在于多個分片之上的,Join欄位自然不能像關系型資料庫中的join使用,在es中為了保證良好的查詢性能,最佳的實踐是將資料模型設定為非規范化檔案,通過欄位冗余構造寬表,即存盤在一個索引中,需要滿足條件如下:

(1)父子檔案(資料)必須存盤在同一index中

(2)父子檔案(資料)必須存盤在同一個分片中,通過關聯父檔案ID關聯

(3)一個index中只能包含一個join欄位,但是可以有多個關系

(4)同一個index中,一個父關系可以對應多個子關系,一個子關系只對應一個父關系

4、性能問題

當然執行了join查詢固然性能會受到一定程度的影響,對于帶has_child/has_parent而言,其查詢性能會隨著指向唯一父檔案的匹配子檔案的數量增加而降低,本文開篇第一句摘自es官網描述,從ES官方的描述來看join關聯查詢對性能的損耗是比較大的,

不過,在筆者使用的程序中,在5個分片的前提下,且父表十萬量級,子表資料量在千萬量級的情況下,關聯查詢的耗時還是在100ms內完成的,對于B端許多場景還是可以接受的,

若有類似場景,建議我們在使用前,根據分片的多少和預估未來資料量的大小提前做好性能測驗,防止以后數量達到一定程度時,性能有明顯下降,那個時候再改存盤方案得不償失,

二、Mapping

1、舉例說明

這里以優惠券活動與優惠券明細為例,在一個優惠券活動中可以發放幾千萬的優惠券,所以券活動與券明細是一對多的關系,

券活動表欄位

欄位 說明
activity_id 活動ID
activity_name 活動名稱

券明細表欄位

欄位 說明
coupon_id 券ID
coupon_amount 券面額
activity_id 外鍵-活動ID

2、mapping釋義

join型別的欄位主要用來在同一個索引中構建父子關聯關系,通過relations定義一組父子關系,每個關系都包含一個父級關系名稱和一個或多個子級關系名稱

activity_coupon_field是一個關聯欄位,內部定義了一組join關系,該欄位為自命名

type指定關聯關系是join,固定寫法

relations定義父子關系,activity父型別名稱,coupon子型別名稱,名稱均為自命名

{
	"mappings": {
		"properties": {
			"activity_coupon_field": {
				"type": "join",
				"relations": {
					"activity": "coupon"
				}
			},
			"activity_id": {
				"type": "keyword"
			},
			"activity_name": {
				"type": "keyword"
			},
			"coupon_id": {
				"type": "long"
			},
			"coupon_amount": {
				"type": "long"
			}
		}
	}
}

三、插入資料

1、插入父檔案

在put父檔案資料的時候,我們通常按照某種規則指定檔案ID,方便子檔案資料變更時易于得到父檔案ID,比如這里我們用activity_id的值:activity_100來作為父id

PUT /coupon/_doc/activity_100
 
{
	"activity_id": 100,
	"activity_name": "年貨節5元促銷優惠券",
	"activity_coupon_field": {
		"name": "activity"
	}
}

2、插入子檔案

上邊已經指定了父檔案ID,而子表中已經包含有activity_id,所以很容易得到父檔案ID

put子檔案資料時候,必須指定父檔案ID,就是父檔案中的_id,這樣父子資料才建立了關聯關系,與此同時還要指定routing欄位為父檔案ID,這樣保證了父子資料在同一分片上,

PUT /coupon/_doc/coupon_12345678?routing=activity_id_100
 
{
	"coupon_id": 12345678,
	"coupon_amount": "5",
	"activity_id": 100,
	"activity_coupon_field": {
		"name": "coupon",
		"parent": "activity_id_100" //父ID
	}
}

四、關聯查詢

1、has_parent查詢(父查子)

根據父檔案條件欄位查詢符合條件的子檔案資料

例如:查詢包含“年貨節”活動字樣,且已經被領取過的券

{
	"query": {
		"bool": {
			"must": [{
				"parent_type": "activity",
				"has_parent": {
					"query": {
						"bool": {
							"must": [{
								"term": {
									"status": {
										"value": 1
									}
								}
							}, {
								"wildcard": {
									"activity_name": {
										"wildcard": "*年貨節*"
									}
								}
							}]
						}
					}
				}
			}]
		}
	}
}

2、has_child查詢(子查父)

根據子檔案條件欄位符合條件的父檔案資料

例如:查詢coupon_id=12345678在那個存在于哪個券活動中

{
	"query": {
		"bool": {
			"must": [{
				"has_child": {
					"type": "coupon",
					"query": {
						"bool": {
							"must": [{
								"term": {
									"coupon_id": {
										"value": 12345678
									}
								}
							}]
						}
					}
				}
			}]
		}
	}
}

參考:Joining queries | Elasticsearch Guide [7.9] | Elastic

以上文中如有不正之處歡迎留言指正

作者:京東零售 李振乾

內容來源:京東云開發者社區

轉載請註明出處,本文鏈接:https://www.uj5u.com/shujuku/553475.html

標籤:其它

上一篇:實體講解Spring boot動態切換資料源

下一篇:返回列表

標籤雲
其他(159749) Python(38169) JavaScript(25456) Java(18129) C(15231) 區塊鏈(8268) C#(7972) AI(7469) 爪哇(7425) MySQL(7213) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5873) 数组(5741) R(5409) Linux(5341) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4576) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2434) ASP.NET(2403) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) .NET技术(1976) 功能(1967) Web開發(1951) HtmlCss(1948) C++(1922) python-3.x(1918) 弹簧靴(1913) xml(1889) PostgreSQL(1878) .NETCore(1861) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • GPU虛擬機創建時間深度優化

    **?桔妹導讀:**GPU虛擬機實體創建速度慢是公有云面臨的普遍問題,由于通常情況下創建虛擬機屬于低頻操作而未引起業界的重視,實際生產中還是存在對GPU實體創建時間有苛刻要求的業務場景。本文將介紹滴滴云在解決該問題時的思路、方法、并展示最終的優化成果。 從公有云服務商那里購買過虛擬主機的資深用戶,一 ......

    uj5u.com 2020-09-10 06:09:13 more
  • 可編程網卡芯片在滴滴云網路的應用實踐

    **?桔妹導讀:**隨著云規模不斷擴大以及業務層面對延遲、帶寬的要求越來越高,采用DPDK 加速網路報文處理的方式在橫向縱向擴展都出現了局限性。可編程芯片成為業界熱點。本文主要講述了可編程網卡芯片在滴滴云網路中的應用實踐,遇到的問題、帶來的收益以及開源社區貢獻。 #1. 資料中心面臨的問題 隨著滴滴 ......

    uj5u.com 2020-09-10 06:10:21 more
  • 滴滴資料通道服務演進之路

    **?桔妹導讀:**滴滴資料通道引擎承載著全公司的資料同步,為下游實時和離線場景提供了必不可少的源資料。隨著任務量的不斷增加,資料通道的整體架構也隨之發生改變。本文介紹了滴滴資料通道的發展歷程,遇到的問題以及今后的規劃。 #1. 背景 資料,對于任何一家互聯網公司來說都是非常重要的資產,公司的大資料 ......

    uj5u.com 2020-09-10 06:11:05 more
  • 滴滴AI Labs斬獲國際機器翻譯大賽中譯英方向世界第三

    **桔妹導讀:**深耕人工智能領域,致力于探索AI讓出行更美好的滴滴AI Labs再次斬獲國際大獎,這次獲獎的專案是什么呢?一起來看看詳細報道吧! 近日,由國際計算語言學協會ACL(The Association for Computational Linguistics)舉辦的世界最具影響力的機器 ......

    uj5u.com 2020-09-10 06:11:29 more
  • MPP (Massively Parallel Processing)大規模并行處理

    1、什么是mpp? MPP (Massively Parallel Processing),即大規模并行處理,在資料庫非共享集群中,每個節點都有獨立的磁盤存盤系統和記憶體系統,業務資料根據資料庫模型和應用特點劃分到各個節點上,每臺資料節點通過專用網路或者商業通用網路互相連接,彼此協同計算,作為整體提供 ......

    uj5u.com 2020-09-10 06:11:41 more
  • 滴滴資料倉庫指標體系建設實踐

    **桔妹導讀:**指標體系是什么?如何使用OSM模型和AARRR模型搭建指標體系?如何統一流程、規范化、工具化管理指標體系?本文會對建設的方法論結合滴滴資料指標體系建設實踐進行解答分析。 #1. 什么是指標體系 ##1.1 指標體系定義 指標體系是將零散單點的具有相互聯系的指標,系統化的組織起來,通 ......

    uj5u.com 2020-09-10 06:12:52 more
  • 單表千萬行資料庫 LIKE 搜索優化手記

    我們經常在資料庫中使用 LIKE 運算子來完成對資料的模糊搜索,LIKE 運算子用于在 WHERE 子句中搜索列中的指定模式。 如果需要查找客戶表中所有姓氏是“張”的資料,可以使用下面的 SQL 陳述句: SELECT * FROM Customer WHERE Name LIKE '張%' 如果需要 ......

    uj5u.com 2020-09-10 06:13:25 more
  • 滴滴Ceph分布式存盤系統優化之鎖優化

    **桔妹導讀:**Ceph是國際知名的開源分布式存盤系統,在工業界和學術界都有著重要的影響。Ceph的架構和演算法設計發表在國際系統領域頂級會議OSDI、SOSP、SC等上。Ceph社區得到Red Hat、SUSE、Intel等大公司的大力支持。Ceph是國際云計算領域應用最廣泛的開源分布式存盤系統, ......

    uj5u.com 2020-09-10 06:14:51 more
  • es~通過ElasticsearchTemplate進行聚合~嵌套聚合

    之前寫過《es~通過ElasticsearchTemplate進行聚合操作》的文章,這一次主要寫一個嵌套的聚合,例如先對sex集合,再對desc聚合,最后再對age求和,共三層嵌套。 Aggregations的部分特性類似于SQL語言中的group by,avg,sum等函式,Aggregation ......

    uj5u.com 2020-09-10 06:14:59 more
  • 爬蟲日志監控 -- Elastc Stack(ELK)部署

    傻瓜式部署,只需替換IP與用戶 導讀: 現ELK四大組件分別為:Elasticsearch(核心)、logstash(處理)、filebeat(采集)、kibana(可視化) 下載均在https://www.elastic.co/cn/downloads/下tar包,各組件版本最好一致,配合fdm會 ......

    uj5u.com 2020-09-10 06:15:05 more
最新发布
  • Elasticsearch 之 join 關聯查詢及使用場景

    在Elasticsearch這樣的分布式系統中執行類似SQL的join連接是代價是比較大的,然而,Elasticsearch卻給我們提供了基于水平擴展的兩種連接形式 ......

    uj5u.com 2023-05-26 14:35:40 more
  • 實體講解Spring boot動態切換資料源

    摘要:本文模擬一下在主庫查詢訂單資訊查詢不到的時候,切換資料源去歷史庫里面查詢。 本文分享自華為云社區《springboot動態切換資料源》,作者:小陳沒煩惱 。 前言 在公司的系統里,由于資料量較大,所以配置了多個資料源,它會根據用戶所在的地區去查詢那一個資料庫,這樣就產生了動態切換資料源的場景。 ......

    uj5u.com 2023-05-26 14:20:35 more
  • 4)DML操作

    DML操作: Data Manipulation Language,資料操縱語言;包含insert、update、delete操作; 1、單行插入資料格式: insert into 表名【欄位串列】 values(值串列); 向教師表插入: insert into teacher values('0 ......

    uj5u.com 2023-05-26 14:12:06 more
  • 快速上手kettle(一)壺之簡介

    ### 一、前言 最近由于作業需要,需要用到kettle工具進行資料遷移轉換。特意找資料學習了一下,kettle基本操作算是學會了。 所學的也結合實際作業進行了驗證。為了防止以后用到忘記了,便寫了幾篇文章記錄一下。 ![快速上手kettle](https://img2023.cnblogs.com/ ......

    uj5u.com 2023-05-26 13:57:31 more
  • 萬字長文詳述ClickHouse在京喜達實時資料的探索與實踐

    在引入ClickHouse程序中經歷各種困難,耗費大量精力去探索并一一解決,在這里記錄一下希望能夠給沒有接觸過ClickHouse的同學提供一些方向上的指引避免多走彎路,如果文中有錯誤也希望多包含給出指點,歡迎大家一起討論ClickHouse相關的話題。本文偏長但全是干貨,請預留40~60分鐘進行閱... ......

    uj5u.com 2023-05-25 14:13:13 more
  • 百度云原生資料庫GaiaDB的HTAP與多地多活技術實踐

    云原生資料庫在使用存算分離技術后,可以在完全兼容MYSQL協議和語法的情況下,極大提升單實體所能承載的資料規模與吞吐能力上限。但除了對客戶端兼容外,對整個資料生態(地域容災,資料分析,備份恢復)的適配同樣需要大量的設計優化作業。本次分享GaiaDB在跨地域/異構資料同步場景下,吞吐/實時性/一致性方... ......

    uj5u.com 2023-05-25 14:12:53 more
  • SQL Server:分頁查詢

    ## 一、分頁查詢 ? 需求描述:客戶端查詢資料庫資料并顯示在表格中。在資料庫中進行一次查詢,查詢結果有1050條記錄,但表格row上限: 100,這時需要給本次查詢記錄分配 `?` 頁用來顯示? 可以通過固定公式進行計算(c偽代碼): ```c # define TABLE_SHOW_ROW 10 ......

    uj5u.com 2023-05-25 14:12:18 more
  • 萬字長文詳述ClickHouse在京喜達實時資料的探索與實踐

    在引入ClickHouse程序中經歷各種困難,耗費大量精力去探索并一一解決,在這里記錄一下希望能夠給沒有接觸過ClickHouse的同學提供一些方向上的指引避免多走彎路,如果文中有錯誤也希望多包含給出指點,歡迎大家一起討論ClickHouse相關的話題。本文偏長但全是干貨,請預留40~60分鐘進行閱... ......

    uj5u.com 2023-05-25 14:11:41 more
  • 百度云原生資料庫GaiaDB的HTAP與多地多活技術實踐

    云原生資料庫在使用存算分離技術后,可以在完全兼容MYSQL協議和語法的情況下,極大提升單實體所能承載的資料規模與吞吐能力上限。但除了對客戶端兼容外,對整個資料生態(地域容災,資料分析,備份恢復)的適配同樣需要大量的設計優化作業。本次分享GaiaDB在跨地域/異構資料同步場景下,吞吐/實時性/一致性方... ......

    uj5u.com 2023-05-25 14:11:20 more
  • es筆記六之聚合操作之指標聚合

    > 本文首發于公眾號:Hunter后端 > 原文鏈接:[es筆記六之聚合操作之指標聚合](https://mp.weixin.qq.com/s/UyiZ2bzFxi7zCGmL1Xf3CQ) 聚合操作,在 es 中的聚合可以分為大概四種聚合: * bucketing(桶聚合) * mertic(指標 ......

    uj5u.com 2023-05-25 10:38:29 more