主頁 >  其他 > Elasticsearch系列---增量更新原理及優勢

Elasticsearch系列---增量更新原理及優勢

2020-09-10 12:01:52 其他

概要

本篇主要介紹增量更新(partial update,也叫區域更新)的核心原理,介紹6.3.1版本的Elasticsearch腳本使用實體和增量更新的優勢,

增量更新程序與原理

簡單回顧

前文我們有簡單介紹過增量的語法,簡單回顧一下請求示例:

POST /music/children/1/_update
{
  "doc": {
    "length": "76"
  }
}

一般從客戶端到Elasticsearch,完整的應用請求流程基本是這樣的:

  • 客戶端先發起GET請求,獲取到document資訊,展現到前端頁面上,供用戶進行編輯,
  • 用戶編輯完資料后,點擊提交,
  • 后臺系統處理修改后的資料,并組裝好完整的document報文,
  • 發送PUT請求到ES,進行全量替換,
  • ES將老的document標記為deleted,然后重新創建一個新的document,

Elasticsearch的document是基于不可變模式設計的,所有的document更新,其實都創建了一個新的document出來,再把老的document標記為deleted,增量更新也不例外,只是GET全量document資料,整合新的document,替換老的document這三步操作全在一個shard里完成,毫秒級完成,

增量更新分片之間的互動

12

增量更新document的步驟:

  1. Java客戶端向ES集群發送更新請求,
  2. Coodinate Node收到請求,但該document不在當前node上,它將請求轉發到Node2節點的P0 shard上,
  3. Node 2檢索document,修改_source下的JSON,并且重新索引該document,如果有其他執行緒修改過該document,有版本沖突的話,會重新嘗試更新document,最大重試retry_on_conflict次,超出重試次數后放棄,
  4. 如果步驟3操作成功,Node2會將該document的完整內容異步轉發到Node1和Node3的replica shard,重新建立索引,一旦所有replica都回傳成功,Node2回傳成功訊息給Coodinate Node,
  5. Coodinate Node回應更新成功訊息給客戶端,此時ES集群內primary shard和replica shard都已經更新完成,
注意幾點:
  • primary shard向replica shard進行document資料同步時,發送的是document的完整資訊,因為異步請求不保證有序,如果發增量資訊的話,順序錯亂會導致document內容錯誤,
  • 只要Coodinate Node向Java客戶端回應成功,就表示所有的primary shard向replica shard都完成了更新操作,此時ES集群內的資料是一致的,更新是安全的,
  • retry策略,ES再次獲取document資料和最新版本號,成功就更新,失敗再試,最大次數可以設定,如5次:retry_on_conflict=5
  • retry策略在增量操作無關順序的場景更適用,比如說計數操作,誰先執行誰后執行,關系不大,最終結果是對的就行,其他的一些場景,如庫存的變化,賬戶余額的變化,直接更新成指定數值的,肯定不能使用retry策略,但可以轉化成加減法,如下單時由直接更新庫存數量的邏輯改成“當前可用庫存數量=庫存數量-訂單商品數量”,賬戶余額的更新加減變化的金額,這樣可以在一定程度上,把順序有關轉化成順序無關,就可以更方便的使用retry策略解決沖突的問題,

增量更新的優點

  1. 所有的查詢、修改和回寫操作,都是在ES內部完成的,減小了網路資料傳輸開銷(2次),提升了性能,
  2. 相比全量替換的時間間隔(秒級以上),縮短了查詢和修改的時間間隔(毫秒級),可以有效降低并發沖突的情況,

使用腳本實作增量更新

Elasticsearch支持使用腳本實作更為靈活的邏輯,6.0版本以后,默認支持的腳本是painless,并且不再支持Groovy,因為Groovy編譯有一定概率會出現記憶體不釋放,最終導致Full GC的問題,

我們以英文兒歌的案例為背景,假設document的資料是這樣:

{
  "_index": "music",
  "_type": "children",
  "_id": "2",
  "_version": 6,
  "found": true,
  "_source": {
    "name": "wake me, shark me",
    "content": "don't let me sleep too late, gonna get up brightly early in the morning",
    "language": "english",
    "length": "55",
    "likes": 0
  }
}

內置腳本

現在有這樣一個需求:每當有人點擊播放一次歌曲時,該document的likes field就自增1,我們可以用簡單的腳本來實作:

POST /music/children/2/_update
{
   "script" : "ctx._source.likes++"
}

執行一次后,再查詢該document,發現likes變成1,每執行一次,likes都自增1,結果符合預期,

外部腳本

對剛剛那個自增需求做一些改動,支持批量更新播放量,自增的數量由引數傳入,腳本也可以通過匯入的方式,預先編譯存盤在ES中,使用的時候呼叫即可,

創建腳本
POST _scripts/music-likes
{
  "script": {
    "lang": "painless",
    "source": "ctx._source.likes += params.new_likes" 
  }
}

腳本ID為music-likes,引數為new_likes,是可以在呼叫時傳入的,

使用腳本

我們更新時,執行如下請求,就可以呼叫剛剛創建的腳本

POST /music/children/2/_update
{
  "script": {
    "id": "music-likes", 
    "params": {
      "new_likes": 2
    }
  }
}

id即創建腳本時的music-likes,params是固定寫法,里面的引數為new_likes,執行后再查看document資訊,可以看到likes field的值按傳入的值進行累加,結果符合預期,

查看腳本

命令:

GET _scripts/music-likes

斜杠后面的引數即腳本ID

洗掉腳本

命令:

DELETE _scripts/music-likes

斜杠后面的引數即腳本ID

腳本注意事項

  • ES檢測到新腳本時,會執行腳本編譯,并將它存盤在快取中,編譯比較耗時,
  • 腳本的撰寫能引數化的,就不要硬編碼,提高腳本的復用性,
  • 短時間內太多的腳本編譯,如果超出了ES的承受范圍,ES直接報circuit_breaking_exception錯誤,這個范圍默認是15條/分鐘,
  • 腳本快取默認100條,默認不設過期時間,每個腳本最大字符65535位元組,想自行配置的話可以改script.cache.expire、script.cache.max_size和script.max_size_in_bytes引數,

一句話,提高腳本的復用性,

upsert語法

像剛剛的案例,實作的是一個播放計數器的功能,目前這個計數器是與內容存盤在一起,如果計數器單獨存盤,可能會出現新上架的一首歌,但計數器的document可能還不存在,試圖對它做更新操作會報document_missing_exception錯誤,這種場景我們需要使用upsert語法:

POST /music/children/3/_update
{
   "script" : "ctx._source.likes++",
   "upsert": {
     "likes": 0
   }
}

如果id為3的記錄不存在,第一次請求時,執行upsert里面的JSON內容,初始化一個新檔案,ID為3,likes值為0;第二次請求時,檔案已經存在,此時做script腳本的更新操作,likes自增,

小結

本篇簡單介紹了增量更新的程序與原理,并與全量替換做了簡單的對比,針對一些簡單的計數場景,引入腳本的實作方式案例,腳本可以實作很豐富的功能,具體可以查看官網對Painless的介紹,

專注Java高并發、分布式架構,更多技術干貨分享與心得,請關注公眾號:Java架構社區
Java架構社區

轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/2114.html

標籤:其他

上一篇:Elasticsearch系列---并發控制及樂觀鎖實作原理

下一篇:千萬級資料遷移工具DataX實踐和geom型別擴展

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 網閘典型架構簡述

    網閘架構一般分為兩種:三主機的三系統架構網閘和雙主機的2+1架構網閘。 三主機架構分別為內端機、外端機和仲裁機。三機無論從軟體和硬體上均各自獨立。首先從硬體上來看,三機都用各自獨立的主板、記憶體及存盤設備。從軟體上來看,三機有各自獨立的作業系統。這樣能達到完全的三機獨立。對于“2+1”系統,“2”分為 ......

    uj5u.com 2020-09-10 02:00:44 more
  • 如何從xshell上傳檔案到centos linux虛擬機里

    如何從xshell上傳檔案到centos linux虛擬機里及:虛擬機CentOs下執行 yum -y install lrzsz命令,出現錯誤:鏡像無法找到軟體包 前言 一、安裝lrzsz步驟 二、上傳檔案 三、遇到的問題及解決方案 總結 前言 提示:其實很簡單,往虛擬機上安裝一個上傳檔案的工具 ......

    uj5u.com 2020-09-10 02:00:47 more
  • 一、SQLMAP入門

    一、SQLMAP入門 1、判斷是否存在注入 sqlmap.py -u 網址/id=1 id=1不可缺少。當注入點后面的引數大于兩個時。需要加雙引號, sqlmap.py -u "網址/id=1&uid=1" 2、判斷文本中的請求是否存在注入 從文本中加載http請求,SQLMAP可以從一個文本檔案中 ......

    uj5u.com 2020-09-10 02:00:50 more
  • Metasploit 簡單使用教程

    metasploit 簡單使用教程 浩先生, 2020-08-28 16:18:25 分類專欄: kail 網路安全 linux 文章標簽: linux資訊安全 編輯 著作權 metasploit 使用教程 前言 一、Metasploit是什么? 二、準備作業 三、具體步驟 前言 Msfconsole ......

    uj5u.com 2020-09-10 02:00:53 more
  • 游戲逆向之驅動層與用戶層通訊

    驅動層代碼: #pragma once #include <ntifs.h> #define add_code CTL_CODE(FILE_DEVICE_UNKNOWN,0x800,METHOD_BUFFERED,FILE_ANY_ACCESS) /* 更多游戲逆向視頻www.yxfzedu.com ......

    uj5u.com 2020-09-10 02:00:56 more
  • 北斗電力時鐘(北斗授時服務器)讓網路資料更精準

    北斗電力時鐘(北斗授時服務器)讓網路資料更精準 北斗電力時鐘(北斗授時服務器)讓網路資料更精準 京準電子科技官微——ahjzsz 近幾年,資訊技術的得了快速發展,互聯網在逐漸普及,其在人們生活和生產中都得到了廣泛應用,并且取得了不錯的應用效果。計算機網路資訊在電力系統中的應用,一方面使電力系統的運行 ......

    uj5u.com 2020-09-10 02:01:03 more
  • 【CTF】CTFHub 技能樹 彩蛋 writeup

    ?碎碎念 CTFHub:https://www.ctfhub.com/ 筆者入門CTF時時剛開始刷的是bugku的舊平臺,后來才有了CTFHub。 感覺不論是網頁UI設計,還是題目質量,賽事跟蹤,工具軟體都做得很不錯。 而且因為獨到的金幣制度的確讓人有一種想去刷題賺金幣的感覺。 個人還是非常喜歡這個 ......

    uj5u.com 2020-09-10 02:04:05 more
  • 02windows基礎操作

    我學到了一下幾點 Windows系統目錄結構與滲透的作用 常見Windows的服務詳解 Windows埠詳解 常用的Windows注冊表詳解 hacker DOS命令詳解(net user / type /md /rd/ dir /cd /net use copy、批處理 等) 利用dos命令制作 ......

    uj5u.com 2020-09-10 02:04:18 more
  • 03.Linux基礎操作

    我學到了以下幾點 01Linux系統介紹02系統安裝,密碼啊破解03Linux常用命令04LAMP 01LINUX windows: win03 8 12 16 19 配置不繁瑣 Linux:redhat,centos(紅帽社區版),Ubuntu server,suse unix:金融機構,證券,銀 ......

    uj5u.com 2020-09-10 02:04:30 more
  • 05HTML

    01HTML介紹 02頭部標簽講解03基礎標簽講解04表單標簽講解 HTML前段語言 js1.了解代碼2.根據代碼 懂得挖掘漏洞 (POST注入/XSS漏洞上傳)3.黑帽seo 白帽seo 客戶網站被黑帽植入劫持代碼如何處理4.熟悉html表單 <html><head><title>TDK標題,描述 ......

    uj5u.com 2020-09-10 02:04:36 more
最新发布
  • 2023年最新微信小程式抓包教程

    01 開門見山 隔一個月發一篇文章,不過分。 首先回顧一下《微信系結手機號資料庫被脫庫事件》,我也是第一時間得知了這個訊息,然后跟蹤了整件事情的經過。下面是這起事件的相關截圖以及近日流出的一萬條資料樣本: 個人認為這件事也沒什么,還不如關注一下之前45億快遞資料查詢渠道疑似在近日復活的訊息。 訊息是 ......

    uj5u.com 2023-04-20 08:48:24 more
  • web3 產品介紹:metamask 錢包 使用最多的瀏覽器插件錢包

    Metamask錢包是一種基于區塊鏈技術的數字貨幣錢包,它允許用戶在安全、便捷的環境下管理自己的加密資產。Metamask錢包是以太坊生態系統中最流行的錢包之一,它具有易于使用、安全性高和功能強大等優點。 本文將詳細介紹Metamask錢包的功能和使用方法。 一、 Metamask錢包的功能 數字資 ......

    uj5u.com 2023-04-20 08:47:46 more
  • vulnhub_Earth

    前言 靶機地址->>>vulnhub_Earth 攻擊機ip:192.168.20.121 靶機ip:192.168.20.122 參考文章 https://www.cnblogs.com/Jing-X/archive/2022/04/03/16097695.html https://www.cnb ......

    uj5u.com 2023-04-20 07:46:20 more
  • 從4k到42k,軟體測驗工程師的漲薪史,給我看哭了

    清明節一過,盲猜大家已經無心上班,在數著日子準備過五一,但一想到銀行卡里的余額……瞬間心情就不美麗了。最近,2023年高校畢業生就業調查顯示,本科畢業月平均起薪為5825元。調查一出,便有很多同學表示自己又被平均了。看著這一資料,不免讓人想到前不久中國青年報的一項調查:近六成大學生認為畢業10年內會 ......

    uj5u.com 2023-04-20 07:44:00 more
  • 最新版本 Stable Diffusion 開源 AI 繪畫工具之中文自動提詞篇

    🎈 標簽生成器 由于輸入正向提示詞 prompt 和反向提示詞 negative prompt 都是使用英文,所以對學習母語的我們非常不友好 使用網址:https://tinygeeker.github.io/p/ai-prompt-generator 這個網址是為了讓大家在使用 AI 繪畫的時候 ......

    uj5u.com 2023-04-20 07:43:36 more
  • 漫談前端自動化測驗演進之路及測驗工具分析

    隨著前端技術的不斷發展和應用程式的日益復雜,前端自動化測驗也在不斷演進。隨著 Web 應用程式變得越來越復雜,自動化測驗的需求也越來越高。如今,自動化測驗已經成為 Web 應用程式開發程序中不可或缺的一部分,它們可以幫助開發人員更快地發現和修復錯誤,提高應用程式的性能和可靠性。 ......

    uj5u.com 2023-04-20 07:43:16 more
  • CANN開發實踐:4個DVPP記憶體問題的典型案例解讀

    摘要:由于DVPP媒體資料處理功能對存放輸入、輸出資料的記憶體有更高的要求(例如,記憶體首地址128位元組對齊),因此需呼叫專用的記憶體申請介面,那么本期就分享幾個關于DVPP記憶體問題的典型案例,并給出原因分析及解決方法。 本文分享自華為云社區《FAQ_DVPP記憶體問題案例》,作者:昇騰CANN。 DVPP ......

    uj5u.com 2023-04-20 07:43:03 more
  • msf學習

    msf學習 以kali自帶的msf為例 一、msf核心模塊與功能 msf模塊都放在/usr/share/metasploit-framework/modules目錄下 1、auxiliary 輔助模塊,輔助滲透(埠掃描、登錄密碼爆破、漏洞驗證等) 2、encoders 編碼器模塊,主要包含各種編碼 ......

    uj5u.com 2023-04-20 07:42:59 more
  • Halcon軟體安裝與界面簡介

    1. 下載Halcon17版本到到本地 2. 雙擊安裝包后 3. 步驟如下 1.2 Halcon軟體安裝 界面分為四大塊 1. Halcon的五個助手 1) 影像采集助手:與相機連接,設定相機引數,采集影像 2) 標定助手:九點標定或是其它的標定,生成標定檔案及內參外參,可以將像素單位轉換為長度單位 ......

    uj5u.com 2023-04-20 07:42:17 more
  • 在MacOS下使用Unity3D開發游戲

    第一次發博客,先發一下我的游戲開發環境吧。 去年2月份買了一臺MacBookPro2021 M1pro(以下簡稱mbp),這一年來一直在用mbp開發游戲。我大致分享一下我的開發工具以及使用體驗。 1、Unity 官網鏈接: https://unity.cn/releases 我一般使用的Apple ......

    uj5u.com 2023-04-20 07:40:19 more