主頁 > 資料庫 > 一文詳解如何在 ChengYing 中通過產品線部署一鍵提升效率

一文詳解如何在 ChengYing 中通過產品線部署一鍵提升效率

2023-05-07 08:58:02 資料庫

在之前的內容當中,我們為大家介紹過 ChengYing 的安裝原理、產品包制作等內容,本篇就延續之前的內容,和大家展開聊聊 ChengYing 產品線部署相關的設計,幫助對「一站式全自動化全生命周期大資料平臺運維管家 ChengYing」感興趣的開發者更好地了解和使用 ChengYing,

產品線部署簡介

首先對 ChengYing 的產品線部署進行一個“自我介紹”,共分為三個部分:

● 支持用戶自定義的產品線

在 ChengYing 中,是以組件包的維度部署服務,比如一個 zookeeper 的產品包,會預先定義好 ZK 的包上傳到 ChengYing 的系統當中,再去選擇要部署的服務以及給 ZK 編排部署機器,以此完成部署,

對于初學者來說,當需要部署多個服務,這些服務又有順序依賴關系時,會不清楚部署的先后順序,從而導致部署非常吃力,因此 ChengYing 支持使用 DAG(有向無環圖)進行定義靈活可配的組件包部署順序,目的是為了讓熟悉和不熟悉的人都能夠通過預定義產品線的形式同時部署多個組件包,從而大大提高部署效率,

● 支持服務的親和性配置

根據組件包中不同服務的型別,結合主機角色資訊自動進行服務主機編排,在接入主機到 ChengYing 系統中時,支持給主機打上對應的標簽即角色,相應角色的組件會部署到相應角色的機器上,

● 一鍵自動部署組件包

基于組件包手動部署,同樣的入口,選擇不同的產品線部署方式之后,可一鍵按需迅速完成所需要的多個組件包的同時部署,提高部署效率,

產品線部署設計

接下來,通過代碼設計的角度看看 ChengYing 對產品線部署是如何進行技術設計的,

什么是 DAG

DAG (有向無環圖,Directed Acyclic Graph)是一種常用資料結構,僅就 DAG 而言,它已經在我們日常的各種工具中存在,如依賴系統、資料流系統、資料可視化等,當我們從任務編排的角度來看,DAG 面向普通人術語叫作作業流(Workflow),

在圖論中, 如果一個有向圖無法從任意頂點出發經過若干條邊回到該點, 則這個圖就是一個有向無環圖 (DAG 圖),

file

ChengYing 產品線部署設計的核心就是給定一組任務,按照自定義的方式安排它們的執行順序,即 DAG,

產品線 DAG 定義

預先定義某一條產品線中每一個組件包的部署順序,將其關系使用 DAG 的方式定義為 json 檔案,平臺自動決議 json 得到部署順序從而實作自動部署的效果,

file
· product_line_name: 產品線名稱(可預定義)

· product_line_version: 產品線版本(可預定義)

· product_serial: 組件包部署順序(上圖說明 DTBase 的 dependee 為0,表示沒有依賴;DTFront 的 dependee 為1,表示依賴 id 為1的組件包)

產品線 DAG 原始碼分析

如果要對復雜物件排序的話,該排序必須包含 Len,Swap,Less 這三個方法,

file

下面這段原始碼是 DAG 執行的核心邏輯,對于原始碼的具體決議可以前往視頻進行觀看:

https://www.bilibili.com/video/BV1KV4y1Q7KP/?spm_id_from=333.999.0.0

原始碼本身已經全部開源,可以前往 ChengYing 的 Github 進行學習:

https://github.com/DTStack/chengying

file

服務親和性配置

服務親和性的定義指以預選、優選、選定的機制完成將每個新的服務系結至為其選出的目標節點上,

在 k8s 中,支持節點和 Pod 兩個層級的親和性、反親和性調度,通過配置親和與反親和的規則,允許指定硬性限制和軟性限制,即偏好,

比如將前端的 Pod 和后端的 Pod 部署在一起,這樣可以減少網路延遲,或是某一型別的服務部署在某一型別的節點上,不同的應用部署在不同的節點上等,

定義節點親和性規則時有兩種型別的節點親和性規則 :硬親和性 required 和軟親和性 preferred,硬親和性實作的是強制性規則,它是 Pod 調度時必須要滿足的規則,而在不存在滿足規則的節點時 , Pod 物件會被置為 Pending 狀態,

而軟親和性規則實作的是一種柔性調度限制,它傾向于將 Pod 物件運行于某類特定的節點之上,而調度器也將盡量滿足此需求,但在無法滿足調度需求時它將退而求其次地選擇一個不匹配規則的節點,

類似于 k8s,ChengYing 中的服務親和性和反親和性也進行了相應的欄位設定:

· orchestration.affinity:陣列,自動編排角色親和性【可選】, 但是沒有該欄位的話,該服務將無法參與自動編排

· orchestration.anti_affinity:陣列,自動編排角色反親和性 【可選】

使用場景

下面來為大家介紹如何在 ChengYing 中使用產品線的部署,

設定主機角色

在【部署中心】-【集群管理】-【集群詳情】中,可以給節點編輯對應角色,

file

上傳產品線

角色完成定義之后,就可以在【部署中心】進行部署,支持自動部署(基于產品線順序部署多個組件包,支持主機角色自動編排),手動部署(基于單個組件包部署,支持自定義主機編排),

只要把產品線和產品包的親和性與反親和性全部定義好之后,開發者進入這個頁面會非常一目了然,每一個節點上分配了哪些服務,先后進行怎樣的部署等,一鍵就可以完成這些繁瑣的作業,極大提升部署效率,

file
file

視頻課程&PPT獲取

視頻課程:

https://www.bilibili.com/video/BV1KV4y1Q7KP/?spm_id_from=333.999.0.0

課件獲取:

https://www.dtstack.com/resources/1037

《數堆疊產品白皮書》:https://www.dtstack.com/resources/1004?src=https://www.cnblogs.com/DTinsight/p/szsm

《資料治理行業實踐白皮書》下載地址:https://www.dtstack.com/resources/1001?src=https://www.cnblogs.com/DTinsight/p/szsm

想了解或咨詢更多有關袋鼠云大資料產品、行業解決方案、客戶案例的朋友,瀏覽袋鼠云官網:https://www.dtstack.com/?src=https://www.cnblogs.com/DTinsight/p/szbky

同時,歡迎對大資料開源專案有興趣的同學加入「袋鼠云開源框架釘釘技術qun」,交流最新開源技術資訊,qun號碼:30537511,專案地址:https://github.com/DTStack

轉載請註明出處,本文鏈接:https://www.uj5u.com/shujuku/551843.html

標籤:大數據

上一篇:第1章 大資料概述

下一篇:返回列表

標籤雲
其他(158590) Python(38118) JavaScript(25404) Java(18023) C(15222) 區塊鏈(8262) C#(7972) AI(7469) 爪哇(7425) MySQL(7165) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5871) 数组(5741) R(5409) Linux(5335) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4565) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2432) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1965) Web開發(1951) HtmlCss(1932) python-3.x(1918) 弹簧靴(1913) C++(1912) xml(1889) PostgreSQL(1874) .NETCore(1857) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • GPU虛擬機創建時間深度優化

    **?桔妹導讀:**GPU虛擬機實體創建速度慢是公有云面臨的普遍問題,由于通常情況下創建虛擬機屬于低頻操作而未引起業界的重視,實際生產中還是存在對GPU實體創建時間有苛刻要求的業務場景。本文將介紹滴滴云在解決該問題時的思路、方法、并展示最終的優化成果。 從公有云服務商那里購買過虛擬主機的資深用戶,一 ......

    uj5u.com 2020-09-10 06:09:13 more
  • 可編程網卡芯片在滴滴云網路的應用實踐

    **?桔妹導讀:**隨著云規模不斷擴大以及業務層面對延遲、帶寬的要求越來越高,采用DPDK 加速網路報文處理的方式在橫向縱向擴展都出現了局限性。可編程芯片成為業界熱點。本文主要講述了可編程網卡芯片在滴滴云網路中的應用實踐,遇到的問題、帶來的收益以及開源社區貢獻。 #1. 資料中心面臨的問題 隨著滴滴 ......

    uj5u.com 2020-09-10 06:10:21 more
  • 滴滴資料通道服務演進之路

    **?桔妹導讀:**滴滴資料通道引擎承載著全公司的資料同步,為下游實時和離線場景提供了必不可少的源資料。隨著任務量的不斷增加,資料通道的整體架構也隨之發生改變。本文介紹了滴滴資料通道的發展歷程,遇到的問題以及今后的規劃。 #1. 背景 資料,對于任何一家互聯網公司來說都是非常重要的資產,公司的大資料 ......

    uj5u.com 2020-09-10 06:11:05 more
  • 滴滴AI Labs斬獲國際機器翻譯大賽中譯英方向世界第三

    **桔妹導讀:**深耕人工智能領域,致力于探索AI讓出行更美好的滴滴AI Labs再次斬獲國際大獎,這次獲獎的專案是什么呢?一起來看看詳細報道吧! 近日,由國際計算語言學協會ACL(The Association for Computational Linguistics)舉辦的世界最具影響力的機器 ......

    uj5u.com 2020-09-10 06:11:29 more
  • MPP (Massively Parallel Processing)大規模并行處理

    1、什么是mpp? MPP (Massively Parallel Processing),即大規模并行處理,在資料庫非共享集群中,每個節點都有獨立的磁盤存盤系統和記憶體系統,業務資料根據資料庫模型和應用特點劃分到各個節點上,每臺資料節點通過專用網路或者商業通用網路互相連接,彼此協同計算,作為整體提供 ......

    uj5u.com 2020-09-10 06:11:41 more
  • 滴滴資料倉庫指標體系建設實踐

    **桔妹導讀:**指標體系是什么?如何使用OSM模型和AARRR模型搭建指標體系?如何統一流程、規范化、工具化管理指標體系?本文會對建設的方法論結合滴滴資料指標體系建設實踐進行解答分析。 #1. 什么是指標體系 ##1.1 指標體系定義 指標體系是將零散單點的具有相互聯系的指標,系統化的組織起來,通 ......

    uj5u.com 2020-09-10 06:12:52 more
  • 單表千萬行資料庫 LIKE 搜索優化手記

    我們經常在資料庫中使用 LIKE 運算子來完成對資料的模糊搜索,LIKE 運算子用于在 WHERE 子句中搜索列中的指定模式。 如果需要查找客戶表中所有姓氏是“張”的資料,可以使用下面的 SQL 陳述句: SELECT * FROM Customer WHERE Name LIKE '張%' 如果需要 ......

    uj5u.com 2020-09-10 06:13:25 more
  • 滴滴Ceph分布式存盤系統優化之鎖優化

    **桔妹導讀:**Ceph是國際知名的開源分布式存盤系統,在工業界和學術界都有著重要的影響。Ceph的架構和演算法設計發表在國際系統領域頂級會議OSDI、SOSP、SC等上。Ceph社區得到Red Hat、SUSE、Intel等大公司的大力支持。Ceph是國際云計算領域應用最廣泛的開源分布式存盤系統, ......

    uj5u.com 2020-09-10 06:14:51 more
  • es~通過ElasticsearchTemplate進行聚合~嵌套聚合

    之前寫過《es~通過ElasticsearchTemplate進行聚合操作》的文章,這一次主要寫一個嵌套的聚合,例如先對sex集合,再對desc聚合,最后再對age求和,共三層嵌套。 Aggregations的部分特性類似于SQL語言中的group by,avg,sum等函式,Aggregation ......

    uj5u.com 2020-09-10 06:14:59 more
  • 爬蟲日志監控 -- Elastc Stack(ELK)部署

    傻瓜式部署,只需替換IP與用戶 導讀: 現ELK四大組件分別為:Elasticsearch(核心)、logstash(處理)、filebeat(采集)、kibana(可視化) 下載均在https://www.elastic.co/cn/downloads/下tar包,各組件版本最好一致,配合fdm會 ......

    uj5u.com 2020-09-10 06:15:05 more
最新发布
  • 一文詳解如何在 ChengYing 中通過產品線部署一鍵提升效率

    在之前的內容當中,我們為大家介紹過 ChengYing 的安裝原理、產品包制作等內容,本篇就延續之前的內容,和大家展開聊聊 ChengYing 產品線部署相關的設計。幫助對「一站式全自動化全生命周期大資料平臺運維管家 ChengYing」感興趣的開發者更好地了解和使用 ChengYing。 產品線部 ......

    uj5u.com 2023-05-07 08:58:02 more
  • 第1章 大資料概述

    1.1 資訊與資料 1、資訊 人們對于客觀事物屬性和運動狀態的反映。 資訊所反映的是關于某一客觀系統中,某一事物的存在方式或某一時刻的運動狀態。 資訊可以通過載體傳遞,可以通過資訊處理工具進行存盤、加工、傳播、再生和增值。 在資訊社會中,資訊一般可與物質或能量相提并論,它是一種重要的資源。 2、資料 ......

    uj5u.com 2023-05-07 08:57:43 more
  • 水平分庫分表排雷帖

    提起分庫分表,對于大部分服務器開發來說,其實并不是一個新鮮的名詞。隨著業務的發展,我們表中的資料量會變的越來越大,欄位也可能隨著業務復雜度的升高而逐漸增多,我們為了解決單表的查詢性能問題,一般會進行分表操作。

    同時我們業務的用戶活躍度也會越來越高,并發量級不斷加大,那么可能會達到單個資料庫的處理能... ......

    uj5u.com 2023-05-06 09:17:02 more
  • 水平分庫分表排雷帖

    提起分庫分表,對于大部分服務器開發來說,其實并不是一個新鮮的名詞。隨著業務的發展,我們表中的資料量會變的越來越大,欄位也可能隨著業務復雜度的升高而逐漸增多,我們為了解決單表的查詢性能問題,一般會進行分表操作。

    同時我們業務的用戶活躍度也會越來越高,并發量級不斷加大,那么可能會達到單個資料庫的處理能... ......

    uj5u.com 2023-05-06 09:15:41 more
  • count(列名)、count(1)和 count(*)有什么區別?

    在MySQL中,這幾個都是統計操作,很多人在使用的時候,都使用的是count(1),這有沒有問題?使用正確?達到了統計效果? 我們從效果和效率兩方面來分析下 執行效果 count(*) 包括了所有的列,在統計時不會忽略列值為null的資料count(1) 用1表示代碼行,在統計時不會忽略列值為nul ......

    uj5u.com 2023-05-06 08:29:22 more
  • 袋鼠云“飛躍計劃2.0”重磅發布:全面升級伙伴權益,共話數字生態

    4月20日,袋鼠云成功舉行了以“數實融合,韌性生長”為主題的2023春季生長大會。會上重磅發布了袋鼠云生態伙伴計劃——“飛躍計劃2.0”,從商機、產品、聯合方案及資料業務服務層面,與合作伙伴強強聯手,共同打造數字化生態,同時在聯合營銷、渠道政策、賦能培訓、產品開放、技術服務、交付實施等方面全面升級伙 ......

    uj5u.com 2023-05-06 08:29:09 more
  • GaussDB(DWS)網路流控與管控效果

    摘要:本文主要介紹GaussDB(DWS)網路流控能力,并對其管控效果進行驗證。 本文分享自華為云社區《GaussDB(DWS)網路流控與管控效果》,作者:門前一棵葡萄樹。 上一篇博文GaussDB(DWS)網路調度與隔離管控能力,我們詳細介紹了GaussDB網路調度邏輯,并簡單介紹了如何應用網路隔 ......

    uj5u.com 2023-05-06 08:28:55 more
  • SQL Server事務執行程序中中釋放鎖導致的死鎖問題 - 排查與分析

    0. 前情提要 系統的某個用來上報資料的介面存在死鎖的問題。這個介面內部對多張表進行了Update操作,執行順序為A表、B表、C表、D表、A表。死鎖發生的SQL,一條是第一次更新A表的SQL,另一條是第二次更新A表的SQL。整個更新都處在一個事務內,理論上講,只要第一個Session開始執行事務,第 ......

    uj5u.com 2023-05-06 08:23:30 more
  • SQL Server事務執行程序中中釋放鎖導致的死鎖問題 - 排查與分析

    0. 前情提要 系統的某個用來上報資料的介面存在死鎖的問題。這個介面內部對多張表進行了Update操作,執行順序為A表、B表、C表、D表、A表。死鎖發生的SQL,一條是第一次更新A表的SQL,另一條是第二次更新A表的SQL。整個更新都處在一個事務內,理論上講,只要第一個Session開始執行事務,第 ......

    uj5u.com 2023-05-06 08:20:46 more
  • count(列名)、count(1)和 count(*)有什么區別?

    在MySQL中,這幾個都是統計操作,很多人在使用的時候,都使用的是count(1),這有沒有問題?使用正確?達到了統計效果? 我們從效果和效率兩方面來分析下 執行效果 count(*) 包括了所有的列,在統計時不會忽略列值為null的資料count(1) 用1表示代碼行,在統計時不會忽略列值為nul ......

    uj5u.com 2023-05-06 08:18:50 more