主頁 > 軟體設計 > DolphinScheduler之最美好的遇見

DolphinScheduler之最美好的遇見

2021-01-04 10:51:02 軟體設計

主人翁介紹

hello,大家好,我是郭強,目前是Apache DolphinScheduler的Commiter,擅長大資料olap、大資料調度、RPC開發等,目前專注于大資料領域核心技術研發,
我也是一名開源愛好者,我要講的是我從起始給 DolphinScheduler 做貢獻到近期加入到易觀數科大家庭的故事
在這里插入圖片描述

遇見DolphinScheduler

我是一個有開源情節的人,開源以不同的方式陪伴了我相當長的一段時間,同樣也給我帶來了一些比較大的改變,

我個人接觸的開源專案是比較多的,但是深度貢獻的并不多,也是一個偶然的貧訓接觸到DolphinScheduler,從此開始了深度貢獻,

選擇對味的社區其實很重要,如同戀愛一般,總需要幾個回合摸索試探才能決定是否合適,DolphinScheduler社區給我的一個最大的感受就是足夠包容,我不認同你,但是我支持你,這是dailidong給我的一個最直觀的感受,你的想法不成熟的時候,作為PPMC,他需要對社區負責,他可能不是很認同,但是他支持你去完善去佐證,這個程序中也是很感謝社區的一些其他伙伴,qiaozhanwei、Tboy、gaojun2048,lgcarrer(license的大佬)、lenboo(核心流程找他就對了)等,一開始我總有種人微言輕的感覺,一般都處在旁聽的狀態,畢竟這些貢獻者基本上都是各大公司的精英人物,后來發現是我多慮了,大神們其實非常平易近人,也是因為這些人,讓我喜歡上DolphinScheduler社區,

社區帶給我的影響

隨著社區的發展,越來越多同學的加入,我們可能(甚至是必然)會在一些設計上存在一些不同的意見,但這其實也是開源的魅力,對于社區來講,也是一種好事,不同思想的碰撞才會導致設計趨近于更加完善,也只有這樣,DolphinScheduler才能更好走向全球,當然,對于個人來講,也是一種提升,就我而言,我之前在社區討論關于通訊序列化方案的想法,我們的導師,吳晟老師問我,為什么不選擇protobuf呢,我以前的認知,只體現在一個很片面的范圍內,但是吳晟老師從更高層次回答了我所謂的protobuf雞肋的地方,這確實打開了我的視野,感興趣的可以去搜郵件串列,我所想要表達的是,開源是一個全球的舞臺,會有各種不同的人進來參與,也正是由于這樣,你的提升才會更大,因為你不再停留在原有的圈子原有的認知去思考,你會接受各種各樣的人來進行review(不僅僅是code,同樣包括一些設計等等),這種程序其實也是在逐漸拓寬自己的專業領域與認知,

DolphinScheduler微內核插件化設計

專案的推進導致架構的變化,捐給Apache之后,意味著你要面向全球的用戶,不同的用戶對于不同場景的需求是不同的,我們更希望的是DolphinScheduler作為一個基礎設施提供給用戶,給用戶提供強大的擴展能力,用戶在DolphinScheduler這個平臺上去快速擴充自己的功能,

在2020年(近期會發版),高俊老師提出了微內核插件化的架構設計,拿alert來講,我們alert發版后是支持五種告警方式,這能夠滿足絕大多數用戶的一個需求,但依然有一些需求是沒辦法滿足的,這個時候用戶想要自己實作其實很簡單,他不需要系統的去了解DolphinScheduler的整個架構,只需要關注alert的擴展介面,對于其他功能來講是完全隔離的(這也意味著你降低了污染傳遞,當你的模塊出現問題的時候,你不會過多影響其他模塊,甚至你可以完全移除你自己的插件),這對于用戶來講,理解成本更低、開發成本測驗成本同樣更低,對于貢獻者來講亦是如此,降低貢獻者門檻,才能使得一個專案走的更遠,曲高和寡,對于開源專案來講同樣如此,DolphinScheduler社區目前有很多其他社區的貢獻者,比如SkyWalking、ShardingSphere、Dubbo、TubeMq等,調度系統更是與其他大資料生態緊密結合,我們也是希望,通過微內核插件化的方式,使得各個領域的專家都可以以最低成本的貢獻進來,

開源的樂趣

姜寧老師講,開源社區其實是一幫對的人才能夠聚在一起,這種程序會讓你很享受,我之前收到過一封郵件,是一個印度貢獻者的,我merge了他參與Apache DolphinScheduler的第一個PR,他寫了大概幾百字的一封郵件,表達對于開源的向往以及詢問我后續參與貢獻的一個途徑,我不太確定這是否會導致他從此踏上開源這條路,成為一個深度貢獻者,但至少對于他來講,這一刻他有了深度參與的一個想法,我當時也是因為首次貢獻被merge之后于是踏上了開源這條路,我至今依然記得我對于Apache的第一個PR,雖然小,甚至從今天看來,那可能是我貢獻的PR中最微不足道的一個,但對于我來講,它為我打開了一扇門,所以其實到今天,我很樂意給那些初次貢獻的貢獻者提供深度的一個幫助,幫他們認識開源、走進開源,曾經有人為我打開了一扇門,那我希望我能夠給更多人的人提供走進這扇門的一個幫助,這可能也是一種屬于開源人的傳承(BTW,強烈推薦ALC BeiJing),

馬斯洛需求層次理論中講到人的高級需求,其實對我來講,通過DolphinScheduler,我達到了自我實作與尊重,

當我寫的代碼,會運行在數萬臺服務器上,影響幾億的用戶,我也是第一次感覺作為個體和這個世界有了更加緊密的一個聯系,這種內心的成就感是非常高的,

當我看到被我merge代碼的同學發朋友圈或者郵件的時候,我內心其實也是非常愉快的,我老板說:優秀的人成就自己,卓越的人成就他人,我可能不是很優秀的人,但如果能夠從一件小事上影響到別人,對于我來講,我也是很愉悅的(成年人的快樂有時候就這么簡單),

尾篇 致下一個貢獻者的你

大俠在ALC Beijing-開源到底有多難中以開源,不是天才的甜點,而是勤奮者的盛宴為題的分享有幾句話是比較觸動我的

“中國沒有開源”這個觀點我是不愿意相信的,我相信這一代年輕人,不僅僅是程式猿,而是越來越多的人,愿意參加到各行各業的非盈利團體當中去,貢獻自己的想法、代碼、知識,讓這個世界變得更加美好,

我相信哪怕我們這一代人看不到開源的春天,我們的下一代人也不應該再看到開源的“霧霾天”,于是我們就積攢了更多的力量,籌備了一年,把我們自己內部使用的一個產品 — DolphinScheduler 進行了開源,

我身邊參與開源的人其實蠻多的,但倘若放到整個公司來講,其實也并不多,上家公司,產研三四百多人,但是是Apache commiter或者PMC的僅僅只有三人,然而我們整個基礎設施一大半是在開源軟體的基礎上進行開發的(其中一大半是ASF的),對于所使用到的開源專案,我們基本都是內部單獨維護了一個分支,這樣做當然有好處,我們可以跑的很快,有什么問題可以很快修復,但是很少有人會把這些貢獻給上游,最終結果導致和上游差異過大,徹底和社區脫節,大家的現狀是很忙,沒有時間思考,大多數人不斷的掉進坑里面再爬出來,但如果每個人都做出一點點努力,那么這樣其實成本是最少的,你貢獻一點,他貢獻一點,那么其實我們的作業量會減少很多,因為社區幫你做了,這也是開源的力量,還是回到那句話,一個人可以走的很快,但一群人可以走得很遠,

熟悉吳晟老師的人都知道吳晟老師喜歡用『各懷鬼胎』來形容開源社區,我想說的是,無論你懷有什么樣的心思(又或者僅僅是單純的喜歡開源),透過開源確實可以幫你達到一些需求的滿足,無論是一份光鮮的履歷,或者一份 good job,或者隱形的人脈、技術實力的提升、多一點談資等等,但這個前提是你去參與,去貢獻,(BTW,我本人其實也是開源的受益者,因為參與開源,我有幸加入了易觀,大多數企業對于開源貢獻者還是比較友好的,吳晟老師的一次分享,有資料顯示:87%的雇主希望招聘到具備開源能力的員工,而55%的開源業內人士表示他們可以輕松地找到一份新作業,)

中國并不缺乏優秀的工程師,缺乏的僅僅是如何正確的認識開源,參與開源,今天的中國開源其實已經非常好了,有很多前輩以及組織在開源這個領域為我們進行鋪路布道,比如開源社、ALC Beijing等,我們所缺少的,僅僅是大家的參與,有一句很老套的話:如果不是現在,那是什么時候?如果不是你,那會是誰?我是CalvinKirs,我在DolphinScheduler社區等你,

轉載請註明出處,本文鏈接:https://www.uj5u.com/ruanti/244255.html

標籤:其他

上一篇:springcloud 微服務分布式 flowable 作業流 前后分離vue.js 集成代碼生成器 shiro權限

下一篇:電商秒殺設計解決方案

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 面試突擊第一季,第二季,第三季

    第一季必考 https://www.bilibili.com/video/BV1FE411y79Y?from=search&seid=15921726601957489746 第二季分布式 https://www.bilibili.com/video/BV13f4y127ee/?spm_id_fro ......

    uj5u.com 2020-09-10 05:35:24 more
  • 第三單元作業總結

    1.前言 這應該是本學期最后一次寫作業總結了吧。總體來說,對作業的節奏也差不多掌握了,作業做起來的效率也更高了。雖然和之前的作業一樣,作業中都要用到新的知識,但是相比之前,更加懂得了如何利用工具以及資料。雖然之間卡過殼,但總體而言,這幾次作業還算完成的比較好。 2.作業程序總結 相比前兩個單元,此單 ......

    uj5u.com 2020-09-10 05:35:41 more
  • 北航OO(2020)第四單元博客作業暨課程總結博客

    北航OO(2020)第四單元博客作業暨課程總結博客 本單元作業的架構設計 在本單元中,由于UML圖具有比較清晰的樹形結構,因此我對其中需要進行查詢操作的元素進行了包裝,在樹的父節點中存盤所有孩子的參考。考慮到性能問題,我采用了快取機制,一次查詢后盡可能快取已經遍歷過的資訊,以減少遍歷次數。 本單元我 ......

    uj5u.com 2020-09-10 05:35:48 more
  • BUAA_OO_第四單元

    一、UML決議器設計 ? 先看下題目:第四單元實作一個基于JDK 8帶有效性檢查的UML(Unified Modeling Language)類圖,順序圖,狀態圖分析器 MyUmlInteraction,實際上我們要建立一個有向圖模型,UML中的物件(元素)可能與同級元素連接,也可與低級元素相連形成 ......

    uj5u.com 2020-09-10 05:35:54 more
  • 6.1邏輯運算子

    邏輯運算子 1. && 短路與 運算式1 && 運算式2 01.運算式1為true并且運算式2也為true 整體回傳為true 02.運算式1為false,將不會執行運算式2 整體回傳為false 03.只要有一個運算式為false 整體回傳為false 2. || 短路或 運算式1 || 運算式2 ......

    uj5u.com 2020-09-10 05:35:56 more
  • BUAAOO 第四單元 & 課程總結

    1. 第四單元:StarUml檔案決議 本單元采用了圖模型決議UML。 UML檔案可以抽象為圖、子圖、邊的邏輯結構。 在實作中,圖的節點包括類、介面、屬性,子圖包括狀態圖、順序圖等。 采用了三次遍歷UML元素的方法建圖,第一遍遍歷建點,第二、三次遍歷設定屬性、連邊,實作圖物件的初始化。這里借鑒了一些 ......

    uj5u.com 2020-09-10 05:36:06 more
  • 談談我對C# 多型的理解

    面向物件三要素:封裝、繼承、多型。 封裝和繼承,這兩個比較好理解,但要理解多型的話,可就稍微有點難度了。今天,我們就來講講多型的理解。 我們應該經常會看到面試題目:請談談對多型的理解。 其實呢,多型非常簡單,就一句話:呼叫同一種方法產生了不同的結果。 具體實作方式有三種。 一、多載 多載很簡單。 p ......

    uj5u.com 2020-09-10 05:36:09 more
  • Python 資料驅動工具:DDT

    背景 python 的unittest 沒有自帶資料驅動功能。 所以如果使用unittest,同時又想使用資料驅動,那么就可以使用DDT來完成。 DDT是 “Data-Driven Tests”的縮寫。 資料:http://ddt.readthedocs.io/en/latest/ 使用方法 dd. ......

    uj5u.com 2020-09-10 05:36:13 more
  • Python里面的xlrd模塊詳解

    那我就一下面積個問題對xlrd模塊進行學習一下: 1.什么是xlrd模塊? 2.為什么使用xlrd模塊? 3.怎樣使用xlrd模塊? 1.什么是xlrd模塊? ?python操作excel主要用到xlrd和xlwt這兩個庫,即xlrd是讀excel,xlwt是寫excel的庫。 今天就先來說一下xl ......

    uj5u.com 2020-09-10 05:36:28 more
  • 當我們創建HashMap時,底層到底做了什么?

    jdk1.7中的底層實作程序(底層基于陣列+鏈表) 在我們new HashMap()時,底層創建了默認長度為16的一維陣列Entry[ ] table。當我們呼叫map.put(key1,value1)方法向HashMap里添加資料的時候: 首先,呼叫key1所在類的hashCode()計算key1 ......

    uj5u.com 2020-09-10 05:36:38 more
最新发布
  • 【中介者設計模式詳解】C/Java/JS/Go/Python/TS不同語言實作

    * 中介者模式是一種行為型設計模式,它可以用來減少類之間的直接依賴關系,
    * 將物件之間的通信封裝到一個中介者物件中,從而使得各個物件之間的關系更加松散。
    * 在中介者模式中,物件之間不再直接相互互動,而是通過中介者來中轉訊息。 ......

    uj5u.com 2023-04-20 08:20:47 more
  • 露天煤礦現場調研和交流案例分享

    他們集團的資訊化公司及研究院在一個礦區正在做智能礦山的統一平臺的 試點,專案投資大概1億,包括了礦山的各方面的內容,顯示得我們這次交流有點多余。他們2年前開始做智能礦山的規劃,有很多煤礦行業專家的加持,他們的描述是非常完美,但是去年底應該上線的平臺,現在還沒有看到影子。他們確實有很多場景需求,但是被... ......

    uj5u.com 2023-04-20 08:20:25 more
  • 《社區人員管理》實戰案例設計&個人案例分享

    設計是一個讓人夢想成真程序,開始編碼、測驗、除錯之前進行需求分析和架構設計,才能保證關鍵方面都做正確 ......

    uj5u.com 2023-04-20 08:20:17 more
  • 軟體架構生態化-多角色交付的探索實踐

    作為一個技術架構師,不僅僅要緊跟行業技術趨勢,還要結合研發團隊現狀及痛點,探索新的交付方案。在日常中,你是否遇到如下問題 “ 業務需求排期長研發是瓶頸;非研發角色感受不到研發技改提效的變化;引入ISV 團隊又擔心質量和安全,培訓周期長“等等,基于此我們探索了一種新的技術體系及交付方案來解決如上問題。 ......

    uj5u.com 2023-04-20 08:20:10 more
  • 【中介者設計模式詳解】C/Java/JS/Go/Python/TS不同語言實作

    * 中介者模式是一種行為型設計模式,它可以用來減少類之間的直接依賴關系,
    * 將物件之間的通信封裝到一個中介者物件中,從而使得各個物件之間的關系更加松散。
    * 在中介者模式中,物件之間不再直接相互互動,而是通過中介者來中轉訊息。 ......

    uj5u.com 2023-04-20 08:19:44 more
  • 露天煤礦現場調研和交流案例分享

    他們集團的資訊化公司及研究院在一個礦區正在做智能礦山的統一平臺的 試點,專案投資大概1億,包括了礦山的各方面的內容,顯示得我們這次交流有點多余。他們2年前開始做智能礦山的規劃,有很多煤礦行業專家的加持,他們的描述是非常完美,但是去年底應該上線的平臺,現在還沒有看到影子。他們確實有很多場景需求,但是被... ......

    uj5u.com 2023-04-20 08:19:07 more
  • 《社區人員管理》實戰案例設計&個人案例分享

    設計是一個讓人夢想成真程序,開始編碼、測驗、除錯之前進行需求分析和架構設計,才能保證關鍵方面都做正確 ......

    uj5u.com 2023-04-20 08:18:57 more
  • 軟體架構生態化-多角色交付的探索實踐

    作為一個技術架構師,不僅僅要緊跟行業技術趨勢,還要結合研發團隊現狀及痛點,探索新的交付方案。在日常中,你是否遇到如下問題 “ 業務需求排期長研發是瓶頸;非研發角色感受不到研發技改提效的變化;引入ISV 團隊又擔心質量和安全,培訓周期長“等等,基于此我們探索了一種新的技術體系及交付方案來解決如上問題。 ......

    uj5u.com 2023-04-20 08:18:49 more
  • 05單件模式

    #經典的單件模式 public class Singleton { private static Singleton uniqueInstance; //一個靜態變數持有Singleton類的唯一實體。 // 其他有用的實體變數寫在這里 //構造器宣告為私有,只有Singleton可以實體化這個類! ......

    uj5u.com 2023-04-19 08:42:51 more
  • 【架構與設計】常見微服務分層架構的區別和落地實踐

    軟體工程的方方面面都遵循一個最基本的道理:沒有銀彈,架構分層模型更是如此,每一種都有各自優缺點,所以請根據不同的業務場景,并遵循簡單、可演進這兩個重要的架構原則選擇合適的架構分層模型即可。 ......

    uj5u.com 2023-04-19 08:42:41 more