主頁 > 軟體工程 > 80%的軟體環境管理問題,根因都在這里 | 研發效能提升36計

80%的軟體環境管理問題,根因都在這里 | 研發效能提升36計

2022-02-24 07:49:24 軟體工程

image.png

專欄策劃|雅純
志愿編輯|jimmy、呂瑞星


軟體交付的終態是提供穩定可預期的系統,要做到這一點,我們需要確保:一、軟體制品的一致性;二、運行環境的一致性,

第3講我們分享了如何保證軟體制品的一致性,這一講我們來談談如何保證環境的一致性

運行環境一致性的目標是環境可預期、穩定、低成本,其中低成本比較關鍵,因為環境資源的成本一般比較高,

我們可以將運行環境分為3部分:制品、執行引擎和編排規則,

 

image.png

要保證制品的一致性,第一是保證代碼及其依賴的一致性;第二是保證構建環境的一致性;最后是保證構建腳本的一致性,保證環境的一致性,也包含了三點:

  1. 應用的一致性,比如一致的容器鏡像;
  2. 容器運行所需的背景關系的一致性,比如一致的資料配置等;
  3. 編排規則的一致性,需要保證編排執行相同的規則,比如相同容器部署規則、相同節點分布規則、相同備份規則等,

保證這3點,部署完成之后才會形成一致的可運行環境,但是現實當中,環境還是會有很多其它的問題,比如:

  • 組態檔中有好多監控之類的配置,對于使用者來說,不知道配置的具體作用,需要修改時不知如何設定,
  • 測驗的時候依賴的環境經常發生問題,耗費大量等待和排查時間,比如說依賴的API經常出問題,排查修復可能需要等待依賴方很久,導致測驗作業無法繼續進行,
  • 新環境的搭建很耗時,搭建一個新的環境是很痛苦的事情,比如國際化團隊,經常要搭建新的站點,而每搭一個新的環境就要耗費一整天的時間是很痛苦的,
  • 應用在本地無法運行,比如因為缺某個資源導致應用無法正常運行,
  • 配置環境需要小心翼翼,可能出現配置遺漏,每次配環境的時候需要很小心,特別是當環境配置由多人配合時,會出現配置沖突,導致程式無法運行,需要全鏈路排查解決,

這里我們簡單列了五個常見的問題,它們的根源都是環境缺乏清晰的定義:不清楚環境的具體內容、對環境搭建程序的認知模糊,

環境的清晰定義,包括環境包含什么制品、這些制品如何部署等,那么環境管理的終態是什么呢?

image.png

當制品相同、運行背景關系相同,并且資源資料是一樣的情況下,基于相同的編排規則,環境就應該是一致的,同時,環境可以由軟體來定義和宣告,這是我們認為的環境管理的終態,簡單來說,即軟體定義的不可變環境,軟體定義的不可變環境,可以納入版本管理,保證環境首先是定義明確的,其次是有明確版本的,

環境管理的3個階段

image.png

階段一:說明書

環境管理的第一個階段是說明檔案,這點相信很多人都經歷過,當我們在做一個專案或產品時,會寫整個產品的部署說明書、說明檔案、升級檔案等各種檔案,但檔案很難保證實用,也不一定是最新的、準確的,每次我們去現場交付時,都會遇到一些檔案里沒有描述的問題,這時候還得打電話確認,是否有遺漏什么,用檔案或說明書去管理環境,存在很大的弊端,所以我們想到了用命令的方式去管理,

階段二:命令

第二階段,我們通過命令的方式,寫了各種shell、Python腳本,把相關命令組合在一起,之前我們在做一個產品的私有化交付的時候,一開始的做法就是用腳本去管理環境,因為開啟一個新環境實在太痛苦了,需要花很多時間改引數、找包、配IP等,效率太低,所以我們寫了腳本來管理,用腳本代替了檔案,

但是用腳本管理環境也存在很多問題,我們要應對各種各樣的環境,同一個任務在不同的場景里,命令組合可能是不一樣的,所以腳本會越來越多,維護腳本的成本也越來越高,

階段三:宣告

為了解決命令腳本的維護和穩定性問題,我們進入了第三個階段,宣告式——通過配置的方式表達環境,把環境定義出來,宣告式的描述提供了環境的確定性表達,

以k8s為例,我們以一個例子來看,如何做環境宣告

image.png

上圖是K8S的簡單架構,左上角是K8S的master,左下角是node,master有好幾個組件:scheduler、ControllerManager、APIserver,以及Etcd,Etcd是一個分布式存盤,配置資訊都在Etcd里面,Node是物理機或者虛擬機,在每一個Node上面會有多個pod,上面會運行很多的容器,

我們知道K8S的最小單元是pod,里面有容器,還有各種網路存盤等,通過pod宣告去描述,宣告被apply后,具體的事情在controller里面處理,

通過sidecar分離關注點

image.png

我們寫一個應用,這個應用里面大量的代碼其實與業務無關,而是包含很多服務治理的代碼,例如日志、監控、限流、熔斷等,這些代碼占了很大的比重,而且這些代碼的維護者和應用開發者不一定是同一批人,服務治理相關的代碼,在很多企業會有專門的團隊負責維護和升級,類似阿里的中間件團隊,傳統的情況下,我們需要升級并重新部署應用才能升級服務治理能力,但是在云原生時代,應用開發者希望僅關注應用業務代碼,服務治理相關的代碼放在其他的容器里面,業務容器和服務治理容器通常會編排在同一個pod里面,但是服務治理容器的管理、開發、發布都跟應用開發者沒有關系,這些就是sidecar容器,sidecar容器實作了關注點的分離,應用的開發者和中間件的開發者以及運維相關的開發者,都可以有自己的關注點,

我們以兩個角色為例,一是業務的開發者,關注的是應用的容器,所以發布的時候,他的關注點都在應用容器這一塊,二是企業的SRE,他的關注點往往在sidecar的各種服務治理容器上,比如logagent的日志級別和采樣率是否合理等,

通過sidecar,業務開發者和SRE的關注點就分離了,這樣分離還有一個好處,就是中間件下沉,都以sidecar的方式管理,一旦遇到相應的中間件需要升級,業務代碼不需要做任何的改變和發布,只需要做sidecar的發布就好了,

我們前面提到,一致的環境需要有3個組成部分:相同的制品、相同的運行背景關系以及相同的編排規則,相同的運行背景關系,本質就是里面的配置要一致,最早我們是用檔案告訴我們怎么把環境管理起來,之后用腳本,最后用環境宣告,

然而,用宣告式的方式定義環境也并不完美,舉個具體的例子,在應用運行的時候需要有一些相應的配置,中間件、基礎資源、CPU、存盤等都需要配置,這樣會面臨一個很大的問題——環境相關的配置太多了,

環境相關的配置太多,該怎么管理好呢?

通過IaC來定義環境

image.png

為了解決這個問題,業內采用了IaC的概念(InfrastructureasCode),早期在云機房上架的時候會用到IaC,比如有一個新的機器過來,要裝成centos7的系統,里面要配特定的DNS服務等等,這是就會定義一個宣告檔案,發送給saltstack這樣的工具,現在整個環境都是通過基礎設施來描述出來的,所以整個環境包括中間件的資源都是基礎設施了,在范圍上比原先要廣的多,

從配置的角度,我們有應用配置、運維配置、基礎設施運維配置,甚至軟體生產程序的配置,我們把應用代碼和IaC代碼,放在兩個庫里面(也有放到一個庫里面的,各有利弊,在此我們不展開也不評價),

比如上圖中,在IaCRepo里我們放了動態配置(即運行時的配置)、BaaS配置(基礎設施,如資料庫、中間件存盤、訊息佇列等)、監控配置(如監控粒度、采樣頻率)、發布配置等,所有的配置都宣告在代碼庫里面,基于該宣告編排的所有環境就都是一致的了,

任何事情都是有利有弊,用IaC的方式管理環境又會帶來什么新的挑戰呢?

image.png

首先是“靈活的代價”,因為所有的配置都是松散的文本,缺少統一的聚合根,導致修改者需要自己理解這些配置背后對應的依賴關系,比如某個配置項設定為on會開啟限流,但是必須配合特定的configMap一起使用;比如開啟了一個Ingress插件,但如果另一個Rollout插件沒有開啟,會無法正常作業;再比如HPA和CronHPA無法同時使用,會產生沖突,由于撰寫的靈活性,會導致無窮的組合形式,其組合產生的后果往往在運行時才會發現,

其次是知識的成本,IaC將一個環境所有的配置都以文本的界面給到了開發者,但是很多配置項是需要專業背景的,比如運維相關的策略、比如監控的配置方式等等,價值IaC本身的學習成本,往往讓很多開發者望而生畏,

為了解決這個問題,阿里聯合微軟一起發布了OAM模型,以應用為統一維度,將IaC包含的各類資源和角色進行了分類和聚合,

image.png

首先,OAM引入了應用(Application)的概念,將應用的各類IaC配置都聚合在一起,解決其依賴問題,

其次,OAM將IaC的使用者分離為:應用開發者、應用運維、基礎設施運維三大角色,彼此的關注點進行了分離,

OAM抽象和簡化了IaC的定義和維護方式,降低開發者的學習和使用成本,

總結一下,我們認為,環境管理的終態是軟體定義的不可變環境,而當下,它的最佳實踐我們認為是基于OAM模型的、以應用為核心的IaC宣告,

云效云原生應用管理平臺AppStack正是基于OAM的應用交付平臺,企業在云效AppStack,可以通過應用編排、占位符、變數等宣告式定義,實作一套編排多環境差異化部署,同時基于版本和基線實作環境一鍵拉起、一鍵回滾,感興趣的同學點下方鏈接即可免費使用,

https://www.aliyun.com/product/yunxiao/appstack?channel=yy_rccb_36


下篇預告:環境管理的目標是希望有一個穩定、可預期、低成本的環境,在軟體開發中,我們會涉及到開發、測驗、生產各種環境,如何保證這些環境的穩定、可預期、低成本呢?下一節我們將進一步展開,敬請期待,

image.png

閱讀上篇:這樣才是代碼管理和 Commit 的正確姿勢!

lQLPDhshq7rXr9DNBDjNB4Cw6h-soueBRw4CB9bnfwCoAA_1920_1080.png

轉載請註明出處,本文鏈接:https://www.uj5u.com/gongcheng/431440.html

標籤:其他

上一篇:KotlinMultiplatformMobile庫結構

下一篇:80%的軟體環境管理問題,根因都在這里 | 研發效能提升36計

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • Git本地庫既關聯GitHub又關聯Gitee

    創建代碼倉庫 使用gitee舉例(github和gitee差不多) 1.在gitee右上角點擊+,選擇新建倉庫 ? 2.選擇填寫倉庫資訊,然后進行創建 ? 3.服務端已經準備好了,本地開始作準備 (1)Git 全域設定 git config --global user.name "成鈺" git c ......

    uj5u.com 2020-09-10 05:04:14 more
  • CODING DevOps 代碼質量實戰系列第二課,相約周三

    隨著 ToB(企業服務)的興起和 ToC(消費互聯網)產品進入成熟期,線上故障帶來的損失越來越大,代碼質量越來越重要,而「質量內建」正是 DevOps 核心理念之一。**《DevOps 代碼質量實戰(PHP 版)》**為 CODING DevOps 代碼質量實戰系列的第二課,同時也是本系列的 PHP ......

    uj5u.com 2020-09-10 05:07:43 more
  • 推薦Scrum書籍

    推薦Scrum書籍 直接上干貨,推薦書籍清單如下(推薦有順序的哦) Scrum指南 Scrum精髓 Scrum敏捷軟體開發 Scrum捷徑 硝煙中的Scrum和XP : 我們如何實施Scrum 敏捷軟體開發:Scrum實戰指南 Scrum要素 大規模Scrum:大規模敏捷組織的設計 用戶故事地圖 用 ......

    uj5u.com 2020-09-10 05:07:45 more
  • CODING DevOps 代碼質量實戰系列最后一課,周四發車

    隨著 ToB(企業服務)的興起和 ToC(消費互聯網)產品進入成熟期,線上故障帶來的損失越來越大,代碼質量越來越重要,而「質量內建」正是 DevOps 核心理念之一。 **《DevOps 代碼質量實戰(Java 版)》**為 CODING DevOps 代碼質量實戰系列的最后一課,同時也是本系列的 ......

    uj5u.com 2020-09-10 05:07:52 more
  • 敏捷軟體工程實踐書籍

    Scrum轉型想要做好,第一步先了解并真正落實Scrum,那么我推薦的Scrum書籍是要看懂并實踐的。第二步是團隊的工程實踐要做扎實。 下面推薦工程實踐書單: 重構:改善既有代碼的設計 決議極限編程 : 擁抱變化 代碼整潔代碼 程式員的職業素養 修改代碼的藝術 撰寫可讀代碼的藝術 測驗驅動開發 : ......

    uj5u.com 2020-09-10 05:07:55 more
  • Jenkins+svn+nginx實作windows環境自動部署vue前端專案

    前面文章介紹了Jenkins+svn+tomcat實作自動化部署,現在終于有空抽時間出來寫下Jenkins+svn+nginx實作自動部署vue前端專案。 jenkins的安裝和配置已經在前面文章進行介紹,下面介紹實作vue前端專案需要進行的哪些額外的步驟。 注意:在安裝jenkins和nginx的 ......

    uj5u.com 2020-09-10 05:08:49 more
  • CODING DevOps 微服務專案實戰系列第一課,明天等你

    CODING DevOps 微服務專案實戰系列第一課**《DevOps 微服務專案實戰:DevOps 初體驗》**將由 CODING DevOps 開發工程師 王寬老師 向大家介紹 DevOps 的基本理念,并探討為什么現代開發活動需要 DevOps,同時將以 eShopOnContainers 項 ......

    uj5u.com 2020-09-10 05:09:14 more
  • CODING DevOps 微服務專案實戰系列第二課來啦!

    近年來,工程專案的結構越來越復雜,需要接入合適的持續集成流水線形式,才能滿足更多變的需求,那么如何優雅地使用 CI 能力提升生產效率呢?CODING DevOps 微服務專案實戰系列第二課 《DevOps 微服務專案實戰:CI 進階用法》 將由 CODING DevOps 全堆疊工程師 何晨哲老師 向 ......

    uj5u.com 2020-09-10 05:09:33 more
  • CODING DevOps 微服務專案實戰系列最后一課,周四開講!

    隨著軟體工程越來越復雜化,如何在 Kubernetes 集群進行灰度發布成為了生產部署的”必修課“,而如何實作安全可控、自動化的灰度發布也成為了持續部署重點關注的問題。CODING DevOps 微服務專案實戰系列最后一課:**《DevOps 微服務專案實戰:基于 Nginx-ingress 的自動 ......

    uj5u.com 2020-09-10 05:10:00 more
  • CODING 儀表盤功能正式推出,實作作業資料可視化!

    CODING 儀表盤功能現已正式推出!該功能旨在用一張張統計卡片的形式,統計并展示使用 CODING 中所產生的資料。這意味著無需額外的設定,就可以收集歸納寶貴的作業資料并予之量化分析。這些海量的資料皆會以圖表或串列的方式躍然紙上,方便團隊成員隨時查看各專案的進度、狀態和指標,云端協作迎來真正意義上 ......

    uj5u.com 2020-09-10 05:11:01 more
最新发布
  • windows系統git使用ssh方式和gitee/github進行同步

    使用git來clone專案有兩種方式:HTTPS和SSH:
    HTTPS:不管是誰,拿到url隨便clone,但是在push的時候需要驗證用戶名和密碼;
    SSH:clone的專案你必須是擁有者或者管理員,而且需要在clone前添加SSH Key。SSH 在push的時候,是不需要輸入用戶名的,如果配置... ......

    uj5u.com 2023-04-19 08:41:12 more
  • windows系統git使用ssh方式和gitee/github進行同步

    使用git來clone專案有兩種方式:HTTPS和SSH:
    HTTPS:不管是誰,拿到url隨便clone,但是在push的時候需要驗證用戶名和密碼;
    SSH:clone的專案你必須是擁有者或者管理員,而且需要在clone前添加SSH Key。SSH 在push的時候,是不需要輸入用戶名的,如果配置... ......

    uj5u.com 2023-04-19 08:35:34 more
  • 2023年農牧行業6大CRM系統、5大場景盤點

    在物聯網、大資料、云計算、人工智能、自動化技術等現代資訊技術蓬勃發展與逐步成熟的背景下,數字化正成為農牧行業供給側結構性變革與高質量發展的核心驅動因素。因此,改造和提升傳統農牧業、開拓創新現代智慧農牧業,加快推進農牧業的現代化、資訊化、數字化建設已成為農牧業發展的重要方向。 當下,企業數字化轉型已經 ......

    uj5u.com 2023-04-18 08:05:44 more
  • 2023年農牧行業6大CRM系統、5大場景盤點

    在物聯網、大資料、云計算、人工智能、自動化技術等現代資訊技術蓬勃發展與逐步成熟的背景下,數字化正成為農牧行業供給側結構性變革與高質量發展的核心驅動因素。因此,改造和提升傳統農牧業、開拓創新現代智慧農牧業,加快推進農牧業的現代化、資訊化、數字化建設已成為農牧業發展的重要方向。 當下,企業數字化轉型已經 ......

    uj5u.com 2023-04-18 08:00:18 more
  • 計算機組成原理—存盤器

    計算機組成原理—硬體結構 二、存盤器 1.概述 存盤器是計算機系統中的記憶設備,用來存放程式和資料 1.1存盤器的層次結構 快取-主存層次主要解決CPU和主存速度不匹配的問題,速度接近快取 主存-輔存層次主要解決存盤系統的容量問題,容量接近與價位接近于主存 2.主存盤器 2.1概述 主存與CPU的聯 ......

    uj5u.com 2023-04-17 08:20:31 more
  • 談一談我對協同開發的一些認識

    如今各互聯網公司普通都使用敏捷開發,采用小步快跑的形式來進行專案開發。如果是小專案或者小需求,那一個開發可能就搞定了。但對于電商等復雜的系統,其功能多,結構復雜,一個人肯定是搞不定的,所以都是很多人來共同開發維護。以我曾經待過的商城團隊為例,光是后端開發就有七十多人。 為了更好地開發這類大型系統,往 ......

    uj5u.com 2023-04-17 08:18:55 more
  • 專案管理PRINCE2核心知識點整理

    PRINCE2,即 PRoject IN Controlled Environment(受控環境中的專案)是一種結構化的專案管理方法論,由英國政府內閣商務部(OGC)推出,是英國專案管理標準。
    PRINCE2 作為一種開放的方法論,是一套結構化的專案管理流程,描述了如何以一種邏輯性的、有組織的方法,... ......

    uj5u.com 2023-04-17 08:18:51 more
  • 談一談我對協同開發的一些認識

    如今各互聯網公司普通都使用敏捷開發,采用小步快跑的形式來進行專案開發。如果是小專案或者小需求,那一個開發可能就搞定了。但對于電商等復雜的系統,其功能多,結構復雜,一個人肯定是搞不定的,所以都是很多人來共同開發維護。以我曾經待過的商城團隊為例,光是后端開發就有七十多人。 為了更好地開發這類大型系統,往 ......

    uj5u.com 2023-04-17 08:18:00 more
  • 專案管理PRINCE2核心知識點整理

    PRINCE2,即 PRoject IN Controlled Environment(受控環境中的專案)是一種結構化的專案管理方法論,由英國政府內閣商務部(OGC)推出,是英國專案管理標準。
    PRINCE2 作為一種開放的方法論,是一套結構化的專案管理流程,描述了如何以一種邏輯性的、有組織的方法,... ......

    uj5u.com 2023-04-17 08:17:55 more
  • 計算機組成原理—存盤器

    計算機組成原理—硬體結構 二、存盤器 1.概述 存盤器是計算機系統中的記憶設備,用來存放程式和資料 1.1存盤器的層次結構 快取-主存層次主要解決CPU和主存速度不匹配的問題,速度接近快取 主存-輔存層次主要解決存盤系統的容量問題,容量接近與價位接近于主存 2.主存盤器 2.1概述 主存與CPU的聯 ......

    uj5u.com 2023-04-17 08:12:06 more