概述
NodeManager是運行在單個節點上的代理,它需要與應用程式的的ApplicationMaster和集群管理者ResourceManager互動: 從ApplicationMaster上接收有關Container的命令并執行之(比如啟動,停止Container); 向ResourceManager匯報各個Container運行狀態和節點健康狀況,并領取有關Container的命令(比如清理Container)執行之
NodeManager是YARN中單個節點上的代理,它管理Hadoop集群中單個計算節點,功能包括與ResourceManager保持通信,管理Container的生命周期,監控每個Container的資源使用(記憶體,CPU等)情況,追蹤節點健康狀況,管理日志和不同應用程式用到的附屬服務
NodeManager基本職能
NodeManager需通過兩個RPC協議與ResourceManager服務和各個應用程式的ApplicationMaster互動
ResourceTrackerProtocol協議
NodeManager通過該RPC協議向ResourceManager注冊,匯報節點健康狀況和Container運行狀態,并領取ResourceManager下達的命令,包括重新初始化,清理Container占用資源等.在該RPC協議中,ResourceManager扮演RPC Server的角色,而NodeManager扮演RPC Client的角色
ResourceTrackerProtocol協議主要提供了以下兩個RPC函式
(1) registerNodeManager
NodeManager啟動時通過該RPC函式向ResourceManager注冊,注冊資訊由RegisterNodeManagerRequest封裝的,包括如下三部分內容 :
- httpPort : 該NodeManager對外提供的HTTP埠號,ResourceManager會在界面上提供一個可直接訪問NodeManager Web界面的超鏈接
- nodeId : 該NodeManager所在的host和對外的RPC埠號
- totalResource : 該NodeManager所在節點總的可分配資源,當前支持記憶體和虛擬CPU兩種資源,管理員可通過引數yarn.nodemanager.resource.cpu-vcores和yarn.nodemanager.resource.memory-mb配置
ResourceManager將通過registerNodeManager函式向NodeManager回傳一個RegisterNodeManagerResponse型別的物件,主要包含以下資訊 :
- MasterKey : 新生成的Container Token和Node Token的Master Key
- NodeAction : ResourceManager向該NodeManager回傳的下一步操作,主要包括NORMAL,RESYNC,SHUTDOWN三種,分別表示正常,重新同步資訊和停止運行
- rmIdentifier : ResourceManager的標示符,NodeManager通過該識別符號判斷ApplicationMaster發送的Container來自原始的還是新啟動的ResourceManager
- diagnosticsMessage : NodeManager注冊失敗時,將收到一段診斷資訊,告知具體的失敗原因
(2) nodeHeartbeat
NodeManager啟動后,定期通過該RPC函式向ResourceManager匯報Container運行資訊和節點健康狀況,并領取新的命令,比如殺死一個Container
ContainerManagementProtocol協議
應用程式的ApplicationMaster通過該RPC協議向NodeManager發起針對Container的相關操作,包括啟動Container,殺死Container,獲取Container
ContainerManagementProtocol協議主要提供了以下三個RPC函式 :
- startContainer : ApplicationMaster通過該RPC要求NodeManager啟動一個Contaienr.該函式有一個StartContainerRequest型別的引數,封裝了Container啟動所需的本地資源,環境變數,執行命令,Token等資訊.如果Container啟動成功,則該函式回傳一個StartContainerResponse物件
- stopContainer : ApplicationMaster通過該RPC要求NodeManager停止(殺死)一個Container.該函式有一個StopContainerRequest型別的引數,用于指定待殺死的Container ID.如果Container被成功殺死,則該函式回傳一個StopContainerResponse物件
- getContainerStatus : ApplicationMaster通過該RPC獲取一個Container的運行狀態.該函式引數型別為GetContainerStatusRequest,封裝了目標Container的ID,回傳值為封裝了Container當前運行狀態的型別為GetContainerStatusResponse的物件
NodeManager內部架構
NodeManager內部組織結構和主要模塊
- NodeStatusUpdater : NodeStatusUpdater是NodeManager與ResourceManager通信的唯一通道
- ContainerManager : ContainerManager是NodeManager中最核心組件之一,它由多個子組件構成,每個子組件負責一部分功能,協作共同管理運行在該節點上的所有Container.各個子組件如下
- RPC Server : 該RPC Server實作了ContainerManagementProtocol協議,是ApplicationMaster與NodeManager通信的唯一通道
- ResourceLocalizationService : 負責Container所需資源的本地化.它能夠按照描述從HDFS上下載Container所需的檔案資源,并盡量將它們分攤到各個磁盤上以防止出現訪問熱點.此外,它會為下載的檔案添加訪問控制限制,并為之施加合適的磁盤空間使用份額
- ContainersLauncher : 維護了一個執行緒池以并行完成Container相關操作,比如啟動或者殺死Container,其中啟動Container請求是由ApplicationMaster發起的,而殺死Container請求則可能來自ApplicationMaster或者ResourceManager
- AuxServices : NodeManager允許用戶通過配置附屬服務的方式擴展自己的功能,這使得每個節點可以定制一些特定框架需要的服務
- ContainersMonitor : ContainersMonitor負責監控Container的資源使用量
- LogHandler : 一個可插拔組件,用戶可通過它控制Container日志的保存方式,即是寫到本地磁盤上還是將其打包后上傳到一個檔案系統中
- ContainerEventDispatcher : Container事件調度器,負責將ContainerEvent型別的事件調度給對應Application的狀態機ApplicationImpl
- ApplicationEventDispatcher : Application事件調度器,負責將ApplicationEvent型別的事件調度給對應Application的狀態機ApplicationImpl
- ContainerExecutor : ContainerExecutor可與底層作業系統互動,安全存放Container需要的檔案和目錄,進而以一種安全的方式啟動和清除Container對應的行程
- NodeHealthCheckerService : NodeHealthCheckerService通過周期性地運行一個自定義腳本和向磁盤寫檔案檢查節點的健康狀況,并將之通過NodeStatusUpdater傳遞給ResourceManager
- DeletionService : NodeManager將檔案洗掉功能服務化,即提供一個專門的檔案洗掉服務異步洗掉失效檔案,這樣可避免同步洗掉檔案帶來的性能開銷
- Security : 安全模塊是NodeManager中的一個重要模塊,包含兩部分
- ApplicationACLsManager : NodeManager需要為所有面向用戶的API提供安全檢查,如在Web UI上只能將Container日志顯示給授權用戶.該組件為每個應用程式維護了一個ACL串列,一旦收到類似請求后會利用該串列對其進行驗證
- ContainerTokenSecretManager : 檢查收到的各種訪問請求的合法性,確保這些請求操作已被ResourceManager授權
- WebServer : 通過Web界面向用戶展示該節點上所有應用程式運行狀態,Container串列,節點健康狀態和Container產生的日志等資訊
我每天會寫文章記錄學習之路,另外我自己整理了些學習資料,目前全部放在我的公眾號"SmallBird技術分享",加入我們一起學習交流,并且回復’分享’會有各種技術資源驚喜等著你~
轉載請註明出處，本文鏈接：https://www.uj5u.com/shujuku/52392.html
標籤：大數據
上一篇：Flume 初探