作者：程式員面試吧
來源：https://blog.csdn.net/Dou_Hua_Hua/article/details/108829245
在講解事件、故障處理思路前，先講一個故障場景（以呼叫中心系統作為一例子）：
業務人員反映呼叫中心系統運行緩慢，部份電話在自助語言環節系統處理超時，話務轉人工座席，人工座席出現爆線情況，
運維人員開始忙活了，查資源使用情況、查服務是否正常、查日志是否報錯、查交易量還有沒有……時間不知不覺的在敲鍵盤、敲鍵盤、敲鍵盤中過去，但是原因還未定位，
經理過來了解情況：“系統恢復了嗎？”、“故障影響是什么？”、“交易中斷了嗎？”……
運維人員趕緊敲鍵盤，寫 SQL，看交易量；敲鍵盤，寫命令，看系統資源、情況……
最終，定位到問題原因是其中一個功能沒有控制回傳數量，導致記憶體泄露，
針對這個故障，業務希望運維能否更快的解決故障的恢復，經理希望制定優化呼叫中心故障處理流程，做了以下幾件事：
優先故障處理程序的時間：”能通過滑鼠完成的作業，不要用鍵盤“
提前發現故障，加強監控：“技術早于業務發現問題，監控不僅是報警，還要協助故障定位”
完善故障應急方案：“應急方案是最新的、準確的、簡單明了的”
長遠目標：故障自愈：“能固化的操作自動化，能機器做的讓機器做”
下面將從故障常見的處理方法開始介紹，再從故障前的準備作業（完善監控、制定應急方案等方式）來解決經理提出的問題，并提出未來解決故障的想法，
一、常見的方法
1、確定故障現象并初判問題影響
在處理故障前，運維人員首先要知道故障現象，故障現象直接決定故障應急方案的制定，這依賴于運維人員需要對應用系統的整體功能有一定的熟悉程度，
確認了故障現象后，才能指導運維人員初判斷故障影響，
2、應急恢復
運維最基本的指標就是系統可用性，應急恢復的時效性是系統可用性的關鍵指標，
有了上述故障現象與影響的判斷后，就可以制定故障應急操作，故障應急有很多，比如：
- 服務整體性能下降或例外，可以考慮重啟服務；
- 應用做過變更，可以考慮是否需要回切變更；
- 資源不足，可以考慮應急擴容；
- 應用性能問題，可以考慮調整應用引數、日志引數；
- 資料庫繁忙，可以考慮通過資料庫快照分析，優化SQL；
- 應用功能設計有誤，可以考慮緊急關閉功能選單；
- 還有很多……
另外，需要補充的是，在故障應急前，在有條件的情況需要保存當前系統場景，比如在殺行程前，可以先抓個CORE檔案或資料庫快照檔案，
3、快速定位故障原因
1）是否為偶發性、是否可重現
故障現象是否可以重現，對于快速解決問題很重要，能重現說明總會有辦法或工具幫助我們定位到問題原因，而且能重現的故障往往可能是服務例外、變更等作業導致的問題，
但如果故障是偶發性的，是有極小概率出現的，則比較難排查，這依賴于系統是否有足夠的故障期間的現場資訊來決定是否可以定位到總是原因，
是否進行過相關變更，
大部份故障是由于變更導致，確定故障現象后，如果有應的變更，有助于從變更角度出現分析是否是變更引起，進而快速定位故障并準備好回切等應急方案，
2）是否進行過相關變更
大部份故障是由于變更導致，確定故障現象后，如果有應的變更，有助于從變更角度出現分析是否是變更引起，進而快速定位故障并準備好回切等應急方案，
3）是否可縮小范圍
一方面應用系統提倡解耦，一支交易會流經不同的應用系統及模塊；另一方面，故障可能由于應用、系統軟體、硬體、網路等環節的問題，在排查故障原因時應該避免全面性的排查，建議先把問題范圍縮小到一定程式后再開始協調關聯團隊排查，
關聯方配合分析問題
與第（3）點避免同時各關聯團隊同時無頭緒的排查的同時，對于牽頭方在縮小范圍后需要開放的態度去請求關聯方配合定位，而對于關聯方則需要有積極配合的作業態度，
4）是否有足夠的日志
定位故障原因，最常用的方法就是分析應用日志，對運維人員不僅需要知道業務功能對應哪個服務行程，還要知道這個服務行程對應的哪些應用日志，并具備一些簡單的應用日志例外錯誤的判斷能力，
5）是否有core或dump等檔案
故障期間的系統現場很重要，這個在故障應急前建議在有條件的情況下留下系統現場的檔案，比如 CORE\DUMP，或TRACE采集資訊等，備份好一些可能被覆寫的日志等，
上述是一般性的故障常見的方法，在重大故障或多方處理的故障出現時，往往小范圍的排查不利于快速解決，需要啟動緊急處理的流程，建議可以考慮以下溝通：
-
召集相關人員
-
描述故障現狀
-
說明正常應用邏輯流程
-
陳述變更
-
排查進展，展示資訊
-
領導決策
二、完善監控
1、從監控可視化上完善
完善的監控策略需要有統一的可視化操作界面，在制定完善的監控策略后，故障處理人員需要能夠快速的看到相應的運行資料，比如：能夠看到一段時間的趨勢、故障期間的資料表現、性能分析的情況等等資料，且這些資料可以提前制定好策略直接推出分析結果給故障處理人員，這樣就大大提高了故障的處理效率，以呼叫中心系統為例，需要提前配置好以下實時交易資料，以便故障定位：
-
交易性能資料：平均交易耗時、系統內部模塊交易耗時（IVR交易耗時、介面總線交易耗時）、關聯系統交易耗時（核心交易耗時、工單系統交易耗時等）
-
重要交易指標資料：交易量、IVR交易量、話務量、座席通話率、核心交易筆數、工單等系統交易量
-
交易例外情況資料：交易成功率、失敗率、錯誤碼最多交易
-
按服務器分析交易資料：按server統計各服務交易處理筆數，交易總耗時
有了以上交易資料，并通過監控按一定頻率統計，運維人員在出現故障時，通過滑鼠即點擊即可看到故障什么時候開始，是系統內部有問題還是關聯系統有問題，最突出的交易是哪一支，各服務器交易量是否均衡等情況，
2、從監控面上完善
監控最基本的作業就是實作對負載均衡設備、網路設備、服務器、存盤設備、安全設備、資料庫、中間件及應用軟體等IT資源的全面監控管理，在應用軟體類的監控作業中，不僅需要有服務行程、埠等監控，還需要有業務、交易層的監控，
全面性的應用監控可以讓故障提前預警，并保存了影回應用運行環境的資料，以縮短故障處理時間，
3、從監控告警上完善
完善的監控策略需要有清晰的監控告警提示，值班人員要以根據監控告警即可作出簡單的問題定位與應急處理方案，比如類似以下的監控短信：
22時，【理財應用系統】中【應用服務器LC_APPsvrA 10.2.111.111】的【前置應用模塊】出現【應用埠：9080】不存在，該埠作用【提供理財應用處理（負載均衡部署）】，原因可能為【SERVER1服務例外停止】，監控系統己進行以下應急處理【自動執行埠行程啟動】，該事件緊急程度【高】，
管理員可以通過短信內容看到哪個系統、哪個應用、哪個模塊出了什么問題，可能是什么原因，對業務有什么影響，是否需要馬上處理（比如凌晨出現此預警是否可以延遲到次日處理）等資訊，
4、從監控分析上完善
完善的監控策略不僅需要有實時的資料告警，也要有匯總資料的分析告警,實時資料分析的告警的重要性不用多說，對于匯總分析的資料則能發現潛在風險，同時也為分析疑難雜癥提供幫忙，
5、從監控主動性上完善
監控不僅僅是報警，它還可以做得更多，只要我們想辦法賦予它主動解決事件的規則，它便有為管理員處理故障的能力，
三、應急方案
提前制定好故障應急方案是很有必要的，但在日常作業程序中我們的應急方案遇到一些問題：
-
應急方案缺乏持續維護，缺乏演練，資訊不及時、不準確；
-
應急方案過于追求大而全，導致不利于閱讀與使用；
-
應急方案形式大于實際使用效果，方案針對性不強；
-
只關注應急方案的內容，但沒有關注運維人員對方案的理解；
針對上述常見問題，應急方案需要做到以下幾點：
1、內容精簡
很多人可能會認為故障出現的形式各種各樣，所以應急方案需要涉及到方方面面，但實際的故障處理程序中，我們可以發現其實我們的應急措施往往重復使用幾個常用的步驟，所以我認為應急方案要有重點，如果一個應急方案可以應對平時故障處理80%的場景，那這個應急手冊應該是合格的，過于追求影回應用系統方方面面的內容，會導致這個方案可讀性變差，最終變更一個應付檢查的檔案，以下是我覺得應用系統應急方案應該有的內容：
1）系統級
能知道當前應用系統在整個交易中的角色，當前系統出現問題或上下游出現問題時，可以知道如何配合上下游分析問題，比如：上下游系統如何通訊，通訊是否有唯一的關鍵字等，
另外，系統級里還涉及一些基本應急操作，比如擴容、系統及網路引數調整等，
2）服務級
能知道這個服務影響什么業務，服務涉及的日志、程式、組態檔在哪里，如何檢查服務是否正常，如何重啟服務，如何調整應用級引數等，
3）交易級
能知道如何查到某支或某類交易出現了問題，是大面積、區域，還是偶發性問題，能用資料說明交易影響的情況，能定位到交易報錯的資訊，這里最常用的方法就是資料庫查詢或工具的使用，
知道最重要的交易如何檢查是否正常，重要的定時任務的應急處理方案，比如開業、換日、對賬的時間要求及應急措施，
4）輔助工具的使用
有時候，需要借助一些工具或自動化工具輔助分析并應急，這時需要有輔助工具如何使用的方法，
5）溝通方案
溝通方案涉及通訊錄，包括上下游系統、第三方單位、業務部門等渠道，
6）其它
上述5點內容如何都完備，相信這個應急手冊己可以解決80%的故障恢復作業，
2、應急方案是一項持續的作業
有了應急方案，如何讓運維人員持續去更新是難點，我認為要解決這個難點，需要先讓運維人員經常使用這個手冊，如果一個手冊沒有場景可以用，那就需要管理者為運維人員創造機會去使用這個手冊，比如應急演練，
3、關注運維人員對應用關鍵資訊的認識
前兩點關注了手冊，最后一點我覺得有必要關注使用這個手冊的人，有些運維人員認為應用運維人員沒有能力去把應用系統本身的內容了解得很透徹，所以應用運維人員在故障處理程序中的地位很尷尬，運維人員掌握操作權，但卻不知道應該操作什么，
對此，我認同應用運維人員不需要掌握應用系統的業務功能，但我覺得就對應用系統本身來講應用運維人員需要具備以下最基本的能力：
-
知道應用系統這個是干什么的，基本的業務是什么；
-
知道應用架構部署、上下游系統邏輯關系；
-
知道應用下的服務的作用、埠、服務級的應急處理，日志等資料資訊如何找到并簡單定位；
-
知道應用系統重要的時間點及任務，比如開業、停業、換日、定時任務的時間點以及如何判斷這些任務是否正確；
-
知道最重要的幾支交易的流程；
-
知道常見資料庫表結構，并能使用，
四、智能化事件處理
處理方法如下圖（詳細的智能化涉及監控、規則引擎、配置工具、CMDB、應用配置庫等模塊協同作業），
近期熱文推薦：
1.1,000+ 道 Java面試題及答案整理(2022最新版)
2.勁爆！Java 協程要來了，，，
3.Spring Boot 2.x 教程，太全了！
4.20w 程式員紅包封面，快快領取，，，
5.《Java開發手冊（嵩山版）》最新發布，速速下載！
覺得不錯，別忘了隨手點贊+轉發哦！
轉載請註明出處，本文鏈接：https://www.uj5u.com/houduan/433150.html
標籤：Java