主頁 > 後端開發 > 記一次網路請求連接超時的事故

記一次網路請求連接超時的事故

2020-12-18 06:44:40 後端開發

從HTTP請求超時、重試機制、作業系統網路等層面剖析了事故的原因,最終解決業務問題,

這里先拋兩個問題:
1)你遭遇過由于網路連接或請求超時造成的生產事故嗎?
2)你知道作業系統默認的網路連接超時是多少秒?

問題背景

最近同事出現這么一個問題,簡單業務場景:

image.png

服務A使用HTTP請求服務B介面m,服務A起了一個定時任務Task:

從db查詢資料總共有1200+條,每條記錄對應一次請求,回圈呼叫m介面,服務B收到請求會使用TCP連接其它服務器機器,進行命令的互動,注意這里并不是異步并發去請求介面,因為如果異步并發請求,可能就造成服務B的處理執行緒很快用光,從而造成不會再很好的處理更多請求,甚至會造成大面積請求超時或服務宕機等等問題,

此時定時任務到時間跑起來了,過不了多久,服務A出現向B請求Hand住,最終出現超時,

image.png

如下超時日志Read timed out:

image.png

雖然服務A自身查詢DB等服務是正常的,但是服務A和服務B之間的互動也很重要,如果兩者之間出現問題,必然會對業務處理或者系統等方面造成影響,

所以到底是為什么,這里涉及了什么問題呢?

問題解決

1、重試機制加快問題出現

此時在服務A上進行排查,通過elk日志發現例外日志,例外日志數量激增,如下截圖:

image.png

例外日志明細:

image.png

org.apache.http.impl.execchain.RetryExec,由此可知應該跟http重試機制相關,

image.png

由RetryExec原始碼可知,當http執行請求時,如果正常請求則立即回傳;否則IOException例外時,則進入重試環節,

這里要注意下,for回圈進行重試是死回圈的方式,這里的重試次數由實作者控制,如果無需重試,默認則不會進行重試,而是直接拋出例外,

查看RetryHandler的自定義實作原始碼:

@Component
public class HttpRequestRetryHandlerServer implements HttpRequestRetryHandler {
   protected static final Logger LOG = LoggerFactory.getLogger(HttpRequestRetryHandlerServer.class);
   @Override
   public boolean retryRequest(IOException e, int retryCount, HttpContext httpCtx) {
      if (retryCount >= 3) {
         LOG.warn("Maximum tries reached, exception would be thrown to outer block");
         return false;
      }
      if (e instanceof org.apache.http.NoHttpResponseException) {
         LOG.warn("No response from server on {} call", retryCount);
         return true;
      }
      return false;
   }
}

從原始碼知道,重試次數最多3次,并且只針對這種例外NoHttpResponseException,從命名知道這是HTTP無回應例外(原始碼注釋是:Signals that the target server failed to respond with a valid HTTP response.),

那么服務A為什么會進入重試流程呢?

由上面的例外知道,可以排除是由于網路連接超時出現的例外,而是正常請求,但是由于可能某種原因,遲遲沒有得到正常回應結果,由前面的例外Read timed out知道是出現讀超時例外,這里就考慮到可能是跟網路資料傳輸等引數相關,

查看默認配置:

image.png

由此可知,6秒是資料傳輸的最長時間(讀超時),http請求時等待資料結果如果超過6秒,就會中斷當前的請求,拋出Read timed out例外,所以基本上就可以知道這個例外的原由了,

2、重試機制加快問題-解決方法:

分析當前場景,于是做下調整:

1)由于此場景http請求無需進行重試,則將其關閉:

@Bean
public CloseableHttpClient noRetryHttpClient(HttpClientBuilder clientBuilder) {
    // 重試次數為0,不進行重試
    clientBuilder.setRetryHandler(new DefaultHttpRequestRetryHandler(0, false));
    return clientBuilder.build();
}

2)由于此業務請求,服務B可能出現超過6秒的處理時長,則socketTimeout調整為15秒:

# http pool config
http:
  maxTotal: 500
  defaultMaxPerRoute: 100
  connectTimeout: 5000
  connectionRequestTimeout: 3000
  socketTimeout: 15000
  maxIdleTime: 1
  keepAliveTimeOut: 65

3、機器連接超時的鍋

image.png

接下來再排查服務B到底是怎么了?也就是上圖的右側“閃電”,為什么需要這么長的處理時間,

服務A發起Http請求時,服務B接收請求后進行跟服務器進行連接后互動資料,服務B與服務機器通信只要是使用Tcp ssh的方式,也就是會進行網路通信,

經過排查服務B的日志:

image.png

可知,進行連接服務器時出現例外,注意這個連接耗時時長為:63秒左右,并且確認排查目標服務器確實沒有正常作業,而是已經停機許久,

由于進行的是Unix平臺的網路連接,當前的作業系統是Linux CentOS,那么為什么這個超時時間是63秒,而不是5秒、15秒、60秒等比較規整的資料呢?

此時查看網路連接的代碼:

connection.connect();

可知這里并沒有指定連接超時等引數,那么應該是使用了作業系統內核的默認引數了,

Linux 系統默認的建立 TCP 連接的超時時間為 127 秒,這個對于客戶端一般都是比較長了,更多的業務場景基本不會使用默認值,而是根據業務場景進行設定合理的連接超時時間,那么這個時間是怎么來的?為什么是127?

其實這個時間引數是由:net.ipv4.tcp_syn_retries配置的等級來確定的,

net.ipv4.tcp_syn_retries 的設定,表示應用程式進行connect()系統呼叫時,在對方不回傳SYN + ACK的情況下(也就是超時的情況下),第一次發送之后,內核最多重試幾次發送SYN包;并且決定了等待時間,

Linux上的默認值是 net.ipv4.tcp_syn_retries = 6 ,也就是說如果是本機主動發起連接,(即主動開啟TCP三次握手中的第一個SYN包),如果一直收不到對方回傳SYN + ACK ,那么應用程式最大的超時時間就是127秒,

第 1 次發送 SYN 報文后等待 1s(2 的 0 次冪),如果超時,則重試;
第 2 次發送后等待 2s(2 的 1 次冪),如果超時,則重試;
第 3 次發送后等待 4s(2 的 2 次冪),如果超時,則重試;
第 4 次發送后等待 8s(2 的 3 次冪),如果超時,則重試;
第 5 次發送后等待 16s(2 的 4 次冪),如果超時,則重試;
第 6 次發送后等待 32s(2 的 5 次冪),如果超時,則重試;
第 7 次發送后等待 64s(2 的 6 次冪),如果超時,則超時失敗,

接下來查看我們的機器上的tcp syn 引數:

image.png

而我們的服務器設定的tcp_syn_retries為5,即默認超時為=1+2+4+8+16+32=63秒,剛好與當前問題完美符合,這就是為什么出現63秒超時原由了,

4、那么在Windows平臺,又是怎么樣的呢?

(本來這部分不準備闡述的,希望讀者自行查閱資料,但是還是做個完整的吧,)

因為我是用Windows10作為開發機器的,所以順便想了解下在Windows平臺下,它的超時時間是多少,寫了個測驗用例,一測,竟然是21秒左右,這又是什么原理??

查閱相關資料:

TcpMaxConnectRetransmissions
Determines how many times TCP retransmits an unanswered request for a new connection. TCP retransmits new connection requests until they are answered, or until this value expires.
TCP/IP adjusts the frequency of retransmissions over time. The delay between the original transmission and the first retransmissions for each interface is determined by the value of TcpInitialRTT (by default, it is 3 seconds). This delay is doubled after each attempt. After the final attempt, TCP/IP waits for an interval equal to double the last delay and then abandons the connection request.

TcpInitialRTT
Determines how quickly TCP retransmits a connection request if it doesn’t receive a response to the original request for a new connection.
By default, the retransmission timer is initialized to 3 seconds, and the request (SYN) is sent twice, as specified in the value of TcpMaxConnectRetransmissions.

由資料可知,在Windows平臺上是由此引數:TcpMaxConnectRetransmissionsTcpInitialRTT控制,TcpMaxConnectRetransmissions默認值一般為2,TcpInitialRTT默認是3秒,

也就是會進行2次重試,每次是上次的2倍時間,即21秒為:3+32+(32)*2=3+6+12=21秒,

通過命令查詢Windows引數:

netsh interface tcp show global

image.png

這個最大SYN重新傳輸次數我的公司開發機器是2,但是我的個人機器卻為4(那么默認連接超時時長為:3+6+12+24+48=93秒),雖然都是Windows10系統,但是為什么不同這個就不得而知了,

5、機器連接超時的鍋-解決方法:

服務B網路連接服務器時設定連接超時時間為5秒:

connection.connect(null, 5000, kexTimout);

這樣只要超過5秒還沒能連接上,就做超時例外處理,及早釋放資源,不再阻塞當前處理執行緒,

6、結果:

通過相關的調整優化,重新發布服務驗證,最終服務穩定運行,不會再出現例外等情況,

perfect!

總結

1)雖然這次事故造成的罪魁禍首不是服務A的HTTP重試機制,但是也是它加快了問題的出現速度,

所以我們要清楚是否需要重試機制,如果不需要就不要設定,不然非常浪費資源,甚至會壓垮服務提供方系統等問題,

2)網路連接一般有TCP和HTTP等,防止超時時間太久影響業務、甚至造成服務宕機等嚴重問題,一般都要設定合理的超時時間(連接超時時間和資料傳輸時間等),

因為作業系統設定的是比較通用的默認引數,并不會考慮具體的業務場景,

網路資料傳輸時間:具體的業務場景是非常不同的,比如默認6秒的資料傳輸時間,在實際的場景下并不一定合理,此時需要根據實際進行調整,比如我這邊的情況是調整為15秒,

網路連接超時:比如Windows平臺網路連接超時默認一般是21秒,Linux(Centos)有默認階梯超時機制,默認127秒,而在我這臺機器上則是63秒,

3)學習作業系統超時機制,比如Linux或Windows,在連接超時時可以在前面的超時時間增加倍數,可以學以致用到我們的業務開發中去,

看完三件事??

如果你覺得這篇內容對你還蠻有幫助,我想邀請你幫我三個小忙:

 

  1. 點贊,轉發,有你們的 『點贊和評論』,才是我創造的動力,

  2. 關注公眾號 『 java爛豬皮 』,不定期分享原創知識,

  3. 同時可以期待后續文章ing??

轉載請註明出處,本文鏈接:https://www.uj5u.com/houduan/236348.html

標籤:Java

上一篇:原來只想簡單看一下String原始碼,沒想到整理了這么多知識點

下一篇:精盡Spring MVC原始碼分析 - HandlerAdapter 組件(一)之 HandlerAdapter

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【C++】Microsoft C++、C 和匯編程式檔案

    ......

    uj5u.com 2020-09-10 00:57:23 more
  • 例外宣告

    相比于斷言適用于排除邏輯上不可能存在的狀態,例外通常是用于邏輯上可能發生的錯誤。 例外宣告 Item 1:當函式不可能拋出例外或不能接受拋出例外時,使用noexcept 理由 如果不打算拋出例外的話,程式就會認為無法處理這種錯誤,并且應當盡早終止,如此可以有效地阻止例外的傳播與擴散。 示例 //不可 ......

    uj5u.com 2020-09-10 00:57:27 more
  • Codeforces 1400E Clear the Multiset(貪心 + 分治)

    鏈接:https://codeforces.com/problemset/problem/1400/E 來源:Codeforces 思路:給你一個陣列,現在你可以進行兩種操作,操作1:將一段沒有 0 的區間進行減一的操作,操作2:將 i 位置上的元素歸零。最終問:將這個陣列的全部元素歸零后操作的最少 ......

    uj5u.com 2020-09-10 00:57:30 more
  • UVA11610 【Reverse Prime】

    本人看到此題沒有翻譯,就附帶了一個自己的翻譯版本 思考 這一題,它的第一個要求是找出所有 $7$ 位反向質數及其質因數的個數。 我們應該需要質數篩篩選1~$10^{7}$的所有數,這里就不慢慢介紹了。但是,重讀題,我們突然發現反向質數都是 $7$ 位,而將它反過來后的數字卻是 $6$ 位數,這就說明 ......

    uj5u.com 2020-09-10 00:57:36 more
  • 統計區間素數數量

    1 #pragma GCC optimize(2) 2 #include <bits/stdc++.h> 3 using namespace std; 4 bool isprime[1000000010]; 5 vector<int> prime; 6 inline int getlist(int ......

    uj5u.com 2020-09-10 00:57:47 more
  • C/C++編程筆記:C++中的 const 變數詳解,教你正確認識const用法

    1、C中的const 1、區域const變數存放在堆疊區中,會分配記憶體(也就是說可以通過地址間接修改變數的值)。測驗代碼如下: 運行結果: 2、全域const變數存放在只讀資料段(不能通過地址修改,會發生寫入錯誤), 默認為外部聯編,可以給其他源檔案使用(需要用extern關鍵字修飾) 運行結果: ......

    uj5u.com 2020-09-10 00:58:04 more
  • 【C++犯錯記錄】VS2019 MFC添加資源不懂如何修改資源宏ID

    1. 首先在資源視圖中,添加資源 2. 點擊新添加的資源,復制自動生成的ID 3. 在解決方案資源管理器中找到Resource.h檔案,編輯,使用整個專案搜索和替換的方式快速替換 宏宣告 4. Ctrl+Shift+F 全域搜索,點擊查找全部,然后逐個替換 5. 為什么使用搜索替換而不使用屬性視窗直 ......

    uj5u.com 2020-09-10 00:59:11 more
  • 【C++犯錯記錄】VS2019 MFC不懂的批量添加資源

    1. 打開資源頭檔案Resource.h,在其中預先定義好宏 ID(不清楚其實ID值應該設定多少,可以先新建一個相同的資源項,再在這個資源的ID值的基礎上遞增即可) 2. 在資源視圖中選中專案資源,按F7編輯資源檔案,按 ID 型別 相對路徑的形式添加 資源。(別忘了先把檔案拷貝到專案中的res檔案 ......

    uj5u.com 2020-09-10 01:00:19 more
  • C/C++編程筆記:關于C++的參考型別,專供新手入門使用

    今天要講的是C++中我最喜歡的一個用法——參考,也叫別名。 參考就是給一個變數名取一個變數名,方便我們間接地使用這個變數。我們可以給一個變數創建N個參考,這N + 1個變數共享了同一塊記憶體區域。(參考型別的變數會占用記憶體空間,占用的記憶體空間的大小和指標型別的大小是相同的。雖然參考是一個物件的別名,但 ......

    uj5u.com 2020-09-10 01:00:22 more
  • 【C/C++編程筆記】從頭開始學習C ++:初學者完整指南

    眾所周知,C ++的學習曲線陡峭,但是花時間學習這種語言將為您的職業帶來奇跡,并使您與其他開發人員區分開。您會更輕松地學習新語言,形成真正的解決問題的技能,并在編程的基礎上打下堅實的基礎。 C ++將幫助您養成良好的編程習慣(即清晰一致的編碼風格,在撰寫代碼時注釋代碼,并限制類內部的可見性),并且由 ......

    uj5u.com 2020-09-10 01:00:41 more
最新发布
  • Rust中的智能指標:Box<T> Rc<T> Arc<T> Cell<T> RefCell<T> Weak

    Rust中的智能指標是什么 智能指標(smart pointers)是一類資料結構,是擁有資料所有權和額外功能的指標。是指標的進一步發展 指標(pointer)是一個包含記憶體地址的變數的通用概念。這個地址參考,或 ” 指向”(points at)一些其 他資料 。參考以 & 符號為標志并借用了他們所 ......

    uj5u.com 2023-04-20 07:24:10 more
  • Java的值傳遞和參考傳遞

    值傳遞不會改變本身,參考傳遞(如果傳遞的值需要實體化到堆里)如果發生修改了會改變本身。 1.基本資料型別都是值傳遞 package com.example.basic; public class Test { public static void main(String[] args) { int ......

    uj5u.com 2023-04-20 07:24:04 more
  • [2]SpinalHDL教程——Scala簡單入門

    第一個 Scala 程式 shell里面輸入 $ scala scala> 1 + 1 res0: Int = 2 scala> println("Hello World!") Hello World! 檔案形式 object HelloWorld { /* 這是我的第一個 Scala 程式 * 以 ......

    uj5u.com 2023-04-20 07:23:58 more
  • 理解函式指標和回呼函式

    理解 函式指標 指向函式的指標。比如: 理解函式指標的偽代碼 void (*p)(int type, char *data); // 定義一個函式指標p void func(int type, char *data); // 宣告一個函式func p = func; // 將指標p指向函式func ......

    uj5u.com 2023-04-20 07:23:52 more
  • Django筆記二十五之資料庫函式之日期函式

    本文首發于公眾號:Hunter后端 原文鏈接:Django筆記二十五之資料庫函式之日期函式 日期函式主要介紹兩個大類,Extract() 和 Trunc() Extract() 函式作用是提取日期,比如我們可以提取一個日期欄位的年份,月份,日等資料 Trunc() 的作用則是截取,比如 2022-0 ......

    uj5u.com 2023-04-20 07:23:45 more
  • 一天吃透JVM面試八股文

    什么是JVM? JVM,全稱Java Virtual Machine(Java虛擬機),是通過在實際的計算機上仿真模擬各種計算機功能來實作的。由一套位元組碼指令集、一組暫存器、一個堆疊、一個垃圾回收堆和一個存盤方法域等組成。JVM屏蔽了與作業系統平臺相關的資訊,使得Java程式只需要生成在Java虛擬機 ......

    uj5u.com 2023-04-20 07:23:31 more
  • 使用Java接入小程式訂閱訊息!

    更新完微信服務號的模板訊息之后,我又趕緊把微信小程式的訂閱訊息給實作了!之前我一直以為微信小程式也是要企業才能申請,沒想到小程式個人就能申請。 訊息推送平臺🔥推送下發【郵件】【短信】【微信服務號】【微信小程式】【企業微信】【釘釘】等訊息型別。 https://gitee.com/zhongfuch ......

    uj5u.com 2023-04-20 07:22:59 more
  • java -- 緩沖流、轉換流、序列化流

    緩沖流 緩沖流, 也叫高效流, 按照資料型別分類: 位元組緩沖流:BufferedInputStream,BufferedOutputStream 字符緩沖流:BufferedReader,BufferedWriter 緩沖流的基本原理,是在創建流物件時,會創建一個內置的默認大小的緩沖區陣列,通過緩沖 ......

    uj5u.com 2023-04-20 07:22:49 more
  • Java-SpringBoot-Range請求頭設定實作視頻分段傳輸

    老實說,人太懶了,現在基本都不喜歡寫筆記了,但是網上有關Range請求頭的文章都太水了 下面是抄的一段StackOverflow的代碼...自己大修改過的,寫的注釋挺全的,應該直接看得懂,就不解釋了 寫的不好...只是希望能給視頻網站開發的新手一點點幫助吧. 業務場景:視頻分段傳輸、視頻多段傳輸(理 ......

    uj5u.com 2023-04-20 07:22:42 more
  • Windows 10開發教程_編程入門自學教程_菜鳥教程-免費教程分享

    教程簡介 Windows 10開發入門教程 - 從簡單的步驟了解Windows 10開發,從基本到高級概念,包括簡介,UWP,第一個應用程式,商店,XAML控制元件,資料系結,XAML性能,自適應設計,自適應UI,自適應代碼,檔案管理,SQLite資料庫,應用程式到應用程式通信,應用程式本地化,應用程式 ......

    uj5u.com 2023-04-20 07:22:35 more