主頁 > 後端開發 > 【Netty 從成神到升仙系列 大結局】全網一圖流死磕決議 Netty 原始碼

【Netty 從成神到升仙系列 大結局】全網一圖流死磕決議 Netty 原始碼

2022-10-24 07:09:01 後端開發

  • ??作者簡介:大家好,我是愛敲代碼的小黃,獨角獸企業的Java開發工程師,Java領域新星創作者,
  • ??個人公眾號:愛敲代碼的小黃
  • ??系列專欄:Java設計模式、資料結構和演算法
  • ??如果文章知識點有錯誤的地方,請指正!和大家一起學習,一起進步??
  • ??如果感覺博主的文章還不錯的話,請??三連支持??一下博主哦
  • ??博主正在努力完成2022計劃中:以夢為馬,揚帆起航,2022追夢人

@

目錄
  • 全網一圖流死磕決議 Netty 原始碼
    • 一、Netty 服務端的啟動
      • 1. Java NIO 的啟動
      • 2. Netty 服務端的啟動
    • 二、Netty 服務端的讀寫
      • 1.注冊讀事件
      • 2.讀資料
      • 3.寫資料
      • 4.刷資料
    • 三、總結

全網一圖流死磕決議 Netty 原始碼

通過之前介紹的幾篇關于 Netty 的文章,相信大家多少對 Netty 有了一點了解,本篇文章主要從整個 Netty 的呼叫流程圖來做一個匯總

往期文章:

  • 【Netty 從成神到升仙系列 五】Netty 的責任鏈真有這么神奇嗎?
  • 【Netty 從成神到升仙系列 四】讓我們一起探索 Netty 中的零拷貝
  • 【Netty 從成神到升仙系列 三】Netty 憑什么成為國內最流行的網路通信框架?
  • 【Netty 從成神到升仙系列 二】你真的懂 NIOEventLoop 嘛?
  • 【Netty 從成神到升仙系列 一】Netty 服務端的啟動原始碼剖析(一)

一、Netty 服務端的啟動

Netty 服務端的整個啟動流程,我做成了一個流程圖:

在這里插入圖片描述

高清的可在公眾號 愛敲代碼的小黃 回復:Netty,即可獲取

這個我們之前講過,在 【Netty 從成神到升仙系列 一】Netty 服務端的啟動原始碼剖析(一),當時通過原始碼的角度剖析了下 Netty 的啟動流程,

由于當時對于 Netty 整體的把控不太好,有一些細節性的東西選擇性的忽略,導致最終整體的連貫性差強人意

后來,學完 Netty 之后,又對服務端的啟動做了一些細致化的分析

1. Java NIO 的啟動

我們學過 Netty 的都知道,Netty 無非在 Java NIO 的基礎上做了一定的優化,使得 I/O 網路的效率大大提高

但從整體來說,Netty 服務端的啟動和 Java NIO 的啟動基本一模一樣,主要集中在以下幾方面:

  • 創建一個 selector 物件

    Selector selector = Selector.open();
    ServerSocketChannel ssc = ServerSocketChannel.open(); // 創建FD-1
    ssc.configureBlocking(false); // 非阻塞模式
    
  • 建立 selector 與 channel 的聯系(注冊)

    SelectionKey sscKey = ssc.register(selector, SelectionKey.OP_ACCEPT, null);
    
  • 注冊埠號

    ssc.bind(new InetSocketAddress(8080));
    

而我們 Netty 用了好多好多的代碼去描述了上述幾行代碼,

當我看完第一遍 Netty 服務端啟動流程,感覺這樣寫的好處在哪呢,完全沒有 GET 到,當我第二遍帶著疑惑去看并畫清流程圖之后,發現 Netty 的原始碼確實令人耳目一新

具體表現在哪些方面呢,我們可以繼續往下看

2. Netty 服務端的啟動

我們看到,最核心的當屬 Pipline,這里我們也不多介紹了,之前也都講過,

從整體來看,其實和我們寫的業務代碼也差不多,但博主感覺比較厲害的一點就是:對于一些我們不需要立即獲取結果的處理,全部封裝成 Task 交給執行緒處理,這樣會讓我們的系統執行緒的使用率提高并且性能提升,

在輪詢處理時,也會使用 ioRatio 控制 I/O 的比例,同時依靠計數器解決了 Epoll 空輪詢的BUG,

我們初始化時,分別有 BOSSWORK 兩個執行緒組,我們的 BOSS 執行緒組主要用來接受客戶端的連接事件,而 WORK 執行緒組用來處理客戶端的讀事件,

二、Netty 服務端的讀寫

通過上述 Netty 服務端的啟動,我們向我們的 Selector 上注冊了 OP_ACCEPT 事件,當有客戶端連接到服務端時,就會觸發該事件,

1.注冊讀事件

通過上述的流程圖我們可以看到,通過 Channel 的不同來實作不同的 unsafe.read() 的實作

這里 channel 不同主要指的是:NioServerSocketChannel NioSocketChannel 兩種

對于 NioServerSocketChannel 來說,負責接受當前客戶端的 連接請求,生成 NioSocketChannel 將當前的連接注冊到 Work 的執行緒組上(childGroup.register(child))并向 Selector 上注冊 讀事件(接受客戶端)

2.讀資料

而對于 NioSocketChannel,主要負責處理客戶端的 讀請求

對于讀資料來說,主要通過 allocHandle.lastBytesRead(doReadBytes(byteBuf)) 進行讀取

這里說下讀取及擴容的邏輯:

  • 服務端默認接受客戶端的 byteBuf 是 1024
  • NettybyteBuf 可以根據接受資料的大小進行動態的擴縮容(SIZE_TABLE),規律如下:
    • 擴容:當小于 512 時,一次性增加 64,當大于 512 時,一次性增加 16倍
    • 縮容:當小于 512 時,一次性減少 16,當大于 512 時,一次性減少 一倍
    • 當然,原始碼中擴縮容的前提不同:縮容需要連續兩次都小于,而擴容只需要大于一次就可以
    • byteBuf 擴容也是有范圍限制的:默認在64和65536之間
  • 什么時候停止資料的讀取,主要由 allocHandle.continueReading() 控制
    • 當前的資料已被讀取完畢
    • 當前的資料被讀取16次,需要結束
    • 這里規定讀取次數的原因:控制次數,防止無限次回圈,浪費執行緒,

3.寫資料

上面在讀取資料時,會呼叫 pipeline.fireChannelRead(byteBuf),這里會執行 Pipline 上的各個 HandlerchannelRead方法,這里我們一般使用 writeAndFlushwrite,我們分開來講,

首先,對于 write 的方法,主要由 incrementPendingOutboundBytes(long size, boolean invokeLater) 執行,這里會向 ChannelOutboundBuffer 寫入資訊并判斷當前寫入的資料是否超越水位線(默認 64 * 1024),

如果超越了我們的水位線,我們會給與 ChannelOutboundBuffer 一個標記,將 unwritable = 0(false) 修改為 unwritable = 1(true),這樣在我們后續發送的程序中,可以根據此標記讓應用自己選擇是否發送,

這里的 ChannelOutboundBuffer 主要相當于一個容器,write 向里面寫,Flush 往內核發,

4.刷資料

這里的刷資料,指的是用戶空間的 Buffer 向內核空間的 Scoket 刷資料,類似:

在這里插入圖片描述

我們的資料會發送到 Socket 緩沖區,由網卡發出,

我們來講一講 NettyFlush 流程:

  • 判斷當前通道是否關閉(防止當前的客戶端已經斷開連接)
  • 刷資料
    • case 0:檔案資料,通過零拷貝刷,這里之前講過,參考:【Netty 從成神到升仙系列 四】讓我們一起探索 Netty 中的零拷貝
    • case 1:單個資料的寫入
    • default:批量資料的寫入:由于批量資料寫入,必然存在緩沖區滿的問題,當緩沖區滿的時候,Netty 會注冊一個 寫事件,當緩沖區有空閑時,觸發寫事件,交由其他執行緒處理,
  • 如果寫了16次資料還沒有寫完的話,會新起一個 flush 任務,讓其余的 Work 執行緒執行該任務,這里不需要寫事件的原因:當前的快取區是空閑的,如果注冊了寫事件,會造成不斷的有寫事件觸發,

這里可能有小伙伴們疑惑,為什么一個寫事件就能避免批量資料寫入的問題,緩沖區滿與空閑代表什么?

當我們的服務端收到客戶端的請求時,我們會 writeflush,我們從整個流程看下:
在這里插入圖片描述

對于服務端來說,我們的 flush 操作會將處理用戶態的 buffer 中的資料刷到內核態的 Scoket緩沖區

對于客戶端來說,會通過網卡接受服務端的資料并重繪到 Scoket緩沖區 中,通過用戶態的 buffer 讀取

如果我們當前的服務端發送的資料過大,客戶端接受的資料過少,就會導致服務端這邊的 Scoket緩沖區 阻塞

  • 87380 :tcp 接識訓沖區的默認值
  • 16384 : tcp 發送緩沖區的默認值

這個時候,我們只能等待 Scoket緩沖區 有空閑時,繼續向里面 flush,但這種無疑會把當前的執行緒阻塞住,違背 NIO 的架構初衷

所以,當批量的資料一次性寫入不成功時,我們會向 Selector 注冊一個寫事件,當 Scoket緩沖區 有空閑時,會觸發該事件,并交由其他的 work 執行緒去處理,這樣極大的發揮了 Netty 高效的網路通訊框架的作用,

三、總結

自此,Netty 的章節基本就結束了~

不得不說,學習 Netty 的程序還是挺痛苦的,有一些網路層面的東西,之前都沒有接觸過,只能慢慢的去補

還有一些學習中的疑惑,也需要大量的時間去消化,比如:

  • Netty 為什么能成為最高效的網路 I/O 框架?
    • 當你剛學習時,你可能會聽說 NIO 使 Netty 變的有效起來
  • NIO 是什么?為什么會出現 NIO?
    • 這個時候你會了解到,主要由于 C10K 的經典問題出現,導致了 NIO 的出現
    • NIO 實際上是 Linux 下 IO多路復用的機制,通過 select、poll、epoll三種方式來實作
  • select、poll、epoll 是什么?
    • 了解到每個實作方式的不同以及慢慢的優化,最終采用的 epoll 作為當前 NIO 的實作
  • 網路是怎么發送的?Socket 的本質又是什么?
  • Linux 網路編程又是如何實作的?

其實,慢慢的思索,好像學習一個知識,會帶來一系列的蝴蝶效應,尤其是對下層知識的缺乏,導致自己上層知識的不穩定,

就像我一開始其實是分析的 kafka 的原始碼,到了通信那一節,看不懂了

于是去看了看 IO,繼而又去看 作業系統計算機網路

不過用了這么多時間,還算有成效,至少 Netty 可以懂了一點了

本期的內容就到這里,后續的話,可能會出一篇 select、poll、epoll 的文章,其次,后面應該會重新回到 kafka 的原始碼決議來

我是一名獨角獸企業的Java開發工程師,希望可以點個關注呀,有問題可以留言或者私信,我們下期再見!

本文由博客一文多發平臺 OpenWrite 發布!

轉載請註明出處,本文鏈接:https://www.uj5u.com/houduan/519013.html

標籤:Java

上一篇:SpringBoot(九) - Swagger

下一篇:快取 - 方法注解組件開發

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【C++】Microsoft C++、C 和匯編程式檔案

    ......

    uj5u.com 2020-09-10 00:57:23 more
  • 例外宣告

    相比于斷言適用于排除邏輯上不可能存在的狀態,例外通常是用于邏輯上可能發生的錯誤。 例外宣告 Item 1:當函式不可能拋出例外或不能接受拋出例外時,使用noexcept 理由 如果不打算拋出例外的話,程式就會認為無法處理這種錯誤,并且應當盡早終止,如此可以有效地阻止例外的傳播與擴散。 示例 //不可 ......

    uj5u.com 2020-09-10 00:57:27 more
  • Codeforces 1400E Clear the Multiset(貪心 + 分治)

    鏈接:https://codeforces.com/problemset/problem/1400/E 來源:Codeforces 思路:給你一個陣列,現在你可以進行兩種操作,操作1:將一段沒有 0 的區間進行減一的操作,操作2:將 i 位置上的元素歸零。最終問:將這個陣列的全部元素歸零后操作的最少 ......

    uj5u.com 2020-09-10 00:57:30 more
  • UVA11610 【Reverse Prime】

    本人看到此題沒有翻譯,就附帶了一個自己的翻譯版本 思考 這一題,它的第一個要求是找出所有 $7$ 位反向質數及其質因數的個數。 我們應該需要質數篩篩選1~$10^{7}$的所有數,這里就不慢慢介紹了。但是,重讀題,我們突然發現反向質數都是 $7$ 位,而將它反過來后的數字卻是 $6$ 位數,這就說明 ......

    uj5u.com 2020-09-10 00:57:36 more
  • 統計區間素數數量

    1 #pragma GCC optimize(2) 2 #include <bits/stdc++.h> 3 using namespace std; 4 bool isprime[1000000010]; 5 vector<int> prime; 6 inline int getlist(int ......

    uj5u.com 2020-09-10 00:57:47 more
  • C/C++編程筆記:C++中的 const 變數詳解,教你正確認識const用法

    1、C中的const 1、區域const變數存放在堆疊區中,會分配記憶體(也就是說可以通過地址間接修改變數的值)。測驗代碼如下: 運行結果: 2、全域const變數存放在只讀資料段(不能通過地址修改,會發生寫入錯誤), 默認為外部聯編,可以給其他源檔案使用(需要用extern關鍵字修飾) 運行結果: ......

    uj5u.com 2020-09-10 00:58:04 more
  • 【C++犯錯記錄】VS2019 MFC添加資源不懂如何修改資源宏ID

    1. 首先在資源視圖中,添加資源 2. 點擊新添加的資源,復制自動生成的ID 3. 在解決方案資源管理器中找到Resource.h檔案,編輯,使用整個專案搜索和替換的方式快速替換 宏宣告 4. Ctrl+Shift+F 全域搜索,點擊查找全部,然后逐個替換 5. 為什么使用搜索替換而不使用屬性視窗直 ......

    uj5u.com 2020-09-10 00:59:11 more
  • 【C++犯錯記錄】VS2019 MFC不懂的批量添加資源

    1. 打開資源頭檔案Resource.h,在其中預先定義好宏 ID(不清楚其實ID值應該設定多少,可以先新建一個相同的資源項,再在這個資源的ID值的基礎上遞增即可) 2. 在資源視圖中選中專案資源,按F7編輯資源檔案,按 ID 型別 相對路徑的形式添加 資源。(別忘了先把檔案拷貝到專案中的res檔案 ......

    uj5u.com 2020-09-10 01:00:19 more
  • C/C++編程筆記:關于C++的參考型別,專供新手入門使用

    今天要講的是C++中我最喜歡的一個用法——參考,也叫別名。 參考就是給一個變數名取一個變數名,方便我們間接地使用這個變數。我們可以給一個變數創建N個參考,這N + 1個變數共享了同一塊記憶體區域。(參考型別的變數會占用記憶體空間,占用的記憶體空間的大小和指標型別的大小是相同的。雖然參考是一個物件的別名,但 ......

    uj5u.com 2020-09-10 01:00:22 more
  • 【C/C++編程筆記】從頭開始學習C ++:初學者完整指南

    眾所周知,C ++的學習曲線陡峭,但是花時間學習這種語言將為您的職業帶來奇跡,并使您與其他開發人員區分開。您會更輕松地學習新語言,形成真正的解決問題的技能,并在編程的基礎上打下堅實的基礎。 C ++將幫助您養成良好的編程習慣(即清晰一致的編碼風格,在撰寫代碼時注釋代碼,并限制類內部的可見性),并且由 ......

    uj5u.com 2020-09-10 01:00:41 more
最新发布
  • Rust中的智能指標:Box<T> Rc<T> Arc<T> Cell<T> RefCell<T> Weak

    Rust中的智能指標是什么 智能指標(smart pointers)是一類資料結構,是擁有資料所有權和額外功能的指標。是指標的進一步發展 指標(pointer)是一個包含記憶體地址的變數的通用概念。這個地址參考,或 ” 指向”(points at)一些其 他資料 。參考以 & 符號為標志并借用了他們所 ......

    uj5u.com 2023-04-20 07:24:10 more
  • Java的值傳遞和參考傳遞

    值傳遞不會改變本身,參考傳遞(如果傳遞的值需要實體化到堆里)如果發生修改了會改變本身。 1.基本資料型別都是值傳遞 package com.example.basic; public class Test { public static void main(String[] args) { int ......

    uj5u.com 2023-04-20 07:24:04 more
  • [2]SpinalHDL教程——Scala簡單入門

    第一個 Scala 程式 shell里面輸入 $ scala scala> 1 + 1 res0: Int = 2 scala> println("Hello World!") Hello World! 檔案形式 object HelloWorld { /* 這是我的第一個 Scala 程式 * 以 ......

    uj5u.com 2023-04-20 07:23:58 more
  • 理解函式指標和回呼函式

    理解 函式指標 指向函式的指標。比如: 理解函式指標的偽代碼 void (*p)(int type, char *data); // 定義一個函式指標p void func(int type, char *data); // 宣告一個函式func p = func; // 將指標p指向函式func ......

    uj5u.com 2023-04-20 07:23:52 more
  • Django筆記二十五之資料庫函式之日期函式

    本文首發于公眾號:Hunter后端 原文鏈接:Django筆記二十五之資料庫函式之日期函式 日期函式主要介紹兩個大類,Extract() 和 Trunc() Extract() 函式作用是提取日期,比如我們可以提取一個日期欄位的年份,月份,日等資料 Trunc() 的作用則是截取,比如 2022-0 ......

    uj5u.com 2023-04-20 07:23:45 more
  • 一天吃透JVM面試八股文

    什么是JVM? JVM,全稱Java Virtual Machine(Java虛擬機),是通過在實際的計算機上仿真模擬各種計算機功能來實作的。由一套位元組碼指令集、一組暫存器、一個堆疊、一個垃圾回收堆和一個存盤方法域等組成。JVM屏蔽了與作業系統平臺相關的資訊,使得Java程式只需要生成在Java虛擬機 ......

    uj5u.com 2023-04-20 07:23:31 more
  • 使用Java接入小程式訂閱訊息!

    更新完微信服務號的模板訊息之后,我又趕緊把微信小程式的訂閱訊息給實作了!之前我一直以為微信小程式也是要企業才能申請,沒想到小程式個人就能申請。 訊息推送平臺🔥推送下發【郵件】【短信】【微信服務號】【微信小程式】【企業微信】【釘釘】等訊息型別。 https://gitee.com/zhongfuch ......

    uj5u.com 2023-04-20 07:22:59 more
  • java -- 緩沖流、轉換流、序列化流

    緩沖流 緩沖流, 也叫高效流, 按照資料型別分類: 位元組緩沖流:BufferedInputStream,BufferedOutputStream 字符緩沖流:BufferedReader,BufferedWriter 緩沖流的基本原理,是在創建流物件時,會創建一個內置的默認大小的緩沖區陣列,通過緩沖 ......

    uj5u.com 2023-04-20 07:22:49 more
  • Java-SpringBoot-Range請求頭設定實作視頻分段傳輸

    老實說,人太懶了,現在基本都不喜歡寫筆記了,但是網上有關Range請求頭的文章都太水了 下面是抄的一段StackOverflow的代碼...自己大修改過的,寫的注釋挺全的,應該直接看得懂,就不解釋了 寫的不好...只是希望能給視頻網站開發的新手一點點幫助吧. 業務場景:視頻分段傳輸、視頻多段傳輸(理 ......

    uj5u.com 2023-04-20 07:22:42 more
  • Windows 10開發教程_編程入門自學教程_菜鳥教程-免費教程分享

    教程簡介 Windows 10開發入門教程 - 從簡單的步驟了解Windows 10開發,從基本到高級概念,包括簡介,UWP,第一個應用程式,商店,XAML控制元件,資料系結,XAML性能,自適應設計,自適應UI,自適應代碼,檔案管理,SQLite資料庫,應用程式到應用程式通信,應用程式本地化,應用程式 ......

    uj5u.com 2023-04-20 07:22:35 more