主頁 > 後端開發 > Netty原始碼分析之ByteBuf(一)—ByteBuf中API及型別概述

Netty原始碼分析之ByteBuf(一)—ByteBuf中API及型別概述

2020-09-14 09:59:22 後端開發

ByteBuf是Netty中主要的資料容器與操作工具,也是Netty記憶體管理優化的具體實作,本章我們先從整體上對ByteBuf進行一個概述;

AbstractByteBuf是整個ByteBuf的框架類,定義了各種重要的標志位與API供具體的實作類使用與實作;下面我們就從AbstractByteBuf類入手對ByteBuf的讀寫機制與API進行一個簡單的介紹

    private static final InternalLogger logger = InternalLoggerFactory.getInstance(AbstractByteBuf.class);
    private static final String LEGACY_PROP_CHECK_ACCESSIBLE = "io.netty.buffer.bytebuf.checkAccessible";
    private static final String PROP_CHECK_ACCESSIBLE = "io.netty.buffer.checkAccessible";
    static final boolean checkAccessible; // accessed from CompositeByteBuf
    private static final String PROP_CHECK_BOUNDS = "io.netty.buffer.checkBounds";
    private static final boolean checkBounds;

    static {
        if (SystemPropertyUtil.contains(PROP_CHECK_ACCESSIBLE)) {
            checkAccessible = SystemPropertyUtil.getBoolean(PROP_CHECK_ACCESSIBLE, true);
        } else {
            checkAccessible = SystemPropertyUtil.getBoolean(LEGACY_PROP_CHECK_ACCESSIBLE, true);
        }
        checkBounds = SystemPropertyUtil.getBoolean(PROP_CHECK_BOUNDS, true);
        if (logger.isDebugEnabled()) {
            logger.debug("-D{}: {}", PROP_CHECK_ACCESSIBLE, checkAccessible);
            logger.debug("-D{}: {}", PROP_CHECK_BOUNDS, checkBounds);
        }
    }

    static final ResourceLeakDetector<ByteBuf> leakDetector =
            ResourceLeakDetectorFactory.instance().newResourceLeakDetector(ByteBuf.class);

    int readerIndex;
    int writerIndex;
    private int markedReaderIndex;
    private int markedWriterIndex;
    private int maxCapacity;

在上面的代碼中,我們需要知道ByteBu維護了兩個不同的索引readerIndex與writerIndex,這兩個索引默認都是從0開始,一個用于讀取,一個用于寫入,

 

當你從ByteBuf讀取資料時,readerIndex會遞增已經讀取的位元組數,同理當你寫入資料時,writerIndex也會隨之遞增,可以說ByteBuf中各種讀寫API都是基于readerIndex與writerIndex來控制的,從索引操作上,ByteBuf中API基本分為兩大部分,會引發索引值遞增的read(讀)和write(寫操作),反之不會引發索引值遞增的get或set操作,下面我們看下ByteBu中常用API的參考說明

ByteBuf API

 

read操作

readBoolean() 回傳當前readIndex的Boolean值,readIndex增加1
readByte(int) 回傳當前readIndex處的位元組值,readIndex增加1
readUnsignedByte() 回傳當前readIndex處的無符號位元組值,readIndex增加1
readInt() 回傳當前readIndex處的int值,readIndex增加4
readUnsignedInt() 回傳當前readIndex處的無符號int值,回傳型別為long,readIndex增加4
readLong() 回傳當前readIndex處的long值,readIndex增加8
readShort()

回傳當前readIndex處的short值,readIndex增加2

readUnsignedShort() 回傳當前readIndex處的short值,readIndex增加2

 

 wirte操作

writeBoolean() 在當前writerIndex處寫入一個Boolean值(1或0),writerIndex增加1
writeByte(int) 在當前writerIndex處寫入一個byte值,writerIndex增加1
writeShort(int) 在當前writerIndex處寫入一個short值,writerIndex增加2
writeInt(int) 在當前writerIndex處寫入一個int值,writerIndex增加4
writeLong(int) 在當前writerIndex處寫入一個long值,writerIndex增加4

 

 get操作

getBoolean(int) 回傳給的索引處的Boolean值,readIndex值不變
getByte(int) 回傳給的索引處的Byte值,readIndex值不變
getShort(int) 回傳給的索引處的short值,readIndex值不變
getInt(int) 回傳給的索引處的int值,readIndex值不變
getLong(int) 回傳給的索引處的long值,readIndex值不變

 

 set操作

setBoolean(int,boolean) 在指定索引處設定一個Boolean值(1或0),writerIndex值不變
setByte(int,int) 在指定索引處設定一個byte值,writerIndex值不變
setShort(int,int) 在指定索引處設定一個short值,writerIndex值不變
setInt(int,int) 在指定索引處設定一個int值,writerIndex值不變
setLong(int,int) 在指定索引處設定一個long值,writerIndex值不變

 

ByteBuf型別

Netty中ByteBuf相關實作類的UML圖

 

 Netty在構建ByteBuf時,有以下多種分類:

1、從記憶體型別上,分為堆記憶體與直接記憶體,HeapByteBuf與DirectByteBuf

我們知道Java中大部分物件都是在堆記憶體中存盤,由jvm統一管理,但NIO中 的 ByteBuffer 類允許 JVM 實作通過本地呼叫來分配記憶體,Netty中對基于直接記憶體的ByteBuffer也進行了封裝,這主要是為了避免在每次呼叫本地 I/O 操作之前(或者之后)將緩沖區的內容復 制到一個中間緩沖區(或者從中間緩沖區把內容復制到緩沖區),直接緩沖區不會占用堆的容量,事實上,在通過套接字發送它之前,JVM將會在內部把你的緩沖 區復制到一個直接緩沖區中,所以如果使用直接緩沖區可以節約一次拷貝,提高IO操作性能,使用直接記憶體的優缺點如下:

(1)優點:由于資料直接在記憶體中,不存在從JVM拷貝資料到直接緩沖區的程序,提高IO操作性能,

(2)缺點:相對于基于堆的緩沖區,它們的分配和釋放都較為昂貴,同時由于直接記憶體不受JVM垃圾回收統一管理,需要自己手動回收,需要特別注意記憶體泄露的問題,

2、從分配模式上,分為池化與非池化;PooledByteBuf與UnpooledByteBuf

對于頻繁的申請與釋放記憶體帶來的性能損耗與碎片化問題,Netty基于池化思想通過預先申請一塊專用記憶體地址作為記憶體池進行管理,從而不需要每次都進行分配和釋放,

從上面的UML圖中可以看到,基于AbstractByteBuf父類針對直接記憶體與堆記憶體,也都有其對應的池化與非池化實作類;

PooledByteBuf  下有  PooledUnsafeDirectByteBuf、PooledHeapByteBuf、PooledDirectByteBuf三個子類實作

UnpooledByteBuf 下則是 UnpooledDirectByteBuf及其子類UnpooledUnsafeDirectByteBuf 與 UnpooledHeapByteBuf及其子類UnpooledUnsafeHeapByteBuf

3、從具體的操作類上,分為Unsafe與非Unsafe

 從上面的子類實作中,我們發現每種分類中又包含Usafe與非Unsafe的區別,我們知道java可以通過Unsafe類直接操作記憶體區域,所以這些類的區別就是在于是呼叫jdk的Unsafe直接去操作物件的記憶體地址還是通過jdk封裝的安全方式操作記憶體,

我們通過PooledByteBuf下Unsafe與非Unsafe實作類的getByte方法,看下具體的區別

PooledUnsafeHeapByteBuf

    @Override
    protected byte _getByte(int index) {
        return UnsafeByteBufUtil.getByte(addr(index));
    }

Netty中封裝了一個UnsafeByteBufUtil類,進入內部實作看到呼叫的是Unsafe物件進行具體操作

    static byte getByte(long address) {
        return UNSAFE.getByte(address);
    }


PooledHeapByteBuf

跟蹤其內部代碼則可以看到位元組是基于陣列操作的

    @Override
    protected byte _getByte(int index) {
        return HeapByteBufUtil.getByte(memory, idx(index));
    }

    static byte getByte(byte[] memory, int index) {
        return memory[index];
    }

PooledDirectByteBuf

針對DirectByteBuf大家需要靈活理解,PooledUnsafeDirectByteBuf 與PooledUnsafeDirectByteBuf的區別一個是UnsafeByteBufUtil類直接操作,一個是使用java NIO中的DirectByteBuf類進行操作,但因為要操作直接記憶體,最后還都是要基于jdk的unsafe類實作;

對比他們兩種實作,可以看出Unsafe與非Unsafe的區別,前者是通過jdk的Unsafe類去操作資料,后者直接通過陣列或者jdk底層的DirectByteBuf去操作資料,

 

ByteBuf作為Netty中資料操作與記憶體分配的具體實作,是Netty中最為底層的也是最精細的一部分,本文只是對ByteBuf的一個簡單概述,后續我們會進一步對其進行探索與剖析,更好的展示Netty內部具體實作,希望對大家能有所幫助,其中如有不足與不正確的地方還望指出與海涵,

 

關注微信公眾號,查看更多技術文章,

 

 

轉載說明:未經授權不得轉載,授權后務必注明來源(注明:來源于公眾號:架構空間, 作者:大凡)

 

轉載請註明出處,本文鏈接:https://www.uj5u.com/houduan/33612.html

標籤:Java

上一篇:Docker 極簡入門教程,傻瓜都能看懂!

下一篇:在阿里作業5年了,斗膽談談我認為的高級開發到底應該是怎樣的?

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【C++】Microsoft C++、C 和匯編程式檔案

    ......

    uj5u.com 2020-09-10 00:57:23 more
  • 例外宣告

    相比于斷言適用于排除邏輯上不可能存在的狀態,例外通常是用于邏輯上可能發生的錯誤。 例外宣告 Item 1:當函式不可能拋出例外或不能接受拋出例外時,使用noexcept 理由 如果不打算拋出例外的話,程式就會認為無法處理這種錯誤,并且應當盡早終止,如此可以有效地阻止例外的傳播與擴散。 示例 //不可 ......

    uj5u.com 2020-09-10 00:57:27 more
  • Codeforces 1400E Clear the Multiset(貪心 + 分治)

    鏈接:https://codeforces.com/problemset/problem/1400/E 來源:Codeforces 思路:給你一個陣列,現在你可以進行兩種操作,操作1:將一段沒有 0 的區間進行減一的操作,操作2:將 i 位置上的元素歸零。最終問:將這個陣列的全部元素歸零后操作的最少 ......

    uj5u.com 2020-09-10 00:57:30 more
  • UVA11610 【Reverse Prime】

    本人看到此題沒有翻譯,就附帶了一個自己的翻譯版本 思考 這一題,它的第一個要求是找出所有 $7$ 位反向質數及其質因數的個數。 我們應該需要質數篩篩選1~$10^{7}$的所有數,這里就不慢慢介紹了。但是,重讀題,我們突然發現反向質數都是 $7$ 位,而將它反過來后的數字卻是 $6$ 位數,這就說明 ......

    uj5u.com 2020-09-10 00:57:36 more
  • 統計區間素數數量

    1 #pragma GCC optimize(2) 2 #include <bits/stdc++.h> 3 using namespace std; 4 bool isprime[1000000010]; 5 vector<int> prime; 6 inline int getlist(int ......

    uj5u.com 2020-09-10 00:57:47 more
  • C/C++編程筆記:C++中的 const 變數詳解,教你正確認識const用法

    1、C中的const 1、區域const變數存放在堆疊區中,會分配記憶體(也就是說可以通過地址間接修改變數的值)。測驗代碼如下: 運行結果: 2、全域const變數存放在只讀資料段(不能通過地址修改,會發生寫入錯誤), 默認為外部聯編,可以給其他源檔案使用(需要用extern關鍵字修飾) 運行結果: ......

    uj5u.com 2020-09-10 00:58:04 more
  • 【C++犯錯記錄】VS2019 MFC添加資源不懂如何修改資源宏ID

    1. 首先在資源視圖中,添加資源 2. 點擊新添加的資源,復制自動生成的ID 3. 在解決方案資源管理器中找到Resource.h檔案,編輯,使用整個專案搜索和替換的方式快速替換 宏宣告 4. Ctrl+Shift+F 全域搜索,點擊查找全部,然后逐個替換 5. 為什么使用搜索替換而不使用屬性視窗直 ......

    uj5u.com 2020-09-10 00:59:11 more
  • 【C++犯錯記錄】VS2019 MFC不懂的批量添加資源

    1. 打開資源頭檔案Resource.h,在其中預先定義好宏 ID(不清楚其實ID值應該設定多少,可以先新建一個相同的資源項,再在這個資源的ID值的基礎上遞增即可) 2. 在資源視圖中選中專案資源,按F7編輯資源檔案,按 ID 型別 相對路徑的形式添加 資源。(別忘了先把檔案拷貝到專案中的res檔案 ......

    uj5u.com 2020-09-10 01:00:19 more
  • C/C++編程筆記:關于C++的參考型別,專供新手入門使用

    今天要講的是C++中我最喜歡的一個用法——參考,也叫別名。 參考就是給一個變數名取一個變數名,方便我們間接地使用這個變數。我們可以給一個變數創建N個參考,這N + 1個變數共享了同一塊記憶體區域。(參考型別的變數會占用記憶體空間,占用的記憶體空間的大小和指標型別的大小是相同的。雖然參考是一個物件的別名,但 ......

    uj5u.com 2020-09-10 01:00:22 more
  • 【C/C++編程筆記】從頭開始學習C ++:初學者完整指南

    眾所周知,C ++的學習曲線陡峭,但是花時間學習這種語言將為您的職業帶來奇跡,并使您與其他開發人員區分開。您會更輕松地學習新語言,形成真正的解決問題的技能,并在編程的基礎上打下堅實的基礎。 C ++將幫助您養成良好的編程習慣(即清晰一致的編碼風格,在撰寫代碼時注釋代碼,并限制類內部的可見性),并且由 ......

    uj5u.com 2020-09-10 01:00:41 more
最新发布
  • Rust中的智能指標:Box<T> Rc<T> Arc<T> Cell<T> RefCell<T> Weak

    Rust中的智能指標是什么 智能指標(smart pointers)是一類資料結構,是擁有資料所有權和額外功能的指標。是指標的進一步發展 指標(pointer)是一個包含記憶體地址的變數的通用概念。這個地址參考,或 ” 指向”(points at)一些其 他資料 。參考以 & 符號為標志并借用了他們所 ......

    uj5u.com 2023-04-20 07:24:10 more
  • Java的值傳遞和參考傳遞

    值傳遞不會改變本身,參考傳遞(如果傳遞的值需要實體化到堆里)如果發生修改了會改變本身。 1.基本資料型別都是值傳遞 package com.example.basic; public class Test { public static void main(String[] args) { int ......

    uj5u.com 2023-04-20 07:24:04 more
  • [2]SpinalHDL教程——Scala簡單入門

    第一個 Scala 程式 shell里面輸入 $ scala scala> 1 + 1 res0: Int = 2 scala> println("Hello World!") Hello World! 檔案形式 object HelloWorld { /* 這是我的第一個 Scala 程式 * 以 ......

    uj5u.com 2023-04-20 07:23:58 more
  • 理解函式指標和回呼函式

    理解 函式指標 指向函式的指標。比如: 理解函式指標的偽代碼 void (*p)(int type, char *data); // 定義一個函式指標p void func(int type, char *data); // 宣告一個函式func p = func; // 將指標p指向函式func ......

    uj5u.com 2023-04-20 07:23:52 more
  • Django筆記二十五之資料庫函式之日期函式

    本文首發于公眾號:Hunter后端 原文鏈接:Django筆記二十五之資料庫函式之日期函式 日期函式主要介紹兩個大類,Extract() 和 Trunc() Extract() 函式作用是提取日期,比如我們可以提取一個日期欄位的年份,月份,日等資料 Trunc() 的作用則是截取,比如 2022-0 ......

    uj5u.com 2023-04-20 07:23:45 more
  • 一天吃透JVM面試八股文

    什么是JVM? JVM,全稱Java Virtual Machine(Java虛擬機),是通過在實際的計算機上仿真模擬各種計算機功能來實作的。由一套位元組碼指令集、一組暫存器、一個堆疊、一個垃圾回收堆和一個存盤方法域等組成。JVM屏蔽了與作業系統平臺相關的資訊,使得Java程式只需要生成在Java虛擬機 ......

    uj5u.com 2023-04-20 07:23:31 more
  • 使用Java接入小程式訂閱訊息!

    更新完微信服務號的模板訊息之后,我又趕緊把微信小程式的訂閱訊息給實作了!之前我一直以為微信小程式也是要企業才能申請,沒想到小程式個人就能申請。 訊息推送平臺🔥推送下發【郵件】【短信】【微信服務號】【微信小程式】【企業微信】【釘釘】等訊息型別。 https://gitee.com/zhongfuch ......

    uj5u.com 2023-04-20 07:22:59 more
  • java -- 緩沖流、轉換流、序列化流

    緩沖流 緩沖流, 也叫高效流, 按照資料型別分類: 位元組緩沖流:BufferedInputStream,BufferedOutputStream 字符緩沖流:BufferedReader,BufferedWriter 緩沖流的基本原理,是在創建流物件時,會創建一個內置的默認大小的緩沖區陣列,通過緩沖 ......

    uj5u.com 2023-04-20 07:22:49 more
  • Java-SpringBoot-Range請求頭設定實作視頻分段傳輸

    老實說,人太懶了,現在基本都不喜歡寫筆記了,但是網上有關Range請求頭的文章都太水了 下面是抄的一段StackOverflow的代碼...自己大修改過的,寫的注釋挺全的,應該直接看得懂,就不解釋了 寫的不好...只是希望能給視頻網站開發的新手一點點幫助吧. 業務場景:視頻分段傳輸、視頻多段傳輸(理 ......

    uj5u.com 2023-04-20 07:22:42 more
  • Windows 10開發教程_編程入門自學教程_菜鳥教程-免費教程分享

    教程簡介 Windows 10開發入門教程 - 從簡單的步驟了解Windows 10開發,從基本到高級概念,包括簡介,UWP,第一個應用程式,商店,XAML控制元件,資料系結,XAML性能,自適應設計,自適應UI,自適應代碼,檔案管理,SQLite資料庫,應用程式到應用程式通信,應用程式本地化,應用程式 ......

    uj5u.com 2023-04-20 07:22:35 more