主頁 > 後端開發 > 一文吃透 Go 內置 RPC 原理

一文吃透 Go 內置 RPC 原理

2023-03-03 07:08:01 後端開發

hello 大家好呀,我是小樓,這是系列文《Go底層原理剖析》的第三篇,依舊分析 Http 模塊,我們今天來看 Go內置的 RPC,說起 RPC 大家想到的一般是框架,Go 作為編程語言竟然還內置了 RPC,著實讓我有些吃鯨,

image

從一個 Demo 入手

為了快速進入狀態,我們先搞一個 Demo,當然這個 Demo 是參考 Go 原始碼 src/net/rpc/server.go,做了一丟丟的修改,

  • 首先定義請求的入參和出參:
package common

type Args struct {
	A, B int
}

type Quotient struct {
	Quo, Rem int
}
  • 接著在定義一個物件,并給這個物件寫兩個方法
type Arith struct{}

func (t *Arith) Multiply(args *common.Args, reply *int) error {
	*reply = args.A * args.B
	return nil
}

func (t *Arith) Divide(args *common.Args, quo *common.Quotient) error {
	if args.B == 0 {
		return errors.New("divide by zero")
	}
	quo.Quo = args.A / args.B
	quo.Rem = args.A % args.B
	return nil
}
  • 然后起一個 RPC server:
func main() {
	arith := new(Arith)
	rpc.Register(arith)
	rpc.HandleHTTP()
	l, e := net.Listen("tcp", ":9876")
	if e != nil {
		panic(e)
	}

	go http.Serve(l, nil)

	var wg sync.WaitGroup
	wg.Add(1)
	wg.Wait()
}
  • 最后初始化 RPC Client,并發起呼叫:
func main() {
	client, err := rpc.DialHTTP("tcp", "127.0.0.1:9876")
	if err != nil {
		panic(err)
	}

	args := common.Args{A: 7, B: 8}
	var reply int
  // 同步呼叫
	err = client.Call("Arith.Multiply", &args, &reply)
	if err != nil {
		panic(err)
	}
	fmt.Printf("Call Arith: %d * %d = %d\n", args.A, args.B, reply)

  // 異步呼叫
	quotient := new(common.Quotient)
	divCall := client.Go("Arith.Divide", args, quotient, nil)
	replyCall := <-divCall.Done

	fmt.Printf("Go Divide: %d divide %d = %+v %+v\n", args.A, args.B, replyCall.Reply, quotient)
}

如果不出意外,RPC 呼叫成功

image

這 RPC 嗎

在剖析原理之前,我們先想想什么是 RPC?

RPC 是 Remote Procedure Call 的縮寫,一般翻譯為遠程程序呼叫,不過我覺得這個翻譯有點難懂,啥叫程序?如果查一下 Procedure,就能發現它就是應用程式的意思,

image

所以翻譯過來應該是呼叫遠程程式,說人話就是呼叫的方法不在本地,不能通過記憶體尋址找到,只能通過遠程通信來呼叫,

一般來說 RPC 框架存在的意義是讓你呼叫遠程方法像呼叫本地方法一樣方便,也就是將復雜的編解碼、通信程序都封裝起來,讓代碼寫起來更簡單,

說到這里其實我想吐槽一下,網上經常有文章說,既然有 Http,為什么還要有 RPC?如果你理解 RPC,我相信你不會問出這樣的問題,他們是兩個維度的東西,RPC 關注的是遠程呼叫的封裝,Http 是一種協議,RPC 沒有規定通信協議,RPC 也可以使用 Http,這不矛盾,這種問法就好像在問既然有了蘋果手機,為什么還要有中國移動?

扯遠了,我們回頭看一下上述的例子是否符合我們對 RPC 的定義,

  • 首先是遠程呼叫,我們是開了一個 Server,監聽了9876埠,然后 Client 與之通信,將這兩個程式部署在兩臺機器上,只要網路是通的,照樣可以正常作業
  • 其次它符合呼叫遠程方法像呼叫本地方法一樣方便,代碼中沒有處理編解碼,也沒有處理通信,只不過方法名以引數的形式傳入,和一般的 RPC 稍有不同,倒是很像 Dubbo 的泛化呼叫

綜上兩點,這很 RPC,

下面我將用兩段內容分別剖析 Go 內置的 RPC Server 與 Client 的原理,來看看 Go 是如何實作一個 RPC 的,

RPC Server 原理

注冊服務

這里的服務指的是一個具有公開方法的物件,比如上面 Demo 中的 Arith,只需要呼叫 Register 就能注冊

rpc.Register(arith)

注冊完成了以下動作:

  • 利用反射獲取這個物件的型別、類名、值、以及公開方法
  • 將其包裝為 service 物件,并存在 server 的 serviceMap 中,serviceMap 的 key 默認為類名,比如這里是Arith,也可以呼叫另一個注冊方法 RegisterName 來自定義名稱

注冊 Http Handle

這里你可能會問,為啥 RPC 要注冊 Http Handle,沒錯,Go 內置的 RPC 通信是基于 Http 協議的,所以需要注冊,只需要一行代碼:

rpc.HandleHTTP()

它呼叫的是 Http 的 Handle 方法,也就是 HandleFunc 的底層實作,這塊如果不清楚,可以看我之前的文章《一文讀懂 Go Http Server 原理》,

它注冊了兩個特殊的 Path:/_goRPC_/debug/rpc,其中有一個是 Debug 專用,當然也可以自定義,

邏輯處理

注冊時傳入了 RPC 的 server 物件,這個物件必須實作 Handler 的 ServeHTTP 介面,也就是 RPC 的處理邏輯入口在這個 ServeHTTP 中:

type Handler interface {
	ServeHTTP(ResponseWriter, *Request)
}

我們看 RPC Server 是如何實作這個介面的:

// ServeHTTP implements an http.Handler that answers RPC requests.
func (server *Server) ServeHTTP(w http.ResponseWriter, req *http.Request) {
	// ①
  if req.Method != "CONNECT" {
		w.Header().Set("Content-Type", "text/plain; charset=utf-8")
		w.WriteHeader(http.StatusMethodNotAllowed)
		io.WriteString(w, "405 must CONNECT\n")
		return
	}
  // ②
	conn, _, err := w.(http.Hijacker).Hijack()
	if err != nil {
		log.Print("rpc hijacking ", req.RemoteAddr, ": ", err.Error())
		return
	}
  // ③
	io.WriteString(conn, "HTTP/1.0 "+connected+"\n\n")
	// ④
	server.ServeConn(conn)
}

我對這段代碼標了號,逐一看:

  • ①:限制了請求的 Method 必須是 CONNECT,如果不是則直接回傳錯誤,這么做是為什么?看下 Method 欄位的注釋就恍然大悟:Go 的 Http Client 是發不出 CONNECT 的請求,也就是 RPC 的 Server 是沒辦法通過 Go 的 Http Client 訪問,限制必須得使用 RPC Client
type Request struct {
	// Method specifies the HTTP method (GET, POST, PUT, etc.).
	// For client requests, an empty string means GET.
	//
	// Go's HTTP client does not support sending a request with
	// the CONNECT method. See the documentation on Transport for
	// details.
	Method string
}

image

  • ②:Hijack 是劫持 Http 的連接,劫持后需要手動處理連接的關閉,這個操作是為了復用連接
  • ③:先寫一行回應:
"HTTP/1.0 200 Connected to Go RPC \n\n"
  • ④:開始真正的處理,這里段比較長,大致做了如下幾點事情:

    • 準備好資料、編解碼器
    • 在一個大回圈里處理每一個請求,處理流程是:
      • 讀出請求,包括要呼叫的service,引數等
      • 通過反射異步地呼叫對應的方法
      • 將執行結果編碼寫回連接

說到這里,代碼中有個物件池的設計挺巧妙,這里展開說說,

image

在高并發下,Server 端的 Request 物件和 Response 物件會頻繁地創建,這里用了佇列來實作了物件池,以 Request 物件池做個介紹,在 Server 物件中有一個 Request 指標,Request 中有個 next 指標

type Server struct {
	...
	freeReq    *Request
	..
}

type Request struct {
	ServiceMethod string 
	Seq           uint64
	next          *Request
}

在讀取請求時需要這個物件,如果池中沒有物件,則 new 一個出來,有的話就拿到,并將 Server 中的指標指向 next:

func (server *Server) getRequest() *Request {
	server.reqLock.Lock()
	req := server.freeReq
	if req == nil {
		req = new(Request)
	} else {
		server.freeReq = req.next
		*req = Request{}
	}
	server.reqLock.Unlock()
	return req
}

請求處理完成時,釋放這個物件,插入到鏈表的頭部

func (server *Server) freeRequest(req *Request) {
	server.reqLock.Lock()
	req.next = server.freeReq
	server.freeReq = req
	server.reqLock.Unlock()
}

畫個圖整體感受下:

image

回到正題,Client 和 Server 之間只有一條連接,如果是異步執行,怎么保證回傳的資料是正確的呢?這里先不說,如果一次性說完了,下一節的 Client 就沒啥可說的了,你說是吧?

image

RPC Client 原理

Client 使用第一步是 New 一個 Client 物件,在這一步,它偷偷起了一個協程,干什么呢?用來讀取 Server 端的回傳,這也是 Go 慣用的伎倆,

每一次 Client 的呼叫都被封裝為一個 Call 物件,包含了呼叫的方法、引數、回應、錯誤、是否完成,

同時 Client 物件有一個 pending map,key 為請求的遞增序號,當 Client 發起呼叫時,將序號自增,并把當前的 Call 物件放到 pending map 中,然后再向連接寫入請求,

寫入的請求先后分別為 Request 和引數,可以理解為 header 和 body,其中 Request 就包含了 Client 的請求自增序號,

Server 端回應時把這個序號帶回去,Client 接收回應時讀出回傳資料,再去 pending map 里找到對應的請求,通知給對應的阻塞協程,

這不就能把請求和回應串到一起了嗎?這一招很多 RPC 框架也是這么玩的,

image

Client 、Server 流程都走完,但我們忽略了編解碼細節,Go RPC 默認使用 gob 編解碼器,這里也稍微介紹下 gob,

gob 編解碼

gob 是 Go 實作的一個 Go 親和的協議,可以簡單理解這個協議只能在 Go 中用,Go Client RPC 對編解碼介面的定義如下:

type ClientCodec interface {
	WriteRequest(*Request, interface{}) error
	ReadResponseHeader(*Response) error
	ReadResponseBody(interface{}) error

	Close() error
}

同理,Server 端也有一個定義:

type ServerCodec interface {
	ReadRequestHeader(*Request) error
	ReadRequestBody(interface{}) error
	WriteResponse(*Response, interface{}) error
  
	Close() error
}

gob 是其一個實作,這里只看 Client:

func (c *gobClientCodec) WriteRequest(r *Request, body interface{}) (err error) {
	if err = c.enc.Encode(r); err != nil {
		return
	}
	if err = c.enc.Encode(body); err != nil {
		return
	}
	return c.encBuf.Flush()
}

func (c *gobClientCodec) ReadResponseHeader(r *Response) error {
	return c.dec.Decode(r)
}

func (c *gobClientCodec) ReadResponseBody(body interface{}) error {
	return c.dec.Decode(body)
}

追蹤到底層就是 Encoder 的 EncodeValue 和 DecodeValue 方法,Encode 的細節我不打算寫,因為我也不想看這一塊,最終結果就是把結構體編碼成了二進制資料,呼叫 writeMessage,

總結

本文介紹了 Go 內置的 RPC Client 和 Server 端原理,能窺探出一點點 RPC 的設計,如果讓你實作一個 RPC 是不是有些可以參考呢?

本來草稿中貼了很多代碼,但我覺得那樣解讀很難讀下去,于是就刪了又刪,

不過還有一點是我想寫但沒有寫出來的,本文只講了 Go 內置 RPC 是什么,怎么實作的,至于它的優缺點,能不能在生產中使用,倒是沒有講,下次寫一篇文章專門講一下,有興趣可以持續關注,我們下期再見,歡迎轉發、收藏、點贊,

往期回顧

  • 《有趣的 Go HttpClient 超時機制》
  • 《一文讀懂 Go Http Server 原理》
  • 搜索關注微信公眾號"捉蟲大師",后端技術分享,架構設計、性能優化、原始碼閱讀、問題排查、踩坑實踐

轉載請註明出處,本文鏈接:https://www.uj5u.com/houduan/545516.html

標籤:Go

上一篇:《分布式技術原理與演算法決議》學習筆記Day27

下一篇:用GoRoutines高性能同時進行多個Api呼叫

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【C++】Microsoft C++、C 和匯編程式檔案

    ......

    uj5u.com 2020-09-10 00:57:23 more
  • 例外宣告

    相比于斷言適用于排除邏輯上不可能存在的狀態,例外通常是用于邏輯上可能發生的錯誤。 例外宣告 Item 1:當函式不可能拋出例外或不能接受拋出例外時,使用noexcept 理由 如果不打算拋出例外的話,程式就會認為無法處理這種錯誤,并且應當盡早終止,如此可以有效地阻止例外的傳播與擴散。 示例 //不可 ......

    uj5u.com 2020-09-10 00:57:27 more
  • Codeforces 1400E Clear the Multiset(貪心 + 分治)

    鏈接:https://codeforces.com/problemset/problem/1400/E 來源:Codeforces 思路:給你一個陣列,現在你可以進行兩種操作,操作1:將一段沒有 0 的區間進行減一的操作,操作2:將 i 位置上的元素歸零。最終問:將這個陣列的全部元素歸零后操作的最少 ......

    uj5u.com 2020-09-10 00:57:30 more
  • UVA11610 【Reverse Prime】

    本人看到此題沒有翻譯,就附帶了一個自己的翻譯版本 思考 這一題,它的第一個要求是找出所有 $7$ 位反向質數及其質因數的個數。 我們應該需要質數篩篩選1~$10^{7}$的所有數,這里就不慢慢介紹了。但是,重讀題,我們突然發現反向質數都是 $7$ 位,而將它反過來后的數字卻是 $6$ 位數,這就說明 ......

    uj5u.com 2020-09-10 00:57:36 more
  • 統計區間素數數量

    1 #pragma GCC optimize(2) 2 #include <bits/stdc++.h> 3 using namespace std; 4 bool isprime[1000000010]; 5 vector<int> prime; 6 inline int getlist(int ......

    uj5u.com 2020-09-10 00:57:47 more
  • C/C++編程筆記:C++中的 const 變數詳解,教你正確認識const用法

    1、C中的const 1、區域const變數存放在堆疊區中,會分配記憶體(也就是說可以通過地址間接修改變數的值)。測驗代碼如下: 運行結果: 2、全域const變數存放在只讀資料段(不能通過地址修改,會發生寫入錯誤), 默認為外部聯編,可以給其他源檔案使用(需要用extern關鍵字修飾) 運行結果: ......

    uj5u.com 2020-09-10 00:58:04 more
  • 【C++犯錯記錄】VS2019 MFC添加資源不懂如何修改資源宏ID

    1. 首先在資源視圖中,添加資源 2. 點擊新添加的資源,復制自動生成的ID 3. 在解決方案資源管理器中找到Resource.h檔案,編輯,使用整個專案搜索和替換的方式快速替換 宏宣告 4. Ctrl+Shift+F 全域搜索,點擊查找全部,然后逐個替換 5. 為什么使用搜索替換而不使用屬性視窗直 ......

    uj5u.com 2020-09-10 00:59:11 more
  • 【C++犯錯記錄】VS2019 MFC不懂的批量添加資源

    1. 打開資源頭檔案Resource.h,在其中預先定義好宏 ID(不清楚其實ID值應該設定多少,可以先新建一個相同的資源項,再在這個資源的ID值的基礎上遞增即可) 2. 在資源視圖中選中專案資源,按F7編輯資源檔案,按 ID 型別 相對路徑的形式添加 資源。(別忘了先把檔案拷貝到專案中的res檔案 ......

    uj5u.com 2020-09-10 01:00:19 more
  • C/C++編程筆記:關于C++的參考型別,專供新手入門使用

    今天要講的是C++中我最喜歡的一個用法——參考,也叫別名。 參考就是給一個變數名取一個變數名,方便我們間接地使用這個變數。我們可以給一個變數創建N個參考,這N + 1個變數共享了同一塊記憶體區域。(參考型別的變數會占用記憶體空間,占用的記憶體空間的大小和指標型別的大小是相同的。雖然參考是一個物件的別名,但 ......

    uj5u.com 2020-09-10 01:00:22 more
  • 【C/C++編程筆記】從頭開始學習C ++:初學者完整指南

    眾所周知,C ++的學習曲線陡峭,但是花時間學習這種語言將為您的職業帶來奇跡,并使您與其他開發人員區分開。您會更輕松地學習新語言,形成真正的解決問題的技能,并在編程的基礎上打下堅實的基礎。 C ++將幫助您養成良好的編程習慣(即清晰一致的編碼風格,在撰寫代碼時注釋代碼,并限制類內部的可見性),并且由 ......

    uj5u.com 2020-09-10 01:00:41 more
最新发布
  • Rust中的智能指標:Box<T> Rc<T> Arc<T> Cell<T> RefCell<T> Weak

    Rust中的智能指標是什么 智能指標(smart pointers)是一類資料結構,是擁有資料所有權和額外功能的指標。是指標的進一步發展 指標(pointer)是一個包含記憶體地址的變數的通用概念。這個地址參考,或 ” 指向”(points at)一些其 他資料 。參考以 & 符號為標志并借用了他們所 ......

    uj5u.com 2023-04-20 07:24:10 more
  • Java的值傳遞和參考傳遞

    值傳遞不會改變本身,參考傳遞(如果傳遞的值需要實體化到堆里)如果發生修改了會改變本身。 1.基本資料型別都是值傳遞 package com.example.basic; public class Test { public static void main(String[] args) { int ......

    uj5u.com 2023-04-20 07:24:04 more
  • [2]SpinalHDL教程——Scala簡單入門

    第一個 Scala 程式 shell里面輸入 $ scala scala> 1 + 1 res0: Int = 2 scala> println("Hello World!") Hello World! 檔案形式 object HelloWorld { /* 這是我的第一個 Scala 程式 * 以 ......

    uj5u.com 2023-04-20 07:23:58 more
  • 理解函式指標和回呼函式

    理解 函式指標 指向函式的指標。比如: 理解函式指標的偽代碼 void (*p)(int type, char *data); // 定義一個函式指標p void func(int type, char *data); // 宣告一個函式func p = func; // 將指標p指向函式func ......

    uj5u.com 2023-04-20 07:23:52 more
  • Django筆記二十五之資料庫函式之日期函式

    本文首發于公眾號:Hunter后端 原文鏈接:Django筆記二十五之資料庫函式之日期函式 日期函式主要介紹兩個大類,Extract() 和 Trunc() Extract() 函式作用是提取日期,比如我們可以提取一個日期欄位的年份,月份,日等資料 Trunc() 的作用則是截取,比如 2022-0 ......

    uj5u.com 2023-04-20 07:23:45 more
  • 一天吃透JVM面試八股文

    什么是JVM? JVM,全稱Java Virtual Machine(Java虛擬機),是通過在實際的計算機上仿真模擬各種計算機功能來實作的。由一套位元組碼指令集、一組暫存器、一個堆疊、一個垃圾回收堆和一個存盤方法域等組成。JVM屏蔽了與作業系統平臺相關的資訊,使得Java程式只需要生成在Java虛擬機 ......

    uj5u.com 2023-04-20 07:23:31 more
  • 使用Java接入小程式訂閱訊息!

    更新完微信服務號的模板訊息之后,我又趕緊把微信小程式的訂閱訊息給實作了!之前我一直以為微信小程式也是要企業才能申請,沒想到小程式個人就能申請。 訊息推送平臺🔥推送下發【郵件】【短信】【微信服務號】【微信小程式】【企業微信】【釘釘】等訊息型別。 https://gitee.com/zhongfuch ......

    uj5u.com 2023-04-20 07:22:59 more
  • java -- 緩沖流、轉換流、序列化流

    緩沖流 緩沖流, 也叫高效流, 按照資料型別分類: 位元組緩沖流:BufferedInputStream,BufferedOutputStream 字符緩沖流:BufferedReader,BufferedWriter 緩沖流的基本原理,是在創建流物件時,會創建一個內置的默認大小的緩沖區陣列,通過緩沖 ......

    uj5u.com 2023-04-20 07:22:49 more
  • Java-SpringBoot-Range請求頭設定實作視頻分段傳輸

    老實說,人太懶了,現在基本都不喜歡寫筆記了,但是網上有關Range請求頭的文章都太水了 下面是抄的一段StackOverflow的代碼...自己大修改過的,寫的注釋挺全的,應該直接看得懂,就不解釋了 寫的不好...只是希望能給視頻網站開發的新手一點點幫助吧. 業務場景:視頻分段傳輸、視頻多段傳輸(理 ......

    uj5u.com 2023-04-20 07:22:42 more
  • Windows 10開發教程_編程入門自學教程_菜鳥教程-免費教程分享

    教程簡介 Windows 10開發入門教程 - 從簡單的步驟了解Windows 10開發,從基本到高級概念,包括簡介,UWP,第一個應用程式,商店,XAML控制元件,資料系結,XAML性能,自適應設計,自適應UI,自適應代碼,檔案管理,SQLite資料庫,應用程式到應用程式通信,應用程式本地化,應用程式 ......

    uj5u.com 2023-04-20 07:22:35 more