主頁 > 後端開發 > PGO前瞻

PGO前瞻

2023-06-26 07:57:39 後端開發

原文在這里,

原文發布于2023年2月8日

在構建Go二進制檔案時,Go編譯器會進行優化,以盡可能生成性能最佳的二進制檔案,例如,常量傳播可以在編譯時對常量運算式進行求值,避免了運行時的計算開銷;逃逸分析可以避免對區域作用域物件進行堆分配,從而減少了垃圾回收的負擔;行內則將簡單函式的代碼體復制到呼叫處,通常能夠進一步優化呼叫處的代碼(例如額外的常量傳播或更好的逃逸分析),

Go在發布的每個版本中都會改進優化,但這并不總是一項容易的任務,某些優化是可調節的,但編譯器不能對每個函式都進行過度激進的優化,因為過于激進的優化實際上可能會損害性能或導致過長的構建時間,其他優化要求編譯器對函式中的“常見”和“不常見”路徑進行判斷,編譯器必須根據靜態啟發式規則進行最佳猜測,因為它無法在運行時知道哪些情況將是常見的,

但現在編譯器可以在運行時知道哪些情況是常見的了,

在沒有關于代碼在生產環境中如何使用的確切資訊的情況下,編譯器只能對包的源代碼進行操作,但是我們確實有一種工具來評估生產行為:性能分析,如果我們向編譯器提供一個性能分析檔案,它就可以做出更明智的決策:對最常用的函式進行更積極的優化,或更準確地選擇常見情況,

使用應用程式行為的性能分析檔案進行編譯器優化的方法被稱為基于性能分析的優化(Profile-Guided Optimization,簡稱PGO,也被稱為反饋導向優化(Feedback-Directed Optimization,簡稱FDO)),

PGO/FDO通過收集和分析運行時的性能資料,使得編譯器能夠更準確地了解代碼的執行特性,從而進行更精細的優化,通過結合靜態分析和動態運行時資料,PGO/FDO可以產生更優化的代碼,提高程式的性能和效率,這種技術在提高大型復雜應用程式的性能方面非常有用,特別是對于高度頻繁執行的代碼路徑進行優化,

Go 1.20中包含了PGO的初步支持,作為預覽版本提供,請參閱profile-guided optimization user guide以獲取完整的檔案,盡管距離在生產環境中使用還有一段距離,但仍希望大家在作業中使用,并反饋遇到的問題或意見,

示例

以Markdown轉HTML服務為例:用戶通過/render上傳Markdown檔案,然后接收轉換后的HTML檔案,這里使用gitlab.com/golang-commonmark/markdown,

創建專案

$ go mod init example.com/markdown  
$ go get gitlab.com/golang-commonmark/markdown  

main.go內容:

package main

import (
	"bytes"
	"io"
	"log"
	"net/http"
	_ "net/http/pprof"

	"gitlab.com/golang-commonmark/markdown"
)

func render(w http.ResponseWriter, r *http.Request) {
	if r.Method != "POST" {
		http.Error(w, "Only POST allowed", http.StatusMethodNotAllowed)
		return
	}

	src, err := io.ReadAll(r.Body)
	if err != nil {
		log.Printf("error reading body: %v", err)
		http.Error(w, "Internal Server Error", http.StatusInternalServerError)
		return
	}

	md := markdown.New(
		markdown.XHTMLOutput(true),
		markdown.Typographer(true),
		markdown.Linkify(true),
		markdown.Tables(true),
	)

	var buf bytes.Buffer
	if err := md.Render(&buf, src); err != nil {
		log.Printf("error converting markdown: %v", err)
		http.Error(w, "Malformed markdown", http.StatusBadRequest)
		return
	}

	if _, err := io.Copy(w, &buf); err != nil {
		log.Printf("error writing response: %v", err)
		http.Error(w, "Internal Server Error", http.StatusInternalServerError)
		return
	}
}

func main() {
	http.HandleFunc("/render", render)
	log.Printf("Serving on port 8080...")
	log.Fatal(http.ListenAndServe(":8080", nil))
}

啟動服務:

$ go build -o markdown.nopgo
$ ./markdown.nopgo
2023/06/25 11:27:13 Serving on port 8080...  

使用Go專案的README來進行測驗:

$ curl -o README.md -L "https://raw.githubusercontent.com/golang/go/c16c2c49e2fa98ae551fc6335215fadd62d33542/README.md"  
$ curl --data-binary @README.md http://localhost:8080/render  
<h1>The Go Programming Language</h1>
<p>Go is an open source programming language that makes it easy to build simple,
reliable, and efficient software.</p>  
...  
<p>Note that the Go project uses the issue tracker for bug reports and
proposals only. See <a href="https://go.dev/wiki/Questions">https://go.dev/wiki/Questions</a> for a list of
places to ask questions about the Go language.</p>  

性能分析

現在我們來采集一個profile檔案,再使用PGO來重新構建服務,看看性能能提升多少,

main.go中,我們匯入了net/http/pprof包,它會自動為服務器添加一個/debug/pprof/profile地址,用于獲取CPU分析資料,

通常情況下,我們都是從生產環境中收集性能分析資料,以便編譯器能夠獲取在實際生產環境中的行為情況,但這個示例沒有一個真實的“生產”環境,我們將創建一個簡單的程式來生成負載,同時收集性能分析資料,將該程式的原始碼復制到load/main.go,并啟動負載生成器(確保服務器仍在運行!),

$ go run example.com/markdown/load

下載性能分析檔案:

$ curl -o cpu.pprof "http://localhost:8080/debug/pprof/profile?seconds=30"  

下載完成后,關閉服務,

啟用PGO

我們可以使用go build命令的-pgo標志要求Go工具鏈使用PGO進行構建,-pgo標志可以接受以下兩種引數:

  • 指定要使用的性能分析檔案的路徑
  • 使用"auto",它將使用主包目錄中的default.pgo檔案

我們建議將default.pgo性能分析檔案提交到你的代碼倉庫中,將性能分析檔案與源代碼放在一起,可以確保用戶只需獲取代碼倉庫(無論是通過版本控制系統還是通過go get命令),就能自動獲得性能分析檔案,并且構建程序仍然可重現,在Go 1.20中,默認的-pgo選項是off,因此用戶仍需要添加-pgo=auto選項,但預計將來的Go版本將把默認值改為-pgo=auto,這樣任何構建該二進制檔案的人都將獲得PGO的好處,

構建:

$ mv cpu.pprof default.pgo
$ go build -pgo=auto -o markdown.withpgo

性能對比

我們將使用一個基于Go的基準測驗版本的負載生成器來評估PGO對性能的影響,將這個基準測驗的代碼復制到load/bench_test.go檔案中,

首先沒有使用PGO的情況下進行測驗:

$ ./markdown.nopgo  

進行測驗:

$ go test example.com/markdown/load -bench=. -count=100 -source ../README.md > nopgo.txt

然后啟用PGO:

$ ./markdown.withpgo  

進行測驗:

$ go test example.com/markdown/load -bench=. -count=100 -source ../README.md > withpgo.txt

運行結束后進行結果對比:

$ go install golang.org/x/perf/cmd/benchstat@latest  
$ benchstat nopgo.txt withpgo.txt
goos: linux
goarch: amd64
pkg: example.com/markdown/load
cpu: Intel(R) Core(TM) i7-6700HQ CPU @ 2.60GHz
       │  nopgo.txt  │             withpgo.txt             │
       │   sec/op    │   sec/op     vs base                │
Load-8   445.1μ ± 4%   408.6μ ± 2%  -8.21% (p=0.000 n=100)

新版本大約快了8.2%!在Go 1.20中,通過啟用PGO,可以獲得2%到4%的CPU使用率提升,性能分析檔案包含了關于應用程式行為的豐富資訊,而Go 1.20僅僅開始利用這些資訊進行行內優化,未來的發布版本將繼續改進性能,因為編譯器的更多部分將利用PGO帶來的好處,

原文中效率提升了2.6%

文中的代碼可以在這里找到,


孟斯特

宣告:本作品采用署名-非商業性使用-相同方式共享 4.0 國際 (CC BY-NC-SA 4.0)進行許可,使用時請注明出處,
Author: mengbin
blog: mengbin
Github: mengbin92
cnblogs: 戀水無意


轉載請註明出處,本文鏈接:https://www.uj5u.com/houduan/555909.html

標籤:其他

上一篇:記錄一個在寫專案中遇到的Maven依賴無法匯入的問題

下一篇:返回列表

標籤雲
其他(161558) Python(38248) JavaScript(25513) Java(18259) C(15238) 區塊鏈(8272) C#(7972) AI(7469) 爪哇(7425) MySQL(7266) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5875) 数组(5741) R(5409) Linux(5347) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4606) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2437) ASP.NET(2404) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) .NET技术(1984) HtmlCss(1971) 功能(1967) Web開發(1951) C++(1942) python-3.x(1918) 弹簧靴(1913) xml(1889) PostgreSQL(1881) .NETCore(1863) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【C++】Microsoft C++、C 和匯編程式檔案

    ......

    uj5u.com 2020-09-10 00:57:23 more
  • 例外宣告

    相比于斷言適用于排除邏輯上不可能存在的狀態,例外通常是用于邏輯上可能發生的錯誤。 例外宣告 Item 1:當函式不可能拋出例外或不能接受拋出例外時,使用noexcept 理由 如果不打算拋出例外的話,程式就會認為無法處理這種錯誤,并且應當盡早終止,如此可以有效地阻止例外的傳播與擴散。 示例 //不可 ......

    uj5u.com 2020-09-10 00:57:27 more
  • Codeforces 1400E Clear the Multiset(貪心 + 分治)

    鏈接:https://codeforces.com/problemset/problem/1400/E 來源:Codeforces 思路:給你一個陣列,現在你可以進行兩種操作,操作1:將一段沒有 0 的區間進行減一的操作,操作2:將 i 位置上的元素歸零。最終問:將這個陣列的全部元素歸零后操作的最少 ......

    uj5u.com 2020-09-10 00:57:30 more
  • UVA11610 【Reverse Prime】

    本人看到此題沒有翻譯,就附帶了一個自己的翻譯版本 思考 這一題,它的第一個要求是找出所有 $7$ 位反向質數及其質因數的個數。 我們應該需要質數篩篩選1~$10^{7}$的所有數,這里就不慢慢介紹了。但是,重讀題,我們突然發現反向質數都是 $7$ 位,而將它反過來后的數字卻是 $6$ 位數,這就說明 ......

    uj5u.com 2020-09-10 00:57:36 more
  • 統計區間素數數量

    1 #pragma GCC optimize(2) 2 #include <bits/stdc++.h> 3 using namespace std; 4 bool isprime[1000000010]; 5 vector<int> prime; 6 inline int getlist(int ......

    uj5u.com 2020-09-10 00:57:47 more
  • C/C++編程筆記:C++中的 const 變數詳解,教你正確認識const用法

    1、C中的const 1、區域const變數存放在堆疊區中,會分配記憶體(也就是說可以通過地址間接修改變數的值)。測驗代碼如下: 運行結果: 2、全域const變數存放在只讀資料段(不能通過地址修改,會發生寫入錯誤), 默認為外部聯編,可以給其他源檔案使用(需要用extern關鍵字修飾) 運行結果: ......

    uj5u.com 2020-09-10 00:58:04 more
  • 【C++犯錯記錄】VS2019 MFC添加資源不懂如何修改資源宏ID

    1. 首先在資源視圖中,添加資源 2. 點擊新添加的資源,復制自動生成的ID 3. 在解決方案資源管理器中找到Resource.h檔案,編輯,使用整個專案搜索和替換的方式快速替換 宏宣告 4. Ctrl+Shift+F 全域搜索,點擊查找全部,然后逐個替換 5. 為什么使用搜索替換而不使用屬性視窗直 ......

    uj5u.com 2020-09-10 00:59:11 more
  • 【C++犯錯記錄】VS2019 MFC不懂的批量添加資源

    1. 打開資源頭檔案Resource.h,在其中預先定義好宏 ID(不清楚其實ID值應該設定多少,可以先新建一個相同的資源項,再在這個資源的ID值的基礎上遞增即可) 2. 在資源視圖中選中專案資源,按F7編輯資源檔案,按 ID 型別 相對路徑的形式添加 資源。(別忘了先把檔案拷貝到專案中的res檔案 ......

    uj5u.com 2020-09-10 01:00:19 more
  • C/C++編程筆記:關于C++的參考型別,專供新手入門使用

    今天要講的是C++中我最喜歡的一個用法——參考,也叫別名。 參考就是給一個變數名取一個變數名,方便我們間接地使用這個變數。我們可以給一個變數創建N個參考,這N + 1個變數共享了同一塊記憶體區域。(參考型別的變數會占用記憶體空間,占用的記憶體空間的大小和指標型別的大小是相同的。雖然參考是一個物件的別名,但 ......

    uj5u.com 2020-09-10 01:00:22 more
  • 【C/C++編程筆記】從頭開始學習C ++:初學者完整指南

    眾所周知,C ++的學習曲線陡峭,但是花時間學習這種語言將為您的職業帶來奇跡,并使您與其他開發人員區分開。您會更輕松地學習新語言,形成真正的解決問題的技能,并在編程的基礎上打下堅實的基礎。 C ++將幫助您養成良好的編程習慣(即清晰一致的編碼風格,在撰寫代碼時注釋代碼,并限制類內部的可見性),并且由 ......

    uj5u.com 2020-09-10 01:00:41 more
最新发布
  • PGO前瞻

    原文在[這里](https://go.dev/blog/pgo-preview)。 > 原文發布于2023年2月8日 在構建Go二進制檔案時,Go編譯器會進行優化,以盡可能生成性能最佳的二進制檔案。例如,常量傳播可以在編譯時對常量運算式進行求值,避免了運行時的計算開銷;逃逸分析可以避免對區域作用域對 ......

    uj5u.com 2023-06-26 07:57:39 more
  • 記錄一個在寫專案中遇到的Maven依賴無法匯入的問題

    # 記錄一個在寫專案中遇到的Maven依賴無法匯入的問題 專案是一個父專案做依賴管理,三個子專案,今天遇到一個問題: 子專案中匯入的依賴,怎么都匯入不進去,maven倉庫中已經有了,idea提示也沒有問題,如圖: ![](https://img2023.cnblogs.com/blog/295824 ......

    uj5u.com 2023-06-26 07:52:22 more
  • CouchDB教程_編程入門自學教程_菜鳥教程-免費教程分享

    ## 教程簡介 CouchDB 是一個開源的面向檔案的資料庫管理系統,可以通過 RESTful JavaScript Object Notation (JSON) API 訪問。術語 “Couch” 是 “Cluster Of Unreliable Commodity Hardware” 的首字母縮 ......

    uj5u.com 2023-06-26 07:52:12 more
  • B+ tree implemented in Java

    ## B+樹相關介紹 > B+樹是一棵**多叉排序樹**,即每個非葉子節點可以包含多個子節點,其整體結構呈扁平化,所以其非常適配于資料庫和作業系統的檔案系統中。且B+樹能夠保持資料的穩定有序,插入和洗掉都擁有較穩定的**對數時間復雜度**。 **B+樹的特性**:以 m 階為例,m 表示內部節點即非 ......

    uj5u.com 2023-06-26 07:52:08 more
  • 深入Python網路編程:從基礎到實踐

    **Python,作為一種被廣泛使用的高級編程語言,擁有許多優勢,其中之一就是它的網路編程能力。Python的強大網路庫如socket, requests, urllib, asyncio,等等,讓它在網路編程中表現優秀。本文將深入探討Python在網路編程中的應用,包括了基礎的socket編程,到 ......

    uj5u.com 2023-06-26 07:50:53 more
  • celery筆記七之周期/定時任務及crontab定義

    > 本文首發于公眾號:Hunter后端 > 原文鏈接:[celery筆記七之周期/定時任務及crontab定義](https://mp.weixin.qq.com/s/sNShaRbuM2gm2qn_codaTg) periodic task,即為周期,或者定時任務,比如說每天晚上零點零分需要運行一 ......

    uj5u.com 2023-06-26 07:45:03 more
  • 【python基礎】檔案-檔案路徑

    # 1.檔案路徑 我們發現不管是寫入還是寫出操作,我們提供的都是檔案名,其實這里準確說應該是檔案路徑。當我們簡單把檔案名傳遞給open函式時,Python將在當前執行程式的檔案所在的目錄中查找檔案名所代表的檔案。 根據組織檔案的方式,可能需要打開不在當前執行程式檔案所屬目錄中的檔案。如果此時我們把該 ......

    uj5u.com 2023-06-26 07:42:46 more
  • 深入Python網路編程:從基礎到實踐

    **Python,作為一種被廣泛使用的高級編程語言,擁有許多優勢,其中之一就是它的網路編程能力。Python的強大網路庫如socket, requests, urllib, asyncio,等等,讓它在網路編程中表現優秀。本文將深入探討Python在網路編程中的應用,包括了基礎的socket編程,到 ......

    uj5u.com 2023-06-26 07:42:33 more
  • ArcPy批量對大量遙感影像相減做差

    本文介紹基于**Python**中**ArcPy**模塊,對大量柵格遙感影像檔案**批量**進行**相減做差**的方法。 首先,我們來明確一下本文的具體需求。現有一個存盤有多張`.tif`格式遙感影像的檔案夾,其中每一個遙感影像的檔案名中都包含有該影像的成像年份,且每一個遙感影像的空間范圍、像元大小 ......

    uj5u.com 2023-06-26 07:42:24 more
  • SpringMVC

    [TOC] # SpringMVC ssm mybatis+Spring+Spring+MVC MVC三層架構 spring : IOC 和 AOP Spring: spring執行流程! # 1、什么是SpringMVC Spring MVC是Spring Framework的一部分,是基于Jav ......

    uj5u.com 2023-06-26 07:41:52 more