主頁 > 移動端開發 > Cache Line對資料讀寫性能的影響

Cache Line對資料讀寫性能的影響

2020-10-06 22:59:05 移動端開發

文章目錄

  • 多級快取-填補記憶體讀寫速度與CPU計算速度的鴻溝
  • 區域性原理與Cache Line
  • 偽共享
    • 對齊填充
    • @Contended
    • 備注
  • 尾巴

對于一個程式來說,幾乎所有的計算任務都不可能僅通過CPU的計算就可以完成,它至少要和記憶體打交道:讀取運算資料、寫入運算結果,

現代CPU的算力已經十分強大,相比之下存盤設備的IO讀寫速度卻發展的十分緩慢,通常情況下,記憶體每完成一次讀寫操作,CPU已經可以進行上百次的運算,為了填補兩者速度上的鴻溝,現代CPU不得不加入一層或多層讀寫速度接近于CPU處理速度的高速快取Cache,CPU會將計算需要的資料讀取到快取中,讓計算可以快速進行,當計算結束后,再將計算結果統一寫回到主存中,這樣CPU就不需要緩慢的等待記憶體讀寫了,

多級快取-填補記憶體讀寫速度與CPU計算速度的鴻溝

筆者畫了一個簡圖,大概表示現代CPU的快取架構,如下:
在這里插入圖片描述
各級快取的讀寫速度如下:

快取時鐘周期(大約)時間(大約)
主存-80ns
L34015ns
L2103ns
L13~41ns
暫存器1-

越靠近CPU的快取讀寫速度越快,相應的 容量越小、且成本越高,
當CPU需要讀取資料時,首先從最近的快取開始找,找不到就逐層往上尋找,如果命中快取,就無需再從主存中去讀取,直接拿來計算,反之從主存中加載資料并依次寫入多級快取中,下次就可以直接從快取中讀資料了,

區域性原理與Cache Line

CPU訪問存盤器時,無論是存取指令還是存取資料,所訪問的存盤單元都趨于聚集在一個較小的連續區域中,

  • 當我們需要從記憶體中讀取一個int變數i的值時,CPU真的只會僅僅將這個4位元組的i加載到快取嗎?
    答案是:NO!!!

當我們去讀取一個4位元組的int變數時,計算機認為程式接下來很大概率會訪問相鄰的資料,于是會把相鄰的資料給一塊兒加載到快取中,下次再讀取時,就不用訪問主存了,直接從快取中讀取就可以了,減少了CPU訪問主存的次數,提高快取的命中率,

說白了,CPU讀取資料時,總是會一個塊一個塊的讀,哪怕你需要的僅僅是1個位元組的資料,這個【塊】就被稱為【Cache Line】,
不同的CPU,Cache Line大小是不一樣的,Intel的CPU大部分都是64位元組,

多級快取就是由若干個Cache Line組成的,CPU每次從主存中拉取資料時,會把相鄰的資料也存入同一個Cache Line,

如下測驗代碼,各自讀取一千萬次資料,Cache Line失效的耗時11ms,能很好的利用Cache Line特性的只需要3ms,

public class CacheLine {
	static int length = 8 * 10000000;
	static long[] arr = new long[length];

	public static void main(String[] args) {
		long temp;// 無特殊含義,讀取出來的資料賦值

		// 1.每次讀取都跳8個,下次讀取的資料一定不在上次讀取的Cache Line中,快取全部未命中
		long start = System.currentTimeMillis();
		for (int i = 0; i < length; i += 8) {
			temp = arr[i];
		}
		long end = System.currentTimeMillis();
		System.out.println(end - start);// 11ms

		// 2.順序讀取,Cache Line生效,只讀前8分之1的資料
		start = System.currentTimeMillis();
		for (int i = 0; i < length / 8; i++) {
			temp = arr[i];
		}
		end = System.currentTimeMillis();
		System.out.println(end - start);// 3ms
	}
}

偽共享

當多個執行緒去同時讀寫共享變數時,由于快取一致性協議,只要Cache Line中任一資料失效,整個Cache Line就會被置為失效,這就會導致本來相互不影響的資料,由于被分配在同一個Cache Line中,雙方在寫資料時,導致對方的Cache Line不斷失效,無法利用Cache Line快取特性的現象就被稱為【偽共享】,

如下代碼,啟動兩個執行緒,分別修改共享變數a和b,由于a個b一共占用16位元組,可以被分配進同一個Cache Line中,本來互相不影響的兩個執行緒修改資料,但是由于a個b被分配到同一個Cache Line中,導致對方的Cache Line不斷失效,不斷的重新發起load指令重主存中重新加載資料,降低程式的性能,

public class FalseShare {
	static volatile long a;
	static volatile long b;

	public static void main(String[] args) throws InterruptedException {
		CountDownLatch cdl = new CountDownLatch(2);

		long t1 = System.currentTimeMillis();
		new Thread(()->{
			for (long i = 0; i < 1_0000_0000L; i++) {
				// 執行緒只改a
				FalseShare.a = i;
			}
			cdl.countDown();
		}).start();
		
		new Thread(()->{
			for (long i = 0; i < 1_0000_0000L; i++) {
				// 執行緒只改b
				FalseShare.b = i;
			}
			cdl.countDown();
		}).start();
		cdl.await();
		long t2 = System.currentTimeMillis();
		System.err.println(t2 - t1);
	}
}

程式運行結果:耗時2782ms,

對齊填充

要想解決上面的偽共享問題也很簡單,既然一個Cache Line存放64位元組的資料,只要在a和b變數之間填充7個無意義的Long變數,占滿64位元組,這樣a和b就無法被分配進同一個Cache Line中,執行緒之間修改資料互不影響,就沒有上面的問題了,

解決方法如下:
在這里插入圖片描述
程式運行結果:耗時752ms,

@Contended

Cache Line對齊其實是一種比較low的解決辦法,因為你無法判斷你寫的程式會被放到哪種CPU上運行,不同的CPU它的Cache Line大小是不一樣的,如果超過了64位元組,填充7個long變數就沒有效果了,還有沒有更好的解決辦法呢???

JDK8引入了一個新的注解@Contended,被它修飾的變數,會被存放到一個單獨的Cache Line中,不會和其他變數共享Cache Line,

修改后如下:
在這里插入圖片描述
程式運行結果:耗時744ms,Cache Line是生效的,

備注

JDK8的老版本中@Contended默認是禁用的,需要手動開啟:-XX:-RestrictContended,筆者的JDK版本為【1.8.0_191】-XX:-RestrictContended引數已經沒有用了,默認都會開啟對@Contended注解的支持,

尾巴

理解硬體設計對撰寫高性能程式是有必要的!!!

轉載請註明出處,本文鏈接:https://www.uj5u.com/yidong/160241.html

標籤:其他

上一篇:演算法-二分法

下一篇:從0開始實作SpringBoot入門程式及踩坑指南

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【從零開始擼一個App】Dagger2

    Dagger2是一個IOC框架,一般用于Android平臺,第一次接觸的朋友,一定會被搞得暈頭轉向。它延續了Java平臺Spring框架代碼碎片化,注解滿天飛的傳統。嘗試將各處代碼片段串聯起來,理清思緒,真不是件容易的事。更不用說還有各版本細微的差別。 與Spring不同的是,Spring是通過反射 ......

    uj5u.com 2020-09-10 06:57:59 more
  • Flutter Weekly Issue 66

    新聞 Flutter 季度調研結果分享 教程 Flutter+FaaS一體化任務編排的思考與設計 詳解Dart中如何通過注解生成代碼 GitHub 用對了嗎?Flutter 團隊分享如何管理大型開源專案 插件 flutter-bubble-tab-indicator A Flutter librar ......

    uj5u.com 2020-09-10 06:58:52 more
  • Proguard 常用規則

    介紹 Proguard 入口,如何查看輸出,如何使用 keep 設定入口以及使用實體,如何配置壓縮,混淆,校驗等規則。

    ......

    uj5u.com 2020-09-10 06:59:00 more
  • Android 開發技術周報 Issue#292

    新聞 Android即將獲得類AirDrop功能:可向附近設備快速分享檔案 谷歌為安卓檔案管理應用引入可安全隱藏資料的Safe Folder功能 Android TV新主界面將顯示電影、電視節目和應用推薦內容 泄露的Android檔案暗示了傳說中的谷歌Pixel 5a與折疊屏新機 谷歌發布Andro ......

    uj5u.com 2020-09-10 07:00:37 more
  • AutoFitTextureView Error inflating class

    報錯: Binary XML file line #0: Binary XML file line #0: Error inflating class xxx.AutoFitTextureView 解決: <com.example.testy2.AutoFitTextureView android: ......

    uj5u.com 2020-09-10 07:00:41 more
  • 根據Uri,Cursor沒有獲取到對應的屬性

    Android: 背景:呼叫攝像頭,拍攝視頻,指定保存的地址,但是回傳的Cursor檔案,只有名稱和大小的屬性,沒有其他諸如時長,連ID屬性都沒有 使用 cursor.getInt(cursor.getColumnIndexOrThrow(MediaStore.Video.Media.DURATIO ......

    uj5u.com 2020-09-10 07:00:44 more
  • Android連載29-持久化技術

    一、持久化技術 我們平時所使用的APP產生的資料,在記憶體中都是瞬時的,會隨著斷電、關機等丟失資料,因此android系統采用了持久化技術,用于存盤這些“瞬時”資料 持久化技術包括:檔案存盤、SharedPreference存盤以及資料庫存盤,還有更復雜的SD卡記憶體儲。 二、檔案存盤 最基本存盤方式, ......

    uj5u.com 2020-09-10 07:00:47 more
  • Android Camera2Video整合到自己專案里

    背景: Android專案里呼叫攝像頭拍攝視頻,原本使用的 MediaStore.ACTION_VIDEO_CAPTURE, 后來因專案需要,改成了camera2 1.Camera2Video 官方demo有點問題,下載后,不能直接整合到專案 問題1.多次拍攝視頻崩潰 問題2.雙擊record按鈕, ......

    uj5u.com 2020-09-10 07:00:50 more
  • Android 開發技術周報 Issue#293

    新聞 谷歌為Android TV開發者提供多種新功能 Android 11將自動填表功能整合到鍵盤輸入建議中 谷歌宣布Android Auto即將支持更多的導航和數字停車應用 谷歌Pixel 5只有XL版本 搭載驍龍765G且將比Pixel 4更便宜 [圖]Wear OS將迎來重磅更新:應用啟動時間 ......

    uj5u.com 2020-09-10 07:01:38 more
  • 海豚星空掃碼投屏 Android 接收端 SDK 集成 六步驟

    掃碼投屏,開放網路,獨占設備,不需要額外下載軟體,微信掃碼,發現設備。支持標準DLNA協議,支持倍速播放。視頻,音頻,圖片投屏。好點意思。還支持自定義基于 DLNA 擴展的操作動作。好像要收費,沒體驗。 這里簡單記錄一下集成程序。 一 跟目錄的build.gradle添加私有mevan倉庫 mave ......

    uj5u.com 2020-09-10 07:01:43 more
最新发布
  • 歡迎頁輪播影片

    如圖,引導開始,球從上落下,同時淡入文字,然后文字開始輪播,最后一頁時停止,點擊進入首頁。 在來看看效果圖。 重力球先不講,主要歡迎輪播簡單實作 首先新建一個類 TextTranslationXGuideView,用于影片展示 文本是類似的,最后會有個圖片箭頭影片,布局很簡單,就是一個 TextVi ......

    uj5u.com 2023-04-20 08:40:31 more
  • 【FAQ】關于華為推送服務因營銷訊息頻次管控導致服務通訊類訊息

    一. 問題描述 使用華為推送服務下發IM訊息時,下發訊息請求成功且code碼為80000000,但是手機總是收不到訊息; 在華為推送自助分析(Beta)平臺查看發現,訊息發送觸發了頻控。 二. 問題原因及背景 2023年1月05日起,華為推送服務對咨詢營銷類訊息做了單個設備每日推送數量上限管理,具體 ......

    uj5u.com 2023-04-20 08:40:11 more
  • 歡迎頁輪播影片

    如圖,引導開始,球從上落下,同時淡入文字,然后文字開始輪播,最后一頁時停止,點擊進入首頁。 在來看看效果圖。 重力球先不講,主要歡迎輪播簡單實作 首先新建一個類 TextTranslationXGuideView,用于影片展示 文本是類似的,最后會有個圖片箭頭影片,布局很簡單,就是一個 TextVi ......

    uj5u.com 2023-04-20 08:39:36 more
  • 【FAQ】關于華為推送服務因營銷訊息頻次管控導致服務通訊類訊息

    一. 問題描述 使用華為推送服務下發IM訊息時,下發訊息請求成功且code碼為80000000,但是手機總是收不到訊息; 在華為推送自助分析(Beta)平臺查看發現,訊息發送觸發了頻控。 二. 問題原因及背景 2023年1月05日起,華為推送服務對咨詢營銷類訊息做了單個設備每日推送數量上限管理,具體 ......

    uj5u.com 2023-04-20 08:39:13 more
  • iOS從UI記憶體地址到讀取成員變數(oc/swift)

    開發除錯時,我們發現bug時常首先是從UI顯示發現例外,下一步才會去定位UI相關連的資料的。XCode有給我們提供一系列debug工具,但是很多人可能還沒有形成一套穩定的除錯流程,因此本文嘗試解決這個問題,順便提出一個暴論:UI顯示例外問題只需要兩個步驟就能完成定位作業的80%: 定位例外 UI 組 ......

    uj5u.com 2023-04-19 09:16:23 more
  • FIDE重磅更新!性能飛躍!體驗有禮!

    FIDE 開發者工具重構升級啦!實作500%性能提升,誠邀體驗! 一直以來不少開發者朋友在社區反饋,在使用 FIDE 工具的程序中,時常會遇到諸如加載不及時、代碼預覽/渲染性能不如意的情況,十分影響開發體驗。 作為技術團隊,我們深知一件趁手的開發工具對開發者的重要性,因此,在2023年開年,FinC ......

    uj5u.com 2023-04-19 09:16:15 more
  • 游戲內嵌社區服務開放,助力開發者提升玩家互動與留存

    華為 HMS Core 游戲內嵌社區服務提供快速訪問華為游戲中心論壇能力,支持玩家直接在游戲內瀏覽帖子和交流互動,助力開發者擴展內容生產和觸達的場景。 一、為什么要游戲內嵌社區? 二、游戲內嵌社區的典型使用場景 1、游戲內打開論壇 您可以在游戲內繪制論壇入口,為玩家提供沉浸式發帖、瀏覽、點贊、回帖、 ......

    uj5u.com 2023-04-19 09:15:46 more
  • iOS從UI記憶體地址到讀取成員變數(oc/swift)

    開發除錯時,我們發現bug時常首先是從UI顯示發現例外,下一步才會去定位UI相關連的資料的。XCode有給我們提供一系列debug工具,但是很多人可能還沒有形成一套穩定的除錯流程,因此本文嘗試解決這個問題,順便提出一個暴論:UI顯示例外問題只需要兩個步驟就能完成定位作業的80%: 定位例外 UI 組 ......

    uj5u.com 2023-04-19 09:14:53 more
  • FIDE重磅更新!性能飛躍!體驗有禮!

    FIDE 開發者工具重構升級啦!實作500%性能提升,誠邀體驗! 一直以來不少開發者朋友在社區反饋,在使用 FIDE 工具的程序中,時常會遇到諸如加載不及時、代碼預覽/渲染性能不如意的情況,十分影響開發體驗。 作為技術團隊,我們深知一件趁手的開發工具對開發者的重要性,因此,在2023年開年,FinC ......

    uj5u.com 2023-04-19 09:14:08 more
  • 游戲內嵌社區服務開放,助力開發者提升玩家互動與留存

    華為 HMS Core 游戲內嵌社區服務提供快速訪問華為游戲中心論壇能力,支持玩家直接在游戲內瀏覽帖子和交流互動,助力開發者擴展內容生產和觸達的場景。 一、為什么要游戲內嵌社區? 二、游戲內嵌社區的典型使用場景 1、游戲內打開論壇 您可以在游戲內繪制論壇入口,為玩家提供沉浸式發帖、瀏覽、點贊、回帖、 ......

    uj5u.com 2023-04-19 09:08:34 more