文章整理自 博學谷狂野架構師
什么是JMM

并發編程領域的關鍵問題
執行緒之間的通信
執行緒的通信是指執行緒之間以何種機制來交換資訊,在編程中,執行緒之間的通信機制有兩種,共享記憶體和訊息傳遞,
? 在共享記憶體的并發模型里,執行緒之間共享程式的公共狀態,執行緒之間通過寫-讀記憶體中的公共狀態來隱式進行通信,典型的共享記憶體通信方式就是通過共享物件進行通信,
在訊息傳遞的并發模型里,執行緒之間沒有公共狀態,執行緒之間必須通過明確的發送訊息來顯式進行通信,在java中典型的訊息傳遞方式就是wait()和notify(),
執行緒間的同步
同步是指程式用于控制不同執行緒之間操作發生相對順序的機制,
在共享記憶體并發模型里,同步是顯式進行的,程式員必須顯式指定某個方法或某段代碼需要在執行緒之間互斥執行,
? 在訊息傳遞的并發模型里,由于訊息的發送必須在訊息的接收之前,因此同步是隱式進行的,
現代計算機的記憶體模型
物理計算機中的并發問題,物理機遇到的并發問題與虛擬機中的情況有不少相似之處,物理機對并發的處理方案對于虛擬機的實作也有相當大的參考意義,
其中一個重要的復雜性來源是絕大多數的運算任務都不可能只靠處理器“計算”就能完成,處理器至少要與記憶體互動,如讀取運算資料、存盤運算結果等,這個I/O操作是很難消除的(無法僅靠暫存器來完成所有運算任務),
早期計算機中cpu和記憶體的速度是差不多的,但在現代計算機中,cpu的指令速度遠超記憶體的存取速度,由于計算機的存盤設備與處理器的運算速度有幾個數量級的差距,所以現代計算機系統都不得不加入一層讀寫速度盡可能接近處理器運算速度的高速快取(Cache)來作為記憶體與處理器之間的緩沖:將運算需要使用到的資料復制到快取中,讓運算能快速進行,當運算結束后再從快取同步回記憶體之中,這樣處理器就無須等待緩慢的記憶體讀寫了,
基于高速快取的存盤互動很好地解決了處理器與記憶體的速度矛盾,但是也為計算機系統帶來更高的復雜度,因為它引入了一個新的問題:快取一致性(Cache Coherence),
在多處理器系統中,每個處理器都有自己的高速快取,而它們又共享同一主記憶體(MainMemory),當多個處理器的運算任務都涉及同一塊主記憶體區域時,將可能導致各自的快取資料不一致,舉例說明變數在多個CPU之間的共享,
如果真的發生這種情況,那同步回到主記憶體時以誰的快取資料為準呢?為了解決一致性的問題,需要各個處理器訪問快取時都遵循一些協議,在讀寫時要根據協議來進行操作,這類協議有MSI、MESI(Illinois Protocol)、MOSI、Synapse、Firefly及Dragon Protocol等,

該記憶體模型帶來的問題
現代的處理器使用寫緩沖區臨時保存向記憶體寫入的資料,寫緩沖區可以保證指令流水線持續運行,它可以避免由于處理器停頓下來等待向記憶體寫入資料而產生的延遲,
同時,通過以批處理的方式重繪寫緩沖區,以及合并寫緩沖區中對同一記憶體地址的多次寫,減少對記憶體總線的占用,
雖然寫緩沖區有這么多好處,但每個處理器上的寫緩沖區,僅僅對它所在的處理器可見,這個特性會對記憶體操作的執行順序產生重要的影響:處理器對記憶體的讀/寫操作的執行順序,不一定與記憶體實際發生的讀/寫操作順序一致!
? 處理器A和處理器B按程式的順序并行執行記憶體訪問,最終可能得到x=y=0的結果,
處理器A和處理器B可以同時把共享變數寫入自己的寫緩沖區(A1,B1),然后從記憶體中讀取另一個共享變數(A2,B2),最后才把自己寫快取區中保存的臟資料重繪到記憶體中(A3,B3),
當以這種時序執行時,程式就可以得到x=y=0的結果,
? 從記憶體操作實際發生的順序來看,直到處理器A執行A3來重繪自己的寫快取區,寫操作A1才算真正執行了,雖然處理器A執行記憶體操作的順序為:A1→A2,但記憶體操作實際發生的順序卻是A2→A1,
| Processor A | Processor B | |
|---|---|---|
| 代碼 | a=1; //A1 x=1; //A2 | b=2; //B1 y=a; //B2 |
| 運行結果 | 初始狀態 a=b=0 處理器允許得到結果 x=y=0 |

Java記憶體模型定義
JMM定義了Java 虛擬機(JVM)在計算機記憶體(RAM)中的作業方式,JVM是整個計算機虛擬模型,所以JMM是隸屬于JVM的,
從抽象的角度來看,JMM定義了執行緒和主記憶體之間的抽象關系:執行緒之間的共享變數存盤在主記憶體(Main Memory)中,每個執行緒都有一個私有的本地記憶體(Local Memory),本地記憶體中存盤了該執行緒以讀/寫共享變數的副本,
本地記憶體是JMM的一個抽象概念,并不真實存在,它涵蓋了快取、寫緩沖區、暫存器以及其他的硬體和編譯器優化,

Java記憶體區域

Java虛擬機在運行程式時會把其自動管理的記憶體劃分為以上幾個區域,每個區域都有的用途以及創建銷毀的時機,其中藍色部分代表的是所有執行緒共享的資料區域,而紫色部分代表的是每個執行緒的私有資料區域,
方法區
方法區屬于執行緒共享的記憶體區域,又稱Non-Heap(非堆),主要用于存盤已被虛擬機加載的類資訊、常量、靜態變數、即時編譯器編譯后的代碼等資料,根據Java 虛擬機規范的規定,當方法區無法滿足記憶體分配需求時,將拋出OutOfMemoryError 例外,
值得注意的是在方法區中存在一個叫運行時常量池(Runtime Constant Pool)的區域,它主要用于存放編譯器生成的各種字面量和符號參考,這些內容將在類加載后存放到運行時常量池中,以便后續使用,
JVM堆
Java 堆也是屬于執行緒共享的記憶體區域,它在虛擬機啟動時創建,是Java 虛擬機所管理的記憶體中最大的一塊,主要用于存放物件實體,幾乎所有的物件實體都在這里分配記憶體,注意Java 堆是垃圾收集器管理的主要區域,因此很多時候也被稱做GC 堆,如果在堆中沒有記憶體完成實體分配,并且堆也無法再擴展時,將會拋出OutOfMemoryError 例外,
程式計數器
屬于執行緒私有的資料區域,是一小塊記憶體空間,主要代表當前執行緒所執行的位元組碼行號指示器,位元組碼解釋器作業時,通過改變這個計數器的值來選取下一條需要執行的位元組碼指令,分支、回圈、跳轉、例外處理、執行緒恢復等基礎功能都需要依賴這個計數器來完成,
虛擬機堆疊
屬于執行緒私有的資料區域,與執行緒同時創建,總數與執行緒關聯,代表Java方法執行的記憶體模型,每個方法執行時都會創建一個堆疊楨來存盤方法的的變數表、運算元堆疊、動態鏈接方法、回傳值、回傳地址等資訊,每個方法從呼叫直結束就對于一個堆疊楨在虛擬機堆疊中的入堆疊和出堆疊程序,如下(圖有誤,應該為堆疊楨):
本地方法堆疊
本地方法堆疊屬于執行緒私有的資料區域,這部分主要與虛擬機用到的 Native 方法相關,一般情況下,我們無需關心此區域,
小結
這里之所以簡要說明這部分內容,注意是為了區別Java記憶體模型與Java記憶體區域的劃分,畢竟這兩種劃分是屬于不同層次的概念,
Java記憶體模型概述
Java記憶體模型(即Java Memory Model,簡稱JMM)本身是一種抽象的概念,并不真實存在,它描述的是一組規則或規范,通過這組規范定義了程式中各個變數(包括實體欄位,靜態欄位和構成陣列物件的元素)的訪問方式,
由于JVM運行程式的物體是執行緒,而每個執行緒創建時JVM都會為其創建一個作業記憶體(有些地方稱為堆疊空間),用于存盤執行緒私有的資料,而Java記憶體模型中規定所有變數都存盤在主記憶體,主記憶體是共享記憶體區域,
所有執行緒都可以訪問,但執行緒對變數的操作(讀取賦值等)必須在作業記憶體中進行,首先要將變數從主記憶體拷貝的自己的作業記憶體空間,然后對變數進行操作,操作完成后再將變數寫回主記憶體,不能直接操作主記憶體中的變數,作業記憶體中存盤著主記憶體中的變數副本拷貝,
前面說過,作業記憶體是每個執行緒的私有資料區域,因此不同的執行緒間無法訪問對方的作業記憶體,執行緒間的通信(傳值)必須通過主記憶體來完成,其簡要訪問程序如下圖

需要注意的是,JMM與Java記憶體區域的劃分是不同的概念層次,更恰當說JMM描述的是一組規則,通過這組規則控制程式中各個變數在共享資料區域和私有資料區域的訪問方式,JMM是圍繞原子性,有序性、可見性展開的(稍后會分析),
JMM與Java記憶體區域唯一相似點,都存在共享資料區域和私有資料區域,在JMM中主記憶體屬于共享資料區域,從某個程度上講應該包括了堆和方法區,而作業記憶體資料執行緒私有資料區域,從某個程度上講則應該包括程式計數器、虛擬機堆疊以及本地方法堆疊,
或許在某些地方,我們可能會看見主記憶體被描述為堆記憶體,作業記憶體被稱為執行緒堆疊,實際上他們表達的都是同一個含義,關于JMM中的主記憶體和作業記憶體說明如下
主記憶體
主要存盤的是Java實體物件,所有執行緒創建的實體物件都存放在主記憶體中,不管該實體物件是成員變數還是方法中的本地變數(也稱區域變數),當然也包括了共享的類資訊、常量、靜態變數,
由于是共享資料區域,多條執行緒對同一個變數進行訪問可能會發現執行緒安全問題,
作業記憶體
主要存盤當前方法的所有本地變數資訊(作業記憶體中存盤著主記憶體中的變數副本拷貝),每個執行緒只能訪問自己的作業記憶體,即執行緒中的本地變數對其它執行緒是不可見的,就算是兩個執行緒執行的是同一段代碼,它們也會各自在自己的作業記憶體中創建屬于當前執行緒的本地變數,當然也包括了位元組碼行號指示器、相關Native方法的資訊,
注意由于作業記憶體是每個執行緒的私有資料,執行緒間無法相互訪問作業記憶體,因此存盤在作業記憶體的資料不存在執行緒安全問題,
資料同步
弄清楚主記憶體和作業記憶體后,接了解一下主記憶體與作業記憶體的資料存盤型別以及操作方式,根據虛擬機規范,對于一個實體物件中的成員方法而言,如果方法中包含本地變數是基本資料型別(boolean,byte,short,char,int,long,float,double),將直接存盤在作業記憶體的幀堆疊結構中,但倘若本地變數是參考型別,那么該變數的參考會存盤在功能記憶體的幀堆疊中,而物件實體將存盤在主記憶體(共享資料區域,堆)中,
但對于實體物件的成員變數,不管它是基本資料型別或者包裝型別(Integer、Double等)還是參考型別,都會被存盤到堆區,
至于static變數以及類本身相關資訊將會存盤在主記憶體中,需要注意的是,在主記憶體中的實體物件可以被多執行緒共享,倘若兩個執行緒同時呼叫了同一個物件的同一個方法,那么兩條執行緒會將要操作的資料拷貝一份到自己的作業記憶體中,執行完成操作后才重繪到主記憶體,簡單示意圖如下所示:

硬體記憶體架構與Java記憶體模型
硬體記憶體架構

正如上圖所示,經過簡化CPU與記憶體操作的簡易圖,實際上沒有這么簡單,這里為了理解方便,我們省去了南北橋并將三級快取統一為CPU快取(有些CPU只有二級快取,有些CPU有三級快取),
就目前計算機而言,一般擁有多個CPU并且每個CPU可能存在多個核心,多核是指在一枚處理器(CPU)中集成兩個或多個完整的計算引擎(內核),這樣就可以支持多任務并行執行,從多執行緒的調度來說,每個執行緒都會映射到各個CPU核心中并行運行,
在CPU內部有一組CPU暫存器,暫存器是cpu直接訪問和處理的資料,是一個臨時放資料的空間,一般CPU都會從記憶體取資料到暫存器,然后進行處理,但由于記憶體的處理速度遠遠低于CPU,導致CPU在處理指令時往往花費很多時間在等待記憶體做準備作業
于是在暫存器和主記憶體間添加了CPU快取,CPU快取比較小,但訪問速度比主記憶體快得多,如果CPU總是操作主記憶體中的同一址地的資料,很容易影響CPU執行速度,此時CPU快取就可以把從記憶體提取的資料暫時保存起來,如果暫存器要取記憶體中同一位置的資料,直接從快取中提取,無需直接從主記憶體取,
需要注意的是,暫存器并不每次資料都可以從快取中取得資料,萬一不是同一個記憶體地址中的資料,那暫存器還必須直接繞過快取從記憶體中取資料,
所以并不每次都得到快取中取資料,這種現象有個專業的名稱叫做快取的命中率,從快取中取就命中,不從快取中取從記憶體中取,就沒命中,可見快取命中率的高低也會影響CPU執行性能,這就是CPU、快取以及主記憶體間的簡要互動程序,
總而言之當一個CPU需要訪問主存時,會先讀取一部分主存資料到CPU快取(當然如果CPU快取中存在需要的資料就會直接從快取獲取),進而在讀取CPU快取到暫存器,當CPU需要寫資料到主存時,同樣會先重繪暫存器中的資料到CPU快取,然后再把資料重繪到主記憶體中,
Java執行緒與硬體處理器
了解完硬體的記憶體架構后,接著了解JVM中執行緒的實作原理,理解執行緒的實作原理,有助于我們了解Java記憶體模型與硬體記憶體架構的關系,在Window系統和Linux系統上,Java執行緒的實作是基于一對一的執行緒模型,所謂的一對一模型,實際上就是通過語言級別層面程式去間接呼叫系統內核的執行緒模型,即我們在使用Java執行緒時,Java虛擬機內部是轉而呼叫當前作業系統的內核執行緒來完成當前任務,
這里需要了解一個術語,內核執行緒(Kernel-Level Thread,KLT),它是由作業系統內核(Kernel)支持的執行緒,這種執行緒是由作業系統內核來完成執行緒切換,內核通過操作調度器進而對執行緒執行調度,并將執行緒的任務映射到各個處理器上,每個內核執行緒可以視為內核的一個分身,這也就是作業系統可以同時處理多任務的原因,
由于我們撰寫的多執行緒程式屬于語言層面的,程式一般不會直接去呼叫內核執行緒,取而代之的是一種輕量級的行程(Light Weight Process),也是通常意義上的執行緒,由于每個輕量級行程都會映射到一個內核執行緒,因此我們可以通過輕量級行程呼叫內核執行緒,進而由作業系統內核將任務映射到各個處理器,這種輕量級行程與內核執行緒間1對1的關系就稱為一對一的執行緒模型,如下圖

如圖所示,每個執行緒最終都會映射到CPU中進行處理,如果CPU存在多核,那么一個CPU將可以并行執行多個執行緒任務,
Java記憶體模型與硬體記憶體架構的關系
通過對前面的硬體記憶體架構、Java記憶體模型以及Java多執行緒的實作原理的了解,我們應該已經意識到,多執行緒的執行最終都會映射到硬體處理器上進行執行,但Java記憶體模型和硬體記憶體架構并不完全一致,
對于硬體記憶體來說只有暫存器、快取記憶體、主記憶體的概念,并沒有作業記憶體(執行緒私有資料區域)和主記憶體(堆記憶體)之分,也就是說Java記憶體模型對記憶體的劃分對硬體記憶體并沒有任何影響,因為JMM只是一種抽象的概念,是一組規則,并不實際存在,
不管是作業記憶體的資料還是主記憶體的資料,對于計算機硬體來說都會存盤在計算機主記憶體中,當然也有可能存盤到CPU快取或者暫存器中,因此總體上來說,Java記憶體模型和計算機硬體記憶體架構是一個相互交叉的關系,是一種抽象概念劃分與真實物理硬體的交叉,(注意對于Java記憶體區域劃分也是同樣的道理)

當物件和變數可以存盤在計算機的各種不同存盤區域中時,可能會出現某些問題,兩個主要問題是:
- 執行緒更新(寫入)共享變數的可見性,
- 讀取,檢查和寫入共享變數時的競爭條件,
共享物件的可見性
如果兩個或多個執行緒共享一個物件,而沒有正確使用 volatile 宣告或同步,則一個執行緒對共享物件的更改對于在其他CPU上運行的執行緒是不可見的,
這樣,每個執行緒最終都可能擁有自己的共享物件副本,每個副本都位于不同的CPU快取中,并且其中的內容不相同,
下圖簡單說明了情況,在左邊CPU上運行的一個執行緒將共享物件復制到其CPU快取中,并將其 count 變數更改為2,此更改對于在CPU上運行的其他執行緒不可見,因為count的更新尚未重繪回主記憶體,

要解決此問題,您可以使用Java的volatile關鍵字,volatile 關鍵字可以確保變數從主記憶體中直接讀取而不是從快取中,并且更新的時候總是立即寫回主記憶體,
競爭條件
如果兩個或多個執行緒共享一個物件,并且多個執行緒更新該共享物件中的成員變數,則可能會出現競爭條件,
想象一下,如果執行緒A將共享物件的變數count讀入其CPU快取中,再想象一下,執行緒B也做了同樣的事情,但是進入到了不同的CPU快取,現在執行緒A添加一個值到count,執行緒B執行相同的操作,現在var1已經增加了兩次,每次CPU快取一次,
如果這些增加操作按順序執行,則變數count將增加兩次并將”原始值+ 2”后產生的新值寫回主存盤器,
但是,兩個增加操作同時執行卻沒有進行適當的同步,無論執行緒A和B中的哪一個將其更新版本count寫回主到存盤器,更新的值將僅比原始值多1,盡管有兩個增加操作,
該圖說明了如上所述的競爭條件問題的發生:

要解決此問題,您可以使用Java synchronized塊,同步塊保證在任何給定時間只有一個執行緒可以進入代碼的臨界區,同步塊還保證在同步塊內訪問的所有變數都將從主存盤器中讀入,當執行緒退出同步塊時,所有更新的變數將再次重繪回主存盤器,無論變數是否宣告為volatile,
JMM存在的必要性
在明白了Java記憶體區域劃分、硬體記憶體架構、Java多執行緒的實作原理與Java記憶體模型的具體關系后,接著來談談Java記憶體模型存在的必要性,
由于JVM運行程式的物體是執行緒,而每個執行緒創建時JVM都會為其創建一個作業記憶體(有些地方稱為堆疊空間),用于存盤執行緒私有的資料,執行緒與主記憶體中的變數操作必須通過作業記憶體間接完成,主要程序是將變數從主記憶體拷貝的每個執行緒各自的作業記憶體空間,然后對變數進行操作,操作完成后再將變數寫回主記憶體,如果存在兩個執行緒同時對一個主記憶體中的實體物件的變數進行操作就有可能誘發執行緒安全問題,
如下圖,主記憶體中存在一個共享變數x,現在有A和B兩條執行緒分別對該變數x=1進行操作,A/B執行緒各自的作業記憶體中存在共享變數副本x,
假設現在A執行緒想要修改x的值為2,而B執行緒卻想要讀取x的值,那么B執行緒讀取到的值是A執行緒更新后的值2還是更新前的值1呢?答案是,不確定,即B執行緒有可能讀取到A執行緒更新前的值1,也有可能讀取到A執行緒更新后的值2,這是因為作業記憶體是每個執行緒私有的資料區域,而執行緒A變數x時,
首先是將變數從主記憶體拷貝到A執行緒的作業記憶體中,然后對變數進行操作,操作完成后再將變數x寫回主內,而對于B執行緒的也是類似的,這樣就有可能造成主記憶體與作業記憶體間資料存在一致性問題,假如A執行緒修改完后正在將資料寫回主記憶體,而B執行緒此時正在讀取主記憶體,即將x=1拷貝到自己的作業記憶體中,
這樣B執行緒讀取到的值就是x=1,但如果A執行緒已將x=2寫回主記憶體后,B執行緒才開始讀取的話,那么此時B執行緒讀取到的就是x=2,但到底是哪種情況先發生呢?這是不確定的,這也就是所謂的執行緒安全問題,

為了解決類似上述的問題,JVM定義了一組規則,通過這組規則來決定一個執行緒對共享變數的寫入何時對另一個執行緒可見,這組規則也稱為Java記憶體模型(即JMM),JMM是圍繞著程式執行的原子性、有序性、可見性展開的,下面我們看看這三個特性,
本文由
傳智教育博學谷狂野架構師教研團隊發布,如果本文對您有幫助,歡迎
關注和點贊;如果您有任何建議也可留言評論或私信,您的支持是我堅持創作的動力,轉載請注明出處!
轉載請註明出處,本文鏈接:https://www.uj5u.com/houduan/544556.html
標籤:Java
