程式員必須練就的「性能調優」組合拳【2】-有解無憂

性能調優系列前序文章索引：

程式員必須掌握的性能調優：老兵哥結合個人經歷解釋了程式員往架構師方向發展時為什么要跨越性能調優這一關，以及介紹了從 X、Y、Z 三個維度優化性能的思路，
從 X 維度優化系統的性能：老兵哥分享了從 X 維度優化系統性能的思路，包括讓客戶端分計算存盤任務、優化互動設計等，主要是作為引子拓寬我們性能調優的思路，

程式員在轉型架構師的程序中需要建立流程化、結構化、系統化的思維方式，而性能調優是非常難得的貧訓，它既給了我們壓力，也給了我們動力，跨越它就是突破自己的程序，

X 維度，即業務維度，技術始終是服務業務的，任何技術問題的原點就是業務需求，在啟動技術層面的性能優化之前，我們有必要先審視一下業務流程是否合理，互動設計上有沒有可以優化的空間等，
Y 維度，待業務維度優化完畢，接下來就是審視技術在實作當前業務流程或互動設計的全鏈路上有沒有可優化的地方，即 HTTP 請求處理全流程，從瀏覽器到應用容器，再到 Spring、Hibernate、資料庫等，
Z 維度，除了沿著 HTTP 請求的橫向鏈路，我們還要審視支持應用系統的縱向技術堆疊，從上到下包括 JVM、作業系統和硬體等，這是整套應用系統運行的環境，許多性能問題都跟運行環境存在關系，

Y 維度，就是從業務 HTTP 請求的橫向處理流程來看，HTTP 請求會穿越網路、計算機、應用容器（Tomcat）、Spring、ORM（Hibernate）、資料庫等節點，在這個流程中每個節點都有許多可以可優化的地方，今天老兵哥先談談如何通過優化應用容器（Tomcat）來優化系統性能，

建議在閱讀本文內容前，先參考下面這個系列的文章了解 Web 應用是怎樣處理 HTTP 請求的：

圖解 Spring：HTTP 請求的處理流程與機制【1】
圖解 Spring：HTTP 請求的處理流程與機制【2】
圖解 Spring：HTTP 請求的處理流程與機制【3】
圖解 Spring：HTTP 請求的處理流程與機制【4】
圖解 Spring：HTTP 請求的處理流程與機制【5】

2. 應用容器 Tomcat

2.1 啟動引數

作業系統選型，盡可能選擇 64 位作業系統，在 64 位系統上 JVM 記憶體最高可以設定為 3800MB 左右，在 32 位系統上 JVM 記憶體最高可以設定為 1500MB 左右，另外，我們可以根據系統物理記憶體大小合理設定下列五個啟動引數（在檔案 catalina.sh、catalina.bat 中）：

-server -Xms300m -Xmx300m -XX:PermSize=100m -XX:MaxPermSize=100m

通常，引數取值符合規則：-Xms=-Xmx，-XX:PermSize=-XX:MaxPermSize，上述引數經過驗證，可以穩定運行在各種作業系統平臺和 JDK 版本上，通過調參盡可能地壓榨服務器性能，具體場景下的引數取值需要具體分析，基本原則就是不要超過空閑物理記憶體的 80% 即可，如果沒有特殊理由，不要設定上述五個引數之外的 JVM 引數，一者無法保證作業系統平臺的可移植性，二者過度干涉記憶體管理會導致無法預料的后果，

非服務方式啟動的 TOMCAT 調參方式如下：

在 Linux/Unix 系統上，修改 tomcat_home/bin/catalina.sh，添加以下內容：

JAVA_HOME=/export/home/jdk1.6.0_16
JAVA_OPTS="-server -Xms300m -Xmx300m -XX:PermSize=100m -XX:MaxPermSize=100m -Dcom.sun.management.jmxremote"

在 Windows 系統上，修改 tomcat_home/bin/catalina.bat，添加以下內容：

set JAVA_HOME=C:\Program Files\Java\jdk1.6.0_16
set JAVA_OPTS=-server -Xms300m -Xmx300m -XX:PermSize=100m -XX:MaxPermSize=100m -Dcom.sun.management.jmxremote

　　兩者區別：Linux/Unix 不需要 set，但有”“；Windows 需要set，但不能有”“，服務方式啟動的 TOMCAT 調參方式如下，僅限于 Windows 系統：

在 JAVA 選項卡中，設定 JAVA OPTIONS，添加以下三個引數，每行一個，不能并列：

-XX:PermSize=256m
-XX:MaxPermSize=256m
-Dcom.sun.management.jmxremote

設定 Initial memory pool 為 1000MB，
設定 Maximum menory pool 為 1000MB，
不要設定 thread stack size，

2.2 使用 NIO 的 http1.1 超文本傳輸協議

Java 的 IO 操作集中在 java.io 這個包當中，基于阻塞 API（即 BIO，Block IO），對許多應用來說，這樣的 API 使用很方便，但某些對性能要求較高的應用，尤其是服務器端應用，往往需要一個更高效的方式來處理 IO，從 JDK1.4 起，NIO API 作為一個基于緩沖區，并能提供非阻塞 IO 操作的 API（即 NIO，non-blocking IO）被引入，BIO 與 NIO 之間最為重要的不同，就是采用 BIO 往往要引入多執行緒，每個連接分配一個單獨的執行緒；NIO 是使用單執行緒或者只使用少量執行緒，所有連接共用一個執行緒，具體更改方法如下：

打開 Tomcat 的組態檔：$TOMCAT_HOME/conf/server.xml
找到：<Connector port="8080" protocol="http1.1" ...
改為：<Connector port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol"...

2.3 調整執行緒數

Tomcat 可以采用執行緒池來提升回應速度，默認創建 5 個執行緒，最大執行緒數是 200，如果業務并發量較大，則可以對下列幾個引數做些調整，最大執行緒數可以用“同時在線人數 * 用戶每秒操作次數 * 平均操作時間”公式計算：

maxThreads：Tomcat 可創建的最大執行緒數，
acceptCount：如果當前可用執行緒數為 0，則將請求放入處理佇列中，這個值限定了請求佇列的大小，超過這個數值的請求將不予處理，
connectionTimeout：網路連接超時時間，單位毫秒，
minSpareThreads：如果當前沒有空閑執行緒，且沒有超過 maxThreads，一次性創建的空閑執行緒數量，Tomcat 初始化時創建的執行緒數量也由此值設定，
maxSpareThreads：一旦創建的執行緒超過此數值，Tomcat會關閉不再需要的執行緒，

2.4 使用 APR 來增強性能

Tomcat 可以采用 APR（Apache Portable Runtime）提供超強的可伸縮性和性能，更好地集成本地服務器技術，APR 是一個高可移植庫，它是 Apache HTTP Server 2.x 的核心，APR 有很多用途，包括訪問高級 IO 功能（例如：sendfile、epoll、open SSL 等）、OS 級別的功能（亂數生成、系統狀態等）、本地行程管理（共享記憶體、NT 管道、UNIX socket 等），這些功能使 Tomcat 作為 WEB 應用服務器，能更好地與其它本地 Web 技術集成，讓 Tomcat 也可以擔當更高性能的前端 Web 應用服務器，而不是僅僅是后端 Java EE 應用服務器，APR 的具體安裝步驟如下（下載地址：http://apr.apache.org）：

安裝 apr 及 apr-util：

> tar zxvf apr-1.3.8.tar.gz
> cd apr-1.3.8
> ./configure —prefix=/usr/lib/apr
> make
> make install
> tar zxvf apr-util-1.3.9.tar.gz
> cd apr-util-1.3.9
> ./configure —with-apr=/usr/lib/apr
> make
> make install

安裝 tomcat-native.tar.gz，此檔案在目錄 $TOMCAT_HOME/bin 下：

> tar zxvf tomcat-native.tar.gz
> cd tomcat-native-1.1.16-src/jni/native
> ./configure —with-apr=/usr/lib/apr
> make
> make install

在 Tomcat 的啟動檔案（$TOMCAt_HOME/bin/catalina.sh）中加入環境變數：

CATALINA_OPTS=-Djava.library.path=/usr/local/apr/lib

或在作業系統的環境變數（/etc/profile）中添加：

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/apr/lib

重新啟動計算機或使用命令 source /etc/profile 使其即時生效，
查看啟動日志（$TOMCAT_HOME/logs/catalina…….log），如出現如下資訊表示APR啟動成功：

啟動時發現日志中有：

Sep 30, 2019 4:32:55 PM org.apache.coyote.http11.Http11AprProtocol start 
INFO: Starting Coyote HTTP/1.1 on http-8080 
Sep 30, 2019 4:32:55 PM org.apache.coyote.ajp.AjpAprProtocol start 
INFO: Starting Coyote AJP/1.3 on ajp-8009

停止時發現日志中有：

Sep 30, 2019 4:27:06 PM org.apache.coyote.http11.Http11AprProtocol destroy 
INFO: Stopping Coyote HTTP/1.1 on http-8080 
Sep 30, 2019 4:27:06 PM org.apache.coyote.ajp.AjpAprProtocol destroy 
INFO: Stopping Coyote AJP/1.3 on ajp-8009

2.5 集成Web服務器處理靜態內容

作為一個 Jsp/Servlet 容器，Tomcat 本身對靜態 HTML 檔案的處理速度要遠遜于 Apache 等 Web 服務器，通過與此類 Web 服務器集成，Tomcat 僅僅處理動態資源請求，靜態資源請求則交給 Web 服務器處理，這樣可以顯著地降低系統負載，從而提高整體回應的速度，

關注「 IT老兵哥 」，賦能程式人生！堅持原創不易，請小伙伴們不吝點個「贊」哦！推薦軟技能文章，請點擊鏈接：程式員，怎樣打造個人影響力？

近期熱評系列《 程式員必須懂的架構師入門課》：

架構到底是什么，你知道嗎？（閱讀人數：1176）
架構都有哪些，我該怎么選？（閱讀人數：877）
架構師都干什么，你知道嗎？（閱讀人數：1163）
練就哪些技能才勝任架構師？（閱讀人數：1127）
怎樣才能搞定上下游的客戶？（閱讀人數：483）
如何從開發崗轉型做架構師？（閱讀人數：1270）
程式員必須懂的架構入門課（閱讀人數：592）

轉載請註明出處，本文鏈接：https://www.uj5u.com/ruanti/19536.html

標籤：架構設計

上一篇：程式員必須練就的「性能調優」組合拳【1】

下一篇：程式員必須練就的「性能調優」組合拳【3】