Tomcat 調優測試

測試環境：

OS: Ubuntu14.04 64位 (運行在Docker1.9)

CPU: Intel i3 雙核四線程

Mem: 8G

Tomcat版本: Tomcat8.5

Java SDK版本: JDK 8

測試軟件: Apache JMeter 2.8

測試說明：

測試代碼為接受一個http請求,返回一個String變量s.

該變量初始化為””, 循環10000次,每次添加內容”test\n”

public class Test extends HttpServlet { @Override public void doGet(HttpServletRequest request, HttpServletResponse response) throws IOException{ StringBuffer ret = new StringBuffer(); for(int i=0;i < 10000; i++) { ret.append(String.valueOf(i) + " test\n"); } PrintWriter printWriter = response.getWriter(); printWriter.println(ret); }}

採用JMeter模擬5000個(用戶),在10s內對該接口不斷髮起Get請求,並循環10次.

最後統計結果.

對每個配置的修改都會關閉並重啟tomcat

調優方式一 : 修改…/bin/catalina.sh(啟動時優化)

Windows下為catalina.bat

• 添加參數:

export JAVA_OPTS=”-server”

• 作用:tomcat默認以java –client方式運行, 添加”server”參數將tomcat切換為生產模式,使得tomcat能支持更高的併發數和吞吐量.
• 測試結果:
• 修改前:

• 
  
• 修改後:

• 
  
• 總結:
• 最大併發數和吞吐量有明顯的提升.
• 添加參數:

export JAVA_OPTS=”-server -Xms256M -Xmx256M”

• 作用:Xms參數表示初始堆的大小，也是堆大小的最小值，默認值是總共的物理內存1/64, 且小於1G(下面是-Xmx同), Xmx參數表示堆的最大值.在本機中這個參數的值大約為128m.這裡將其擴大一倍.正常情況下應當將這個參數的數值設置為相同.還有另外一些參數,如Xss,表示每個線程的棧內存,默認為1M,但經過查閱資料表明這些參數一般情況下不需要改動.即增加堆內存是提高tomcat內存性能最好最安全的做法.
• 測試結果:

• 
  
• 總結:
• 對比上個參數,可以明顯看到併發請求的平均值,中值都有2-3倍的提升,最大值和吞吐率出現了下降.個人猜測吞吐率的下降是因為在吞吐量一定的情況下,每秒併發數的提高拉低了該數值.併發最大值的降低,平均值的升高表明在此配置下系統的處理能力已經有了提高,並且穩定性也得到提升.
• 添加參數:

export JAVA_OPTS=”-server -Xms512M -Xmx512M”

• 作用: 在上條參數的基礎上,將堆內存起始值和最大值都提高一倍
• 測試結果:

• 
  
• 總結:
• 併發平均數和吞吐率變化不大,但併發最大值提升2倍左右.
• 測試代碼按最少的字節算,處理單個用戶請求需要50000bytes,在本測試中模擬的用戶數是5000,即使5000用戶併發處理,所需內存也只在200MB這個級別,所以堆內存設置為512MB與256MB,某些數據項可能已經遇到瓶頸.
• 添加參數:

export JAVA_OPTS=”-server -Xms512M -Xmx512M -XX:+AggressiveOpts”

• 作用: -XX:+AggressiveOpts表示每當JDK版本升級時，你的JVM都會使用最新加入的優化技術（如果有的話）.建議加上,但也要注意若升級JDK版本後系統出現意外情況,應該對該參數的影響進行測試.
• 添加參數:

export JAVA_OPTS=”-server -Xms512M -Xmx512M -XX:+AggressiveOpts -XX:+UseBiasedLocking”

• 作用: 啟用一個優化的線程鎖.對於tomcat來說,每個http請求都會啟用線程,啟動該線程鎖可以讓tomcat對線程進行最優調配.
• 測試結果:

• 
  
• 總結:
• 除了吞吐率其他都降得很厲害.個人猜測因為本次測試代碼並不複雜,如果是執行復雜的業務邏輯可能優化效果會比較明顯,尤其是設計到當業務的計算量相差較大時.
• 添加參數:

export JAVA_OPTS=”-server -Xms512M -Xmx512M -XX:+AggressiveOpts -XX:+UseBiasedLocking -XX:+DisableExplicitGC”

• 作用: 禁止顯示調用System.gc().若在代碼中顯示調用System.gc()讓JVM進行垃圾回收,會極大降低系統響應時間.

調優方式二: 更改…/confrver.xml (容器內優化)

在server.xml內定位到標籤,以下的內容均值在該標籤中修改內容

• 添加參數:

URIEncoding=”UTF-8”

• 作用: 使得tomcat可以解析含有中文名的文件的url
• 添加參數

protocol=”org.apache.coyote.http11.Http11Nio2Protocol”

若tomcat為8可改為上面的參數,若為tomcat6建議改為”org.apache.coyote.http11.Http11NioProtocol”

• 添加參數

enableLookups=”false”

• 添加參數

acceptCount=”1000”

• 指定當所有可以使用的處理請求的線程數都被使用時，可以放到處理隊列中的請求數，超過這個數的請求將不予處理，默認設置 100.這裡設置為1000
• 添加參數

maxThreads=”5000”

• 最大併發數，默認設置 200,這裡設置為JMeter中的模擬請求數5000
• 測試結果:
• 將上述幾個參數添加去本機的配置文件中,測試數據沒有明顯差距,故不貼出.
• 可能因為測試用例簡單,在這方面進行優化有點殺雞焉用牛刀了.
• 總結
• 在本測試中,堆內存的更改對tomcat的優化效果非常明顯.其實這是屬於JVM優化的範疇,只不過作用於tomcat身上.
• 其他參數的優化在本測試中效果不明顯,但我相信對於業務複雜的場景,這些優化都是非常必要的,尤其是對server.xml的優化.
• 另外,測試過程中出現讓我很費解的事.相同的配置運行多次,得到的數據會有較大的出入.比如我晚上測試了一邊.第二天起來用該配置再測一邊,得到的數據會同比波動會非常大.
• 結合多次實驗,發現數據的波動會出現在物理機和Docker容器的喚醒,重新打開JMeter軟件等行為之後,這些行為都會導致內存使用率的大量變化,這些都導致JVM的運行環境不夠穩定,
• 所以,該測試的結果並不嚴謹,僅可作為參考而不可盡信.務必在您的環境親自測試一遍.

參考配置

catalina.sh

export JAVA_OPTS=”-server -Xms1400M -Xmx1400M -Xss512k -XX:+AggressiveOpts -XX:+UseBiasedLocking -XX:PermSize=128M -XX:MaxPermSize=256M -XX:+DisableExplicitGC -XX:MaxTenuringThreshold=31 -XX:+UseConcMarkSweepGC -XX:+UseParNewGC -XX:+CMSParallelRemarkEnabled -XX:+UseCMSCompactAtFullCollection -XX:LargePageSizeInBytes=128m -XX:+UseFastAccessorMethods -XX:+UseCMSInitiatingOccupancyOnly -Djava.awt.headless=true “

server.xml

[objc] view plain copy

1. Connectorport="8080"
2. protocol="org.apache.coyote.http11.Http11Nio2Protocol"
3. connectionTimeout="20000"
4. redirectPort="8443"
5. enableLookups="false"
6. acceptCount="100"
7. maxThreads="200"
8. minSpareThreads="10"
9. compression="on"
10. compressionMinSize="2048"
11. compressableMimeType="text/html,text/xml,text/plain,text/css,text/javascript,application/javascript"
12. URIEncoding="utf-8"

閱讀更多 程序員小新人學習 的文章

關鍵字: 編程語言 Java 調優