一種單機支持 JavaWeb 容器萬級併發的設想

作者：莫那魯道
鏈接：https://www.cnblogs.com/stateis0/p/10963171.html 

當前的大部分 Java web 容器基於 Bio 線程模型，例如常見的 Tomcat ，默認 200 線程，即 200 連接。由此帶來的問題是，如果想提高併發，或者提高資源利用率，就得加大線程數。

如下圖：

於是出現了類 Netty 的 Reactor 線程模型。同時，Java 官方也設計了 Servlet 3 異步 API，可以通過返回類 Feature 的方式，實現異步編程。在某些情況下，也可以實現萬級別併發。

但是，為什麼 Java 社區的異步編程無法推廣開來？究其原因，數據庫是罪魁禍首，再往上看，其實是 JDBC 的鍋，JDBC 定義了一套阻塞式的數據庫 IO 通信模型。這導致每次請求，線程都阻塞在等待 DB 結果。進而導致，服務器資源無法充分利用。

有沒有一種辦法，讓 Java web 應用的整個鏈路都是非阻塞的呢？

答：有。

異步編程是提高生產力的關鍵。下圖是我們今天假設的模型：

其實非常簡單。

我們讓 Tomcat 支持 Servlet 3 異步編程模型，接口返回 feature 即可，這個功能其實有很多web 容器都實現了。關鍵的是，我們讓 DB 客戶端和服務器都支持異步編程模型。讓 DB 像 netty 複用 IO 連接，業務線程只需要將 SQL 交給數據庫 client 即可返回 feature，然後釋放當前線程（再也不用阻塞，這是關鍵），等 DB 操作結果返回時，只需通知這個 feature 即可。這將極大的提高線程的利用率，不誇張的說，只需 8 條線程，就足以承受萬級別的併發。

整個的調用流程如下圖：

我們看到，當一個 http 請求過來，整個流程是無阻塞的，不用等待 數據庫 返回結果，業務只需添加回調即可，當數據庫結果返回時，自動觸發回調。

當然，這只是我的一個小設想，Mysql 要重寫連接器，我估計是太難了。但是，那些新一代的數據庫，是否能夠把連接器設計成支持異步、支持多路複用的呢？這樣，web 應用的客戶端，就能夠把整個鏈路設計成異步的，這將節約很多資源，提高生產力。

希望那一天快點到來。