網頁端用HTTP收消息,怎麼做到像TCP一樣100%實時?

任何脫離業務的架構設計都是耍流氓。網頁端收消息,究竟是推還是拉?

需求緣起

網頁端用HTTP收消息,怎麼做到像TCP一樣100%實時?

對於在網頁端登錄的用戶A,發送方,也就是消息的來源有幾方面:

  • 系統發給A的“系統通知”,可能對實時性要求沒這麼高
  • 用戶發給A的“聊天消息”,有對實時性要求比較高,越實時越好

消息的處理方,也就是系統側,一般來說:

  • 有服務對消息進行邏輯處理
  • 有數據庫對數據進行落地
  • 有緩存對數據進行加速

拋開這些技術細節不談,暫且認為服務端對每一個用戶都有一個“待收消息”的隊列,裡面存放了需要給這個用戶的一切消息。

消息的接收方,也就是用戶A,如果是在網頁端登錄,因為HTTP協議是“請求-響應”式的,服務端與網頁之間沒有消息通道,對於這類“收消息”的需求,是如何處理的呢?

方案一、輪詢拉取

網頁端用HTTP收消息,怎麼做到像TCP一樣100%實時?

輪詢拉取,是最容易想到的實現方式:

  • 發送方發送了消息,先入隊列
  • 網頁端起一個timer,每個一段時間(例如10秒),發起一個輪詢請求,拉取隊列裡的消息
  • 如果隊列裡有消息,就返回消息
  • 如果隊列裡無消息,就10秒後再次輪詢

這種方式的優勢是:實現簡單,直觀且,容易理解,互聯網興起時,人數不多的聊天室就是這麼玩的。

畫外音:創辦於1996年的互聯網老站碧海銀沙,曾經中國最火爆的聊天室,已於2017.9.27停止運營。

缺點也很明顯:

  • 實時性差:最壞的情況下,1條消息進入隊列後,10s之後才會收到
  • 效率低下:發消息是一個低頻動作,如果10次輪詢才收到1條消息,請求有效性只有10%,浪費了大量服務器資源

更要命的是,在這種方案下,實時性與效率是一對不可調和的矛盾:如果將輪詢週期設為1/10,將時延縮短到1秒,意味著100次輪詢才會收到1條消息,請求有效性則降為了1%。

方案二、建立長連接

如果要兼顧實時性和效率,長連接是最佳之選,PC端聊天軟件基本都是使用長連接。網頁端常見的實現長連接的方式有兩種:

  • WebSocket
  • FlashSocket

這兩種方案的細節不再展開,ta們均有一定的侷限性。

更為通用的方式,是“長輪詢”。

長輪詢,是通過拼裝HTTP短連接來達到長連接的效果,即保證了消息100%實時,又最大化的系統效率。

方案三、HTTP長輪詢

網頁端用HTTP收消息,怎麼做到像TCP一樣100%實時?

HTTP長輪詢的核心在於,瀏覽器與服務端之間建立了一條“通知連接”,它的特點是:

  • 這是一條browser發往web-server的HTTP連接
  • 這條連接只用來收取推送通知
  • 不像普通的“請求-響應”式HTTP請求,這個HTTP會被服務端夯住,直到有推送通知到達,或者超過約定的時間

畫外音:對於HTTP請求,為了提高效率,一般來說browser和web-server都會有一些設置,如果一條HTTP請求長時間沒有數據(例如,150秒),會被斷開。“通知連接”為了不被browser和web-server粗暴斷開,一般會設置一個約定閾值(例如,小於150秒),由系統返回一個空消息,以便“優雅返回”。

更具體的,對於這條“夯住”與“只收推送通知”的“通知連接”,是怎麼玩的呢?

網頁端用HTTP收消息,怎麼做到像TCP一樣100%實時?

場景1,發起通知連接時,隊列里正好消息,則:

  • 發起通知連接,正好隊列裡有消息
  • 實時把隊列裡的消息帶回
  • 立馬再發起通知連接
網頁端用HTTP收消息,怎麼做到像TCP一樣100%實時?

場景二,發起通知連接時,隊列裡消息,則:

  • 發起通知連接時,隊列裡無消息
  • 一直等待,直到觸發“時間閾值”,返回無消息
  • 立馬再發起通知連接
網頁端用HTTP收消息,怎麼做到像TCP一樣100%實時?

場景三,新消息來時,正好通知連接在,則:

  • 新消息來時,正好有通知連接在
  • 通知連接實時將消息帶回
  • 立馬再發起通知連接

上面三個場景的最終狀態,都是“一定,永遠,會有一條通知連接,連接在瀏覽器與服務器之間”,這樣就能夠保證消息的實時性。當然,有人會說,HTTP的返回與再次發起會有一個時間差,如果這個時間差,恰巧有新消息過來呢?

網頁端用HTTP收消息,怎麼做到像TCP一樣100%實時?

場景四,新消息來時,沒有通知連接,則:

  • 新消息來時,沒有通知連接
  • 把新消息放入隊列

最後這個場景,發生的概率非常小,但也確保了在“HTTP的返回與再次發起會有一個時間差”內,消息不會丟失,在通知連接發起後,消息能夠實時返回。

總結

網頁端收消息,究竟是推還是拉?

  • 最容易想到的是,但實時性和效率是一對無法調和的矛盾
  • 最佳的方式是,但WebSocket和FlashSocket各有侷限性
  • 最通用的方式是
    長輪詢,通過HTTP短連接拼裝長連接,具體是通過“夯住”“只收推送通知”的“通知連接”來實現的,能夠做到消息的實時性到達

若有收穫,隨手轉發。


分享到:


相關文章: