微信高併發資金交易系統設計方案——百億紅包背後的技術支撐

微信高并发资金交易系统设计方案——百亿红包背后的技术支撑

作者|方樂明

背景介紹

微信高并发资金交易系统设计方案——百亿红包背后的技术支撑

該系統由接入層、邏輯服務層、存儲層與緩存構成。Proxy處理請求接入,Server承載主要的業務邏輯,Cache用於緩存庫存數量、DB則用於數據持久化。

一個“秒殺”活動,對應DB中的一條庫存記錄。當用戶進行商品“秒殺”時,系統的主要邏輯在於DB中庫存的操作上。一般來說,對DB的操作流程有以下三步:

  1. 鎖庫存

  2. 插入“秒殺”記錄

  3. 更新庫存

其中,鎖庫存是為了避免併發請求時出現“超賣”情況。同時要求這三步操作需要在一個事務中完成(所謂的事務,是指作為單個邏輯工作單元執行的一系列操作,要麼完全地執行,要麼完全地不執行)。

“秒殺”系統的設計難點就在這個事務操作上。商品庫存在DB中記為一行,大量用戶同時“秒殺”同一商品時,第一個到達DB的請求鎖住了這行庫存記錄。在第一個事務完成提交之前這個鎖一直被第一個請求佔用,後面的所有請求需要排隊等待。同時參與“秒殺”的用戶越多,併發進DB的請求越多,請求排隊越嚴重。因此,併發請求搶鎖,是典型的商品“秒殺”系統的設計難點。

解決高併發問題常用方案

普通商品“秒殺”活動系統,解決高併發問題的方案,大體有以下幾種:

方案一,使用內存操作替代實時的DB事務操作。

如圖2所示,將“實時扣庫存”的行為上移到內存Cache中操作,內存Cache操作成功直接給Server返回成功,然後異步落DB持久化。

微信高并发资金交易系统设计方案——百亿红包背后的技术支撑

這個方案的優點是用內存操作替代磁盤操作,提高了併發性能。

方案二,使用樂觀鎖替代悲觀鎖。

所謂悲觀鎖,是關係數據庫管理系統裡的一種併發控制的方法。它可以阻止一個事務以影響其他用戶的方式來修改數據。如果一個事務執行的操作對某行數據應用了鎖,那只有當這個事務把鎖釋放,其他事務才能夠執行與該鎖衝突的操作。對應於上文分析中的“併發請求搶鎖”行為。

所謂樂觀鎖,它假設多用戶併發的事務在處理時不會彼此互相影響,各事務能夠在不產生鎖的情況下處理各自影響的那部分數據。在提交數據更新之前,每個事務會先檢查在該事務讀取數據後,有沒有其他事務又修改了該數據。如果其他事務有更新的話,正在提交的事務會進行回滾。

商品“秒殺”系統中,樂觀鎖的具體應用方法,是在DB的“庫存”記錄中維護一個版本號。在更新“庫存”的操作進行前,先去DB獲取當前版本號。在更新庫存的事務提交時,檢查該版本號是否已被其他事務修改。如果版本沒被修改,則提交事務,且版本號加1;如果版本號已經被其他事務修改,則回滾事務,並給上層報錯。

這個方案解決了“併發請求搶鎖”的問題,可以提高DB的併發處理能力。

  1. 如果拆紅包採用樂觀鎖,那麼在併發搶到相同版本號的拆紅包請求中,只有一個能拆紅包成功,其他的請求將事務回滾並返回失敗,給用戶報錯,用戶體驗完全不可接受。

  2. 如果採用樂觀鎖,將會導致第一時間同時拆紅包的用戶有一部分直接返回失敗,反而那些“手慢”的用戶,有可能因為併發減小後拆紅包成功,這會帶來用戶體驗上的負面影響。

  3. 如果採用樂觀鎖的方式,會帶來大數量的無效更新請求、事務回滾,給DB造成不必要的額外壓力。

1.系統垂直SET化,分而治之。

紅包系統根據這個紅包ID,按一定的規則(如按ID尾號取模等),垂直上下切分。切分後,一個垂直鏈條上的邏輯Server服務器、DB統稱為一個SET。

各個SET之間相互獨立,互相解耦。並且同一個紅包ID的所有請求,包括髮紅包、搶紅包、拆紅包、查詳情詳情等,垂直stick到同一個SET內處理,高度內聚。通過這樣的方式,系統將所有紅包請求這個巨大的洪流分散為多股小流,互不影響,分而治之,如下圖所示。

微信高并发资金交易系统设计方案——百亿红包背后的技术支撑

這個方案解決了同時存在海量事務級操作的問題,將海量化為小量。

2.邏輯Server層將請求排隊,解決DB併發問題。

紅包系統是資金交易系統,DB操作的事務性無法避免,所以會存在“併發搶鎖”問題。但是如果到達DB的事務操作(也即拆紅包行為)不是併發的,而是串行的,就不會存在“併發搶鎖”的問題了。

按這個思路,為了使拆紅包的事務操作串行地進入DB,只需要將請求在Server層以FIFO(先進先出)的方式排隊,就可以達到這個效果。從而問題就集中到Server的FIFO隊列設計上。

首先,將同一個紅包ID的所有請求stick到同一臺Server。

上面SET化方案已經介紹,同個紅包ID的所有請求,按紅包ID stick到同個SET中。不過在同個SET中,會存在多臺Server服務器同時連接同一臺DB(基於容災、性能考慮,需要多臺Server互備、均衡壓力)。

微信高并发资金交易系统设计方案——百亿红包背后的技术支撑

其次,設計單機請求排隊方案。

將stick到同一臺Server上的所有請求在被接收進程接收後,按紅包ID進行排隊。然後串行地進入worker進程(執行業務邏輯)進行處理,從而達到排隊的效果,如下圖所示。

微信高并发资金交易系统设计方案——百亿红包背后的技术支撑

最後,增加memcached控制併發。

為了防止Server中的請求隊列過載導致隊列被降級,從而所有請求擁進DB,系統增加了與Server服務器同機部署的memcached,用於控制拆同一個紅包的請求併發數。

具體來說,利用memcached的CAS原子累增操作,控制同時進入DB執行拆紅包事務的請求數,超過預先設定數值則直接拒絕服務。用於DB負載升高時的降級體驗。

通過以上三個措施,系統有效地控制了DB的“併發搶鎖”情況。

3.雙維度庫表設計,保障系統性能穩定

紅包系統的分庫表規則,初期是根據紅包ID的hash值分為多庫多表。隨著紅包數據量逐漸增大,單表數據量也逐漸增加。而DB的性能與單表數據量有一定相關性。當單表數據量達到一定程度時,DB性能會有大幅度下降,影響系統性能穩定性。採用冷熱分離,將歷史冷數據與當前熱數據分開存儲,可以解決這個問題。

具體來說,就是分庫表規則像db_xx.t_y_dd設計,其中,xx/y是紅包ID的hash值後三位,dd的取值範圍在01~31,代表一個月天數最多31天。

通過這種雙維度分庫表方式,解決了DB單表數據量膨脹導致性能下降的問題,保障了系統性能的穩定性。同時,在熱冷分離的問題上,又使得數據搬遷變得簡單而優雅。

最後總結

今日薦號
微信高并发资金交易系统设计方案——百亿红包背后的技术支撑

StuQ

InfoQ推出的IT教育平臺——斯達克學院(StuQ ) 為技術人提供系統實戰課程 學習微服務,機器學習,iOS開發最潮流技術 回覆“課程”獲得熱門課程介紹和優惠碼

今日薦文
微信高并发资金交易系统设计方案——百亿红包背后的技术支撑

道哥:我回阿里的29個月和職業生涯的6點感想


分享到:


相關文章: