前言
最近在部門內部分享了原來在電商業務做秒殺活動的整體思路,大家對這次分享反饋還不錯,所以我就簡單整理了一下,分享給大家參考參考
業務介紹
什麼是秒殺?通俗一點講就是網絡商家為促銷等目的組織的網上限時搶購活動
比如說京東秒殺,就是一種定時定量秒殺,在規定的時間內,無論商品是否秒殺完畢,該場次的秒殺活動都會結束。這種秒殺,對時間不是特別嚴格,只要下手快點,秒中的概率還是比較大的。
淘寶以前就做過一元搶購,一般都是限量 1 件商品,同時價格低到「令人發齒」,這種秒殺一般都在開始時間 1 到 3 秒內就已經搶光了,參與這個秒殺一般都是看運氣的,不必太強求
業務特點
瞬時併發量大
秒殺時會有大量用戶在同一時間進行搶購,瞬時併發訪問量突增 10 倍,甚至 100 倍以上都有。
庫存量少
一般秒殺活動商品量很少,這就導致了只有極少量用戶能成功購買到。
業務簡單
流程比較簡單,一般都是下訂單、扣庫存、支付訂單
技術難點
現有業務的衝擊
秒殺是營銷活動中的一種,如果和其他營銷活動應用部署在同一服務器上,肯定會對現有其他活動造成衝擊,極端情況下可能導致整個電商系統服務宕機
直接下訂單
下單頁面是一個正常的 URL 地址,需要控制在秒殺開始前,不能下訂單,只能瀏覽對應活動商品的信息。簡單來說,需要 Disable 訂單按鈕
頁面流量突增
秒殺活動開始前後,會有很多用戶請求對應商品頁面,會造成後臺服務器的流量突增,同時對應的網絡帶寬增加,需要控制商品頁面的流量不會對後臺服務器、DB、Redis 等組件的造成過大的壓力
架構設計思想
限流
由於活動庫存量一般都是很少,對應的只有少部分用戶才能秒殺成功。所以我們需要限制大部分用戶流量,只准少量用戶流量進入後端服務器
削峰
秒殺開始的那一瞬間,會有大量用戶衝擊進來,所以在開始時候會有一個瞬間流量峰值。如何把瞬間的流量峰值變得更平緩,是能否成功設計好秒殺系統的關鍵因素。實現流量削峰填谷,一般的採用緩存和 MQ 中間件來解決
異步
秒殺其實可以當做高併發系統來處理,在這個時候,可以考慮從業務上做兼容,將同步的業務,設計成異步處理的任務,提高網站的整體可用性
緩存
秒殺系統的瓶頸主要體現在下訂單、扣減庫存流程中。在這些流程中主要用到 OLTP 的數據庫,類似 MySQL、SQLServer、Oracle。由於數據庫底層採用 B+ 樹的儲存結構,對應我們隨機寫入與讀取的效率,相對較低。如果我們把部分業務邏輯遷移到內存的緩存或者 Redis 中,會極大的提高併發效率
整體架構
客戶端優化
客戶端優化主要有兩個問題
秒殺頁面
秒殺活動開始前,其實就有很多用戶訪問該頁面了。如果這個頁面的一些資源,比如 CSS、JS、圖片、商品詳情等,都訪問後端服務器,甚至 DB 的話,服務肯定會出現不可用的情況。所以一般我們會把這個頁面整體進行靜態化,並將頁面靜態化之後的頁面分發到 CDN 邊緣節點上,起到壓力分散的作用
防止提前下單
防止提前下單主要是在靜態化頁面中加入一個 JS 文件引用,該 JS 文件包含活動是否開始的標記以及開始時的動態下單頁面的 URL 參數。同時,這個 JS 文件是不會被 CDN 系統緩存的,會一直請求後端服務的,所以這個 JS 文件一定要很小。當活動快開始的時候(比如提前),通過後臺接口修改這個 JS 文件使之生效
API 接入層優化
客戶端優化,對於不是搞計算機方面的用戶還是可以防止住的。但是稍有一定網絡基礎的用戶就起不到作用了,因此服務端也需要加些對應控制,不能信任客戶端的任何操作。一般控制分為 2 大類
限制用戶維度訪問頻率
針對同一個用戶( Userid 維度),做頁面級別緩存,單元時間內的請求,統一走緩存,返回同一個頁面
限制商品維度訪問頻率
大量請求同時間段查詢同一個商品時,可以做頁面級別緩存,不管下回是誰來訪問,只要是這個頁面就直接返回
SOA 服務層優化
上面兩層只能限制異常用戶訪問,如果秒殺活動運營的比較好,很多用戶都參加了,就會造成系統壓力過大甚至宕機,因此需要後端流量控制
對於後端系統的控制可以通過消息隊列、異步處理、提高併發等方式解決。對於超過系統水位線的請求,直接採取 「Fail-Fast」原則,拒絕掉
秒殺整體流程圖
秒殺系統核心在於層層過濾,逐漸遞減瞬時訪問壓力,減少最終對數據庫的衝擊。通過上面流程圖就會發現壓力最大的地方在哪裡?
MQ 排隊服務,只要 MQ 排隊服務頂住,後面下訂單與扣減庫存的壓力都是自己能控制的,根據數據庫的壓力,可以定製化創建訂單消費者的數量,避免出現消費者數據量過多,導致數據庫壓力過大或者直接宕機。
庫存服務專門為秒殺的商品提供庫存管理,實現提前鎖定庫存,避免超賣的現象。同時,通過超時處理任務發現已搶到商品,但未付款的訂單,並在規定付款時間後,處理這些訂單,將恢復訂單商品對應的庫存量
在此我向大家推薦一個架構學習交流群。交流學習群號:736220120 裡面會分享一些資深架構師錄製的視頻錄像:有Spring,MyBatis,Netty源碼分析,高併發、高性能、分佈式、微服務架構的原理,JVM性能優化、分佈式架構等這些成為架構師必備的知識體系。還能領取免費的學習資源,目前受益良多。
總結
核心思想:層層過濾
儘量將請求攔截在上游,降低下游的壓力
充分利用緩存與消息隊列,提高請求處理速度以及削峰填谷的作用
閱讀更多 程序員界的彭于晏 的文章