金山雲邊緣計算助力愛奇藝,衝進30毫秒高速區

1. 愛奇藝在金山雲部署邊緣服務

邊緣計算是近期較流行的技術概念,邊緣計算其離不開“低延遲”和“海量併發連接”,愛奇藝和金山雲本次成功地將概念變為產品實踐。降低網絡延遲能把用戶拉入植物神經都無感的30毫秒舒適區;低延遲快速交互又極易出現瞬時大併發,我們需要將用戶訪問分散隔離到不同的邊緣節點。


愛奇藝在金山雲邊緣(以下簡稱KENC)(發佈時掛鏈接https://www.ksyun.com/post/product/KENC.html)部署了DOH(DNS over HTTPS)服務,受益於KENC邊緣容器雲(掛鏈接)的穩定性能和強大功能,愛奇藝DoH服務的的各項網絡指標均有提升,力求為用戶提供更加極致的視聽體驗。未來5G信息源數量會增加十倍以上,延遲會進一步降低,今天的DoH邊緣產研實踐,也是雙方為明天的業務創新練兵。


金山雲邊緣計算助力愛奇藝,衝進30毫秒高速區

2. DoH服務的技術價值

我們首先解釋這次部署的DoH服務的技術特性和業務價值,再看金山雲KENC如何支撐DoH服務。

DNS協議(RFC1035)是互聯網上的指明燈,是最廣泛的訪問指向方式。但它畢竟是1987年制定的老標準了,當時互聯網速度慢、規模小,科教網絡可信賴,其運行機制和報文格式,限制了它的應用範圍。

DoH協議(RFC8484)於2018年正式發佈,其使用HTTP GET/POST完成DNS查詢過程,解決了安全和信息量的問題,有如下的先天優勢:

1. HTTPS加密防止DNS的嗅探和劫持,互聯網圈現在就是這樣用httpdns的。

2. DNS查詢只傳遞域名信息,EDNS也只是加上客戶端IP,HTTP查詢能攜帶大量自定義客戶端信息,更方便DoH服務器做策略判斷。

3. DNS的響應報文只能回覆IP,而DoH響應包除了DNS解析結果之外,可以一併完成其他消息分發。

4. 基於HTTP協議,DoH可以實現長連接、多重查詢、緩存和更新緩存,這是DNS無法比擬的性能優勢。

DoH是企業自有域名的直接解析,路徑極短依賴極少;而DNS是社會公用服務系統,依賴多、穩定性差、不可控。


金山雲邊緣計算助力愛奇藝,衝進30毫秒高速區

3. 愛奇藝的DoH業務實踐

當前很多互聯網公司都在應用DoH服務防止惡意劫持,但DoH更有潛力成為一個更精細的客戶端調度和傳參系統。愛奇藝看重了DoH從IT基礎架構層面和客戶端通訊的能力,為更精細化的網絡運營做佈局:

1. 當單集視頻點播有異常卡頓、當生僻內容只有部分CDN有緩存時,當要混用P2P和CDN網絡,DoH服務可以做URI級別的精準調度。

2. 當設備頻繁切換Wifi、當某段網絡擁塞,DoH服務能算出最佳路由,甚至能按比例疏導分配用戶訪問。

3. DoH客戶端可以將設備ID、用戶行為、網絡診斷等信息一併傳輸給DoH服務,DoH服務還能從其他系統加載策略參數,上述信息計算後隨著DNS查詢一併反饋給客戶端。

4. DoH根據用戶請求的頻率,能完成一些監控信息蒐集工作,比如某批設備為什麼頻繁讀取同一視頻內容,且報告嚴重卡頓?


與服務端DoH發力的同時,愛奇藝技術團隊同時配套開發了DoH-SDK,提供愛奇藝產品矩陣的應用集成。DoH-SDK實現上使用嵌入式服務IP、DoH域名解析、AnyCast IP解析等多種方式獲取最優的DoH服務器列表,同時通過擴展DoH協議,針對無法解析的域名走local DNS解析,最大限度保證用戶體驗。通過將DoH邊緣化部署後,用戶端進行網絡請求時域名解析的耗時,全業務流程會有5-30ms的延遲降低,TCP鏈接成功率也有提升,且通過SDK簡單配置即可實現多節點容錯和輪詢。


金山雲邊緣計算助力愛奇藝,衝進30毫秒高速區

4. 金山雲如何承載DoH

前文介紹的擴展傳參都涉及用戶行為數據,大型互聯網企業必須自建自研DoH服務,不可能使用常規雲廠商提供的 DoH on PaaS服務。愛奇藝很早就在核心機房部署了DoH服務,但此次選擇在金山雲邊緣節點上線生產業務,有如下技術考量:

1. DNS over HTTPS肯定比DNS over UDP要慢,就算用到“長連接+單次多查詢+緩存”等優化手段依舊還是慢一些。金山雲是按照優質CDN標準做網絡選點,網絡質量好、覆蓋足,成功將單次連接的延遲壓縮了5-30ms,多次訪問的提升會更明顯,最終為DoH扳回一局,從DNS汙染時的救火服務,變為了在線主打業務。

2. 如果只在全國幾個中心機房建設DoH,單點維持上億個併發長連接是個複雜艱難的工作。DoH是策略查詢和分發的服務,它只載入少量配置信息就能做大量自運算查詢,非常適合水平復制上百份後部署到邊緣節點,將用戶訪問分散化、本地化。DoH非常適合做邊緣化架構改造,再搭配上客戶端容錯機制,從架構上規避了單點大範圍崩潰。

3. 愛奇藝接入過程中驗證了KENC容器的管理和計算能力。KENC容器的計算性能按對齊雲主機設計,可以在邊緣節點撐起密集查詢、審核轉碼等業務。邊緣應用需要彈性管理動態擴縮容,KENC提供了兼容K8S的接口讓客戶無縫對接。

4. 金山雲認為邊緣容器並不組成大規模複雜群集,而是低延遲大帶寬海量併發。DoH服務並未使用七層負載均衡,而是用三四層直接接入服務,其效率更高速度更快,減少了七層負載均衡這個黑盒故障點,而且避免七層負載均衡解析客戶業務。

5. 基於愛奇藝資源管理平臺,實現容器資源的自動註冊,同時結合金山雲提供的豐富Open-API完善容器資源信息,最終實現對物理機、虛擬機、容器等資源的統一部署、透明管理。


目前愛奇藝DoH服務針對自有產品設計使用,未來隨著邊緣雲的興起,愛奇藝完成了DoH 30毫秒服務圈覆蓋全球覆蓋的能力後,屆時會考慮將DoH服務開放。愛奇藝在金山雲KENC部署DoH只是起步,愛奇藝奇速播業務也剛剛完成了邊緣節點部署測試。隨著調度策略放到邊緣節點,愛奇藝也在探索將調度策略的各種伴生應用向邊緣部署遷移。作為國內領先的娛樂視頻平臺,愛奇藝擁有業界領先的視頻傳輸、調度、處理的IT技術能力。其持續關注5G和邊緣計算技術,不斷探索著用新興IT技術去推動體驗改善和業務變革。


金山雲邊緣計算助力愛奇藝,衝進30毫秒高速區

5. 金山雲KENC願與您攜手同行

目前KENC已經建設完成大量節點,容器網絡得到了切實優化。此外為應對急速增長的業務需求,我們研發了各種新功能,比如具備全局同步緩存數據庫,具備慢速錯峰能力的網絡存儲接口,具備代碼託管能力的ServerLess等等,在客戶未來的業務發展過程中,它們都將起到強有力的支持作用。

金山雲KENC有一隻精英團隊,我們能和客戶做專業性上的平等溝通,什麼服務放到邊緣上有業務改進價值,邊緣化改造給甲方帶來的成本和風險。我們希望能和各位工程師,共同探索更多有典型意義的邊緣計算技術模式。


分享到:


相關文章: