邊緣智能:邊緣計算與人工智能融合的新範式

邊緣智能:邊緣計算與 人工智能融合的新範式

周知, 于帥, 陳旭,

中山大學數據科學與計算機學院,廣東 廣州 510006

摘要邊緣計算與人工智能這兩種高速發展的新技術之間存在著彼此賦能的巨大潛力。通過3個研究案例,展示協同邊緣計算和人工智能這兩種技術如何促進各自的進一步發展。從邊緣計算賦能人工智能的維度,針對深度學習模型在網絡邊緣側的部署,提出了基於邊端協同的深度學習按需加速框架,通過協同優化模型分割和模型精簡策略,實現時延約束下的高精度模型推理。從人工智能賦能邊緣計算的維度,針對邊緣計算服務的放置問題,提出了基於在線學習的自適應邊緣服務放置機制和基於因子圖模型的預測性邊緣服務遷移方法。

關鍵詞:邊緣計算 ; 人工智能 ; 邊緣智能 ; 服務遷移

边缘智能:边缘计算与人工智能融合的新范式

論文引用格式:

周知, 于帥, 陳旭. 邊緣智能:邊緣計算與人工智能融合的新範式. 大數據[J], 2019, 5(2): 53-63

ZHOU Z, YU S, CHEN X. Edge intelligence:a new nexus of edge computing and artificial intelligence. Big Data Research[J], 2019, 5(2): 53-63

1 引言

近年來,隨著全球範圍內社會經濟與科學技術的高速發展,信息通信技術(information communications technology, ICT)產業不斷地湧現出了許多新興技術。其中,有兩種代表性技術被廣泛認為對人類經濟社會產生了巨大的推動力與深遠的影響力。其一,作為人工智能領域代表性技術的深度學習,受益於算法、算力和數據集等方面的進步,近年來得到了突飛猛進的發展,並在無人駕駛、電子商務、智能家居和智慧金融等領域大展拳腳,深刻改變了人們的生活方式,提高了生產效率。而另外一種技術則為從傳統的雲計算技術演化發展而來的邊緣計算技術,相比於雲計算,邊緣計算將強計算資源和高效服務下沉到網絡邊緣端,從而擁有更低的時延、更低的帶寬佔用、更高的能效和更好的隱私保護性。

然而,鮮為人知的是,人工智能和邊緣計算這兩種具有劃時代意義的新技術目前正面臨著各自進一步發展的瓶頸。一方面,對於深度學習技術而言,由於其需要進行高密度的計算,因此目前基於深度學習的智能算法通常運行於具有強大計算能力的雲計算數據中心。考慮到當下移動終端設備的高度普及,如何將深度學習模型高效地部署在資源受限的終端設備,從而使智能更加貼近用戶與物端,解決人工智能落地的“最後一公里”這一問題已經引起了學術界與工業界的高度關注。另一方面,對於邊緣計算而言,隨著計算資源與服務的下沉與分散化,邊緣計算節點將被廣泛部署於網絡邊緣的接入點(如蜂窩基站、網關、無線接入點等)。邊緣計算節點的高密度部署也給計算服務的部署帶來了新的挑戰:用戶通常具有移動性,因此當用戶在不同節點的覆蓋範圍間頻繁移動時,計算服務是否應該隨著用戶的移動軌跡而遷移?顯然,這是一個兩難的問題,因為服務遷移雖然能夠降低時延從而提升用戶體驗,但其會帶來額外的成本開銷(例如帶寬佔用和能源消耗)。

幸運的是,人工智能和邊緣計算各自面臨的發展瓶頸可以通過它們二者之間的協同得到緩解。一方面,對於深度學習而言,運行深度學習應用的移動設備將部分模型推理任務卸載到鄰近的邊緣計算節點進行運算,從而協同終端設備與邊緣服務器,整合二者的計算本地性與強計算能力的互補性優勢。在這種方式下,由於大量計算在與移動設備鄰近的具有較強算力的邊緣計算節點上執行,因此移動設備自身的資源與能源消耗以及任務推理的時延都能被顯著降低,從而保證良好的用戶體驗。另一方面,針對邊緣計算服務的動態遷移與放置問題,人工智能技術同樣大有可為。具體而言,基於高維歷史數據,人工智能技術可以自動抽取最優遷移決策與高維輸入間的映射關係,從而當給定新的用戶位置時,對應的機器學習模型即可迅速將其映射到最優遷移決策。此外,基於用戶的歷史軌跡數據,人工智能技術還可以高效地預測用戶未來短期內的運動軌跡,從而實現預測性邊緣服務遷移決策,進一步提升系統的服務性能。總體而言,邊緣計算和人工智能彼此賦能,將催生“邊緣智能”的嶄新範式,從而產生大量創新研究機會。

本文將簡要介紹筆者研究團隊在融合邊緣計算與人工智能兩個方向上的初步探索。首先,從邊緣計算賦能人工智能的維度出發,為了在網絡邊緣側高效地運行深度學習應用,本文提出了一個基於邊端協同的按需加速深度學習模型推理的優化框架——Edgent。為了實現降低模型推理時間,並按需保障模型精確率的雙重目標, Edgent採取以下兩種優化策略:深度學習模型分割,自適應地劃分移動設備與邊緣服務器之間的深度神經網絡模型計算量,以便在較小的傳輸時延代價下將較多的計算卸載到邊緣服務器,從而降低整體端到端時延;深度學習模型精簡,通過在適當的深度神經網絡的中間層提前退出,進一步減小計算時延。其次,從人工智能賦能邊緣計算的維度出發,針對邊緣計算服務的動態遷移與放置問題,本文首先提出了一種用戶自適應管理的在線服務放置機制。該機制能夠通過在線學習(online learning)人工智能技術自適應複雜的用戶行為和多變的邊緣網絡環境,從而輔助用戶做出高效的服務遷移決策。最後,本文還將展示如何使用因子圖模型(factor graph model)這一新興人工智能技術實現用戶位置預測,從而改善邊緣服務動態遷移決策的質量。

2 邊緣計算驅動實時深度學習

作為人工智能領域的主流技術之一,深度學習近年來得到了學術界與產業界的大力追捧。由於深度學習模型需要進行大量的計算,因此基於深度學習的智能算法通常存在於具有強大計算能力的雲計算數據中心。隨著移動終端和物聯網設備的高速發展與普及,如何突破終端設備資源限制,從而將深度學習模型高效地運行在資源受限的終端設備這一問題已經引發了大量關注。為解決這一難題,可考慮邊緣計算賦能人工智能的思路,利用邊緣計算就近實時計算的特性,降低深度學習模型推理的時延與能耗。

2.1 問題描述

常見的深度學習模型(如深度卷積神經網絡)是由多層神經網絡相互疊加而成的.不同網絡層的計算資源需求以及輸出數據量都具有顯著的差異性,那麼一個直觀的想法是將整個深度學習模型(即神經網絡)切分成兩部分,其中計算量大的一部分卸載到邊緣端服務器進行計算,而計算量小的一部分則保留在終端設備進行本地計算。顯然,終端設備與邊緣服務器協同計算的方法能有效降低深度學習模型的計算時延。但是,選擇不同的模型切分點將導致不同的計算時間,需要選擇最佳的模型切分點,從而最大限度地發揮終端與邊緣協同的優勢。

除了對模型進行切分外,加速深度學習模型推斷的另一手段為模型精簡,即選擇完成時間更快的“小模型”,而不是選擇對資源需求更高的“大模型”。對於任意的深度學習任務,可以離線訓練生成具有多個退出點的分支網絡,退出點越靠後,模型越“大”,準確率也越高,但相應地推斷時延也越大。因此,當深度學習任務的完成時間比較緊迫時,可以選擇適當地犧牲模型的精確度,以換取更優的性能(即時延)。值得注意的是,此時需要謹慎權衡性能與精度之間的折中關係。

綜合運用上述模型切分和模型精簡兩種方法調整深度學習模型推斷時間的優化手段,並小心權衡由此引發的性能與精度之間的折中關係,本文定義如下研究問題:對於給定時延需求的深度學習任務,如何聯合優化模型切分和模型精簡這種方法,使得在不違反時延需求的同時最大化深度學習模型的精確度。

2.2 優化框架

針對上述問題,筆者團隊提出了基於邊緣與終端協同的深度學習模型推斷優化框架Edgent。如圖1所示,Edgent的優化邏輯分為3個階段:離線訓練階段、在線優化階段以及協同推斷階段。

边缘智能:边缘计算与人工智能融合的新范式

圖1 基於邊緣與終端協同的深度學習模型運行推斷優化框架Edgent

上述基於邊緣服務器與終端設備協同的深度學習模型推斷框架的設計思路為:在離線階段,訓練好滿足任務需求的分支網絡,同時為分支網絡中的不同神經網絡層訓練迴歸模型,以此估算神經網絡層在邊緣服務器與在終端設備上的運行時延;在在線優化階段,迴歸模型將被用於尋找符合任務時延需求的退出點以及模型切分點;在協同推斷階段,邊緣服務器和終端設備將按照得出的方案運行深度學習模型。

(1)離線訓練階段

在離線訓練階段,Edgent需要執行以下兩個初始化操作:分析邊緣服務器與終端設備的性能,針對不同類型的深度學習模型網絡層(如卷積層、池化層等)生成基於迴歸模型的時延估算模型。在估算網絡層的運行時延時,Edgent會對每層網絡層進行建模,而不是對整個深度學習模型進行建模,不同網絡層的時延是由各自的自變量(如輸入數據的大小、輸出數據的大小)決定的,基於每層的自變量,可以建立迴歸模型,估算每層網絡層的時延;訓練帶有多個退出點的分支網絡模型,從而實現模型精簡。這裡筆者採用BranchyNet分支網絡結構,在BranchyNet的結構下,可以設計並訓練生成帶有多個退出點的分支網絡。需要注意的是,性能分析取決於設備(例如手機、VR頭盔和智能手錶等不同設備在運行同一深度學習模型時的性能表現不同),而深度學習模型是取決於應用的(例如物體識別和物體分類等不同計算機視覺應用對應的深度學習模型不同),因此在給定深度學習應用以及設備(即限定邊緣服務器與終端設備)的情況下,以上兩個初始化操作在離線階段只需要完成一次。

(2)在線優化階段

這個階段的主要工作是利用離線訓練的迴歸模型在分支網絡中找出符合時延需求的退出點以及模型分割點。因為要最大化地給出方案的準確率,所以在該階段中,筆者從最高準確率的分支開始,迭代地找出符合需求的退出點和切分點。在這個過程中,Edgent實時測量當前移動終端與邊緣服務器之間鏈路的網絡帶寬,以便估算移動終端與邊緣服務器間的數據傳輸時延。緊接著,Edgent沿著尺寸從大到小的網絡分支,依次遍歷每個網絡分支上不同的分割點,並基於當前網絡帶寬和不同網絡層計算時間估算所選分支網絡與分割點對應的端到端時延與模型精確度。在遍歷完所有的分支網絡與切分點後,Edgent輸出滿足時延需求的所有網絡分支與切分點組合中具有最大精確度的一個組合。

(3)協同推斷階段

在協同推斷階段,根據在線優化階段輸出的最優網絡分支與切分點組合,邊緣服務器與移動終端對深度學習模型進行協同推斷。實驗表明,Edgent在提升深度學習應用實時性能方面表現優異,能在不同的計算時延需求下,實現高精度的模型推理(具體實驗結果請見參考文獻)。

3 基於在線學習的自適應邊緣服務放置機制

基於人工智能賦能邊緣計算的思路,針對邊緣計算服務的動態遷移與放置問題,筆者接下來介紹一種用戶自適應管理的在線服務放置機制。該機制利用人工智能的在線學習技術,針對複雜的用戶行為和多變的邊緣網絡環境進行自適應學習,從而輔助用戶做出高效的服務遷移決策。

3.1 問題描述

儘管邊緣計算能解決用戶資源受限和雲計算中時延過大的問題,但由於邊緣節點服務覆蓋範圍較小,用戶的移動將對服務質量產生極大的影響。如圖2所示,當用戶從一個邊緣節點服務區域移動至其他的節點服務區域時,需考慮是否進行服務遷移,以保證滿意的服務質量。一方面,用戶可以選擇繼續讓服務在原邊緣節點進行處理,通過邊緣節點之間的數據傳輸保證服務的連續性。另一方面,用戶可以選擇服務遷移,以此減小端到端時延。前者可能由於過長的網絡距離導致較大的傳輸時延,後者則引入了服務遷移導致的額外開銷。同時由於用戶的個性化需求,不同的服務種類和遷移開銷也增加了服務放置的難度,例如輕量級的應用用戶更傾向於本地處理,計算密集型應用用戶更傾向於雲服務器處理,計算密集型且時延敏感型的應用用戶更傾向於邊緣服務器處理。為此,筆者提出了一種基於在線學習的自適應邊緣服務放置機制,該機制可以有效地權衡時延與遷移代價之間的折中關係。

边缘智能:边缘计算与人工智能融合的新范式

圖2 邊緣網絡中的用戶移動示意

3.2 基於在線學習的自適應邊緣服務放置算法

服務放置策略的制定通常與用戶行為特性和網絡環境有關。其中,行為特性主要包括用戶的移動模型、請求服務的種類以及個人偏好等因素,網絡環境主要包括邊緣網絡可用的資源、節點之間的傳輸帶寬等因素。對於用戶來說,其當前時刻的行為特性是已知的,而網絡環境是透明的。用戶自適應管理機制通過在線學習的方式,根據用戶的歷史決策數據對動態網絡環境的相關參數進行評估。隨著環境探索次數的增加,用戶對網絡參數的評估也會愈發精準,進而優化其服務放置策略。為了方便刻畫用戶移動過程中的一系列決策行為,筆者將連續的時間段劃分為一系列小的離散片段,在每個離散的時間片段中,用戶確定當前的服務放置策略,同時用戶行為和動態網絡環境在該片段內保持不變。

為了有效地衡量邊緣網絡中的用戶服務質量,筆者分別從用戶可感知時延和服務遷移代價兩方面進行研究。用戶可感知時延從所需的計算時延和通信時延兩部分進行考慮。計算時延主要取決於所需處理的請求服務數據量大小和放置節點的可用計算資源,如CPU的運算速度。通信時延主要由用戶當前的接入時延和傳輸時延兩部分構成。其中,接入時延主要取決於當前用戶的位置和邊緣路由器的狀態。通常來說,為了減少通信能耗,用戶將選擇與最近的邊緣路由器進行連接。而傳輸時延與網絡狀態(如邊緣節點之間的帶寬)、網絡距離有關。服務遷移產生的額外運行代價(如帶寬資源的佔用等)主要取決於上一時刻和當前時刻的節點選擇。由此,可以通過計算式(1)刻畫用戶的服務質量:

ω1D1(πt)+ω2D2(πt,yt)+ω3S(πt-1,πt)(1)

其中,πt-1、πt分別表示上一時刻和當前時刻的服務放置決策(即在每一時刻t動態決策當前服務應當放置在雲端服務器或某個邊緣服務器),yt表示用戶當前的位置,ω1、ω2、ω3(≥0)分別為計算時延D1、通信時延D2和遷移代價S的非負權重參數,權重參數的設定與用戶的個人偏好和服務種類有關:權重參數越大,表明對應時延或遷移代價的重要性越高。

如果可對未來長期時間T的用戶行為特徵和網絡狀態進行精準預測,那麼就可以通過動態規劃的方法求得長期服務的線下最優策略。然而在實際環境中,難以對以上用戶和網絡信息進行精準預測,同時對於每個決策時刻而言,由於缺少對網絡環境參數的瞭解,用戶收集系統信息將消耗額外的通信代價。

基於給定的優化目標,即用戶服務質量,如何在未知後期用戶行為和網絡環境的情形下優化一系列服務放置決策,從而最小化可感知時延和服務遷移代價呢?針對此問題,筆者提出的自適應邊緣服務放置機制將通過在線學習方法——上下文多臂老虎機(contextual multi-armed bandit)不斷探索動態系統,進而根據累計的歷史數據分析評估整體的動態網絡環境,為後續的放置策略制定提供更準確的評估。在每個離散時間片段的開始,用戶將收集服務請求的行為特徵,並用向量b(t)=[ω1λt,ω2Lt,ω3πt-1]表示,其中包含當前用戶請求服務處理量的大小λt、用戶實時位置Lt以及上一時刻服務放置策略πt-1。之後用戶結合動態網絡中可行放置策略πt的網絡估計參數μ πt與行為特徵b(t)對放置策略πt產生的代價c^π =b(t)Tμπ進行湯普森採樣(Thompson sampling)評估,從中選取代價最小的策略作為最終的放置策略。在該時間片段的末尾,用戶將獲得放置策略

πt 的服務質量表現cπt,同時自適應管理機制將利用時間片段內的所有信息,更新用戶行為特徵和放置策略與服務質量表現之間的潛在關係,即服務放置策略的網絡參數,具體算法如下。

算法1:基於在線學習的自適應服務放置算法。

初始化網絡中計算節點i相應的用戶特徵Bi=I、網絡估計參數μi=0以及其累積的上下文代價fi=0。

對於每一個時間片段t=1,2,…,T,執行以下操作。

● 根據計算節點i的網絡參數μi,再結合當前的用戶特徵b(t),依據湯普森採樣評估其相應的代價

边缘智能:边缘计算与人工智能融合的新范式

边缘智能:边缘计算与人工智能融合的新范式

,的計算節點

边缘智能:边缘计算与人工智能融合的新范式

作為當前的服務放置策略,並在時間片段的末尾收到相應的服務質量表現

边缘智能:边缘计算与人工智能融合的新范式

● 更新選擇計算節點

边缘智能:边缘计算与人工智能融合的新范式

相應的用戶特徵,

边缘智能:边缘计算与人工智能融合的新范式

,以及其網絡估計參數

边缘智能:边缘计算与人工智能融合的新范式

筆者對車輛在邊緣網絡中隨機行駛的場景進行了模擬,以此對所提框架的有效性進行驗證。圖3記錄了基於在線學習的自適應邊緣服務放置機制在不同時間片段下的服務質量表現,並同時與已知長期所有信息下的理論最優放置策略進行了比較。從結果可以看出,隨著時間的增加,所提機制不斷逼近最優的放置策略,這表明通過在線學習的方式能有效地優化策略制定。

边缘智能:边缘计算与人工智能融合的新范式

圖3 自適應服務放置策略與理論最優放置策略對比

4 基於因子圖模型的預測性邊緣服務遷移

前文介紹的基於在線學習的自適應邊緣服務放置機制主要利用用戶的統計性歷史信息,接下來介紹另一種利用用戶的預測性信息進行邊緣服務放置優化的方法。具體而言,筆者首先利用因子圖模型對用戶的位置進行預測,進而設計基於位置預測的邊緣服務遷移算法。

4.1 基於因子圖模型的用戶位置預測

為了進行精準的位置預測,筆者從用戶的歷史信息中提取了多個維度的特徵,如不同時刻的時間、位置、網絡狀態以及社交頻率特徵等,並使用因子圖(factor graph, FG)模型將其有效地整合到一個統一的框架之中。用戶在t時刻的時間特徵、社交頻率特徵以及網絡狀態特徵分別用邊緣智能:邊緣計算與人工智能融合的新範式表示。位置信息用yt表示。其中,時間特徵為從時間戳中得到的用戶的時間信息(比如具體時刻、工作日或者週末等),社交頻率特徵則是對用戶在該時段內各種社交行為特徵(比如發佈推文、刷新推文、轉發推文、預覽多媒體視頻、觀看多媒體視頻等)分別進行頻率計算得到的數據。網絡狀態特徵是指用戶當前所處的網絡狀態(Wi-Fi、蜂窩網絡或者無網絡連接)。空間位置信息即用戶所處的具體位置。如圖4所示,在同一時刻(例如t時刻),用戶不同類型的特徵與位置之間的關聯可以用

邊緣智能:邊緣計算與人工智能融合的新範式進行刻畫,其中i∈{h,s,n},h、s、n分別代表時間特徵、社交頻率特徵以及網絡狀態特徵。相鄰時刻之間的位置關聯用w(yt-1,yt)表徵,yt-1和yt分別代表用戶在t-1和t時刻的位置信息。因子圖模型可以很好地捕捉不同類型特徵之間的關聯,通過使用置信傳播算法對該模型進行訓練,最終,可以通過最大化後驗概率的方法獲得用戶下一時刻最有可能出現的位置。

x

边缘智能:边缘计算与人工智能融合的新范式

圖4 面向用戶位置預測的因子圖模型

同時,由於不同用戶的有效特徵具有較強的差異性,筆者利用Relief F(RF)算法對提取的特徵進行了用戶個性化篩選,以取得更好的預測效果。

4.2 基於位置預測的邊緣服務遷移方法

在保證較低的服務時延的要求下,服務應該根據用戶的移動性在不同的基站之間進行動態的遷移,然而頻繁的服務遷移會帶來巨大的代價(如額外的網絡帶寬使用和電力資源消耗)。因此,要考慮在給定長期成本預算C的情況下(T個時刻的預算)如何進行服務遷移決策,才能最小化用戶總時延。該問題可以表示為:

边缘智能:边缘计算与人工智能融合的新范式

其中,pt和yt分別表示服務和用戶在t時刻的位置,dt表示在t時刻是否進行服務遷移的決策。c(pt-1,pt)為服務遷移所需的代價,這和帶寬以及pt-1和pt之間的地理距離有關。用戶在t時刻感知到的時延用s(pt,yt)表示。這一問題的關鍵是每一時刻下的遷移決策dt。

一個具體的例子是,若用戶在t時刻從位置a移動到位置b,在t+1時刻又返回到位置a,那麼在t時刻是否需要服務遷移呢?如果無法預知用戶下一時刻的位置,一種最簡單直接的方法就是讓服務一直跟隨用戶進行遷移,這樣雖然能夠保證用戶的服務質量,但是會帶來巨大的服務遷移代價。當能夠預知用戶下一時刻的位置時,考慮到長期預測的限制,便能夠在t時刻進行更加明智的決策,以避免服務反覆遷移帶來的代價。這一例子充分體現了位置預測在遷移決策過程中的重要性,因此筆者考慮了基於位置預測的個性化服務遷移。

4.3 預測性延遲遷移算法

首先,筆者構思了延遲遷移(lazy migration,LM)算法。該算法通過“向後看”,對當前時刻進行服務遷移所需的成本和從上一遷移時刻到目前累積的非遷移時延進行權衡,進而決定是否遷移。如果累積時延不超過當前的遷移代價,那麼將一直延遲服務的遷移。進一步地,利用預測的用戶下一時刻的位置信息,筆者對算法進行了改進。在進行累積時延和遷移代價的權衡之前,筆者引入了一種“向前看”的機制。考慮到用戶未來可能的時延比過去的時延更具有決策的指導意義,筆者首先通過“向前看”估計用戶當前時刻和下一時刻可能會感知到的時延,並和當前遷移代價進行權衡。如果預知到在不遷移情況下,用戶接下來兩個時間片的時延很大,則直接進行服務的遷移,否則就使用延遲遷移算法進行決策,這就是預測性延遲遷移(predictive lazy migration, PLM)算法,見算法2。

算法2:預測性延遲遷移算法。

輸入:用戶的位置集合Y={y1,y2,…,yT},預測的下一位置集合Z={z1,z2,…,zT},向前看參數μ1和向後看參數μ2。

輸出:用戶訪問總時延和總遷移代價。

算法過程:

初始化t←1,m←y1,S←0,C←0

τ←1./*上次遷移的時間*/

for t = 1,2,3,…,T do

if yt≠m then

if c(m,yt)

m←yt;

τ=t;

C←C+c(m,yt);

else

边缘智能:边缘计算与人工智能融合的新范式

m←yt

τ=t;

C←C+c(m,yt);

else

S←S+s(m,yt);

end if

end if

end if

end for

圖5展示了在不同預算限制下,筆者提出的算法相較於不遷移情況下的時延減少率。延遲遷移算法(LM—非預測性和PLM—預測性)由於考慮了非遷移情況下的服務時延和遷移情況下的服務代價之間的權衡,相比於已有參考文獻的非預測性分期償還(original amortization,OA)算法和預測性分期償還(predictive amortization, PA)算法,能夠顯著降低服務總時延。同時,PLM算法相較於LM算法降低了13%的服務時延。該實驗結果表明,利用精準的位置預測,筆者能夠進行更加明智的服務遷移決策,從而減少用戶感知到的服務時延,提升用戶的服務質量。

边缘智能:边缘计算与人工智能融合的新范式

圖5 不同遷移代價約束下的延遲減少率

5 結束語

本文初步探討了如何通過協同邊緣計算和人工智能這兩種高速發展的新技術解決它們各自發展面臨的難題。具體而言,從邊緣計算賦能人工智能的視角,針對深度學習在終端設備高效部署的“最後一公里”難題,本文介紹了基於邊端協同的按需加速深度學習模型推理的優化框架,通過協同優化模型分割和模型精簡這兩種不同的策略,實現時延約束下的高精度模型推理。另外,從人工智能賦能邊緣計算的視角,針對邊緣節點大規模高密度部署帶來的服務動態遷移問題,本文分別介紹了基於在線學習的自適應邊緣服務放置機制以及基於位置預測的邊緣服務遷移方法。未來,邊緣智能作為邊緣計算和人工智能彼此賦能的嶄新範式,將催生大量的創新研究機會,在智能物聯網、智能製造、智慧城市等眾多領域具有廣泛的應用前景。

周知(1993- ),男,中山大學數據科學與計算機學院特聘研究員,主要研究方向為雲計算、邊緣計算和分佈式系統。

于帥(1986 - ),男,博士,中山大學數據科學與計算機學院在站 博士後,主要研究方向為無線通信、移動計算、機器學習等。

陳旭(1986 - ),男,中山大學數據科學與計算機學院教授、博士生導師,主要研究方向為邊緣計算、邊緣智 能、智能物聯網等。

《大數據》期刊

《大數據(Big Data Research,BDR)》雙月刊是由中華人民共和國工業和信息化部主管,人民郵電出版社主辦,中國計算機學會大數據專家委員會學術指導,北京信通傳媒有限責任公司出版的中文科技核心期刊。

边缘智能:边缘计算与人工智能融合的新范式

關注《大數據》期刊微信公眾號,獲取更多內容

往期文章回顧

基於百度貼吧的HIV高危人群特徵分析

CCF大專委2019年大數據發展趨勢預測

邊緣計算的架構、挑戰與應用

面向邊緣計算的資源優化技術研究進展

邊緣計算安全技術綜述


分享到:


相關文章: