邊緣智能化是物聯網發展的必然趨勢

AI的熱度似乎壓過了物聯網,但是兩者有著必然的聯繫,那就是物聯網設備收集了大量數據,才為AI進行計算分析打下了基礎。根據IDC預測,到2020年全球會有超過500億的智能設備,超過2120億個傳感器。有研究機構預測,隨著物聯網的快速發展,到2020年每個互聯網用戶一天將產生大約1.5GB的數據,每個智能醫院每天將產生超過3TB的數據;每輛自動駕駛汽車每天將產生超過4TB的數據,一架聯網飛機每天將產生超過40TB的數據;一家智慧工廠,每臺設備上有很多個傳感器,時時刻刻都會產生數據,按照一千臺設備計算,那麼整個工廠每天產生的數據量將是1PB,到2020年全世界每天產生的數據總量將是44ZB(注意:1ZB=1x1012 GB)。

可見未來的世界就是一片數據的海洋,我們周圍都充斥著海量的數據。然而數據的價值在於分析利用,而非簡單存儲。數據量在不斷在增長,我們不可能把所有數據都通過網絡傳到雲端,帶寬增長的速度是慢於數據增長的速度。對於實時性要求較高的應用場景,我們需要在邊緣對數據進行判斷,比如自動駕駛、無人駕駛等領域。對於隱私保護要求比較高的場景,比如醫療信息或者用戶不願意進行雲端分享的數據,需要在本地進行存儲。因此數據處理從雲端轉移到邊緣端是一種必然趨勢。

數據處理從雲端向邊緣遷移

英特爾副總裁兼物聯網事業部中國區總經理陳偉博士分析,“傳統的物聯網更多是線性思維,物體產生數據,通過互聯網傳到雲端,分析產生價值,而如今的物聯網完全是立體三維的概念。現在產生的數據90%被浪費了,有的數據產生以後從排氣管裡面漏掉了,有的數據沒法挖掘,這是因為存儲和分析要有一個分佈。如今分佈式計算的概念已經比較成熟,現在全球講物計算,就是雲要拋到物裡面,做雲的人要把它的架構切到邊緣來,以解決邊緣的問題,所以業界對邊緣計算完全有共識。關於應用,一是實時應用;二是成本問題;三是分析和預測,過去只能是分析已經發生的事件,那麼怎麼通過發生的事件瞭解預測未來?四是精準性的問題,涉及信息安全、信息保密。”

邊緣智能化是物聯網發展的必然趨勢

英特爾副總裁兼物聯網事業部中國區總經理陳偉博士

帶寬、存儲、延遲和安全性是邊緣計算的驅動因素,預計2018年50%的物聯網部署將受到網絡瓶頸的限制,到2019難45%的數據將在邊緣進行存儲、分析和處理,因此深度學習的採用率不斷增長,2016年深度學習收入為6.55億,預計到2025年將增長到350億美元。

在邊緣進行數據處理也同樣需要人工智能算法,現在來看這一條件已經成熟。英特爾中國區物聯網事業部首席技術官兼首席工程師張宇博士分析,“從人工智能演進過程中可以看到,從最早的人工智能計算,不管是訓練還是推理都發生在數據中心,這是因為深度學習需要大量的計算,只有在數據中心運用一些通用的處理器才能夠提供如此巨大的計算量,以及提供這些計算所需要的能耗。近年來隨著人工智能技術的發展,無論在算法方面還是在芯片方面,人工智能都達到了一個很高的水平。在算法方面,很多網絡壓縮的算法已經被廣泛使用,從而降低了人工智能的計算量,同時用於人工智能專用的芯片以及FPGA,使一些深度學習的運算可以從雲端推送到邊緣,所以市面上出現了智能攝像機、智能網絡視頻存儲器、NVR等產品。”

注重視頻,OpenVINO助力邊緣側實現深度學習開發

英特爾將視頻稱為“眼睛AI”,也就是眼見為實,是因為視頻的數據量最大,也最複雜,濃度也最高,確實擠壓到了端到端的架構,人腦就在不斷處理通過眼睛看到的視頻內容,在AI領域就是機器視覺處理。對比邊緣設備和雲端設備,邊緣設備能夠承載的功耗,能夠支持的操作系統,能夠提供的內存容量都不同,所以在邊緣運行的算法要進行特定優化,因此對工具也有特定的要求。英特爾收購了 Movidius和Altera將FPGA等產品引入進來,性能和功耗比通用處理器表現更好。從硬件的角度來講,可以勾勒出一個功耗、成本最優化的解決方案。有靈活、有多元、有高質量的硬件是一個必要的條件,但是要將這些硬件直接應用到人工智能的應用上,還有很多的壁壘。

在整個系統端到端的網元裡面,不同的網元所提供的計算量不同,支撐的操作系統不同,適合的芯片架構也不同。比如一個攝像機功耗大概15W,提供給智能運算的能量2-3W,選用ASIC架構最合適;數據中心對靈活度要求較高,適合採用通用的處理器。而不同的芯片往往有不同的開發方法,也就是說當工程師針對某一種芯片所開發的軟件換一個架構就可能無法使用,這無形中就增加了開發難度。為了幫助客戶更好地進行視頻處理,英特爾面向中國市場推出了專注於加速深度學習並將視覺數據轉換為業務洞察的OpenVINO工具包,這將充分幫助企業在邊緣側快速實現高性能計算機視覺與深度學習的開發,為智能視覺開闢了一條堅實的創新路徑。

陳偉博士介紹,“OpenVINO工具包包括英特爾深度學習部署工具包,具有模型優化器和推理引擎,以及面向OpenCV*和OpenVx*的優化計算機視覺庫。模型優化可以把開發者基於一些開放的深度學習的框架所開發的網絡模型,針對開發者所選用的目標平臺進行優化,把這些優化的結果轉換成一箇中間表示文件,建成IR文件。下一步,推理引擎會去讀取IR文件,然後利用相應的硬件插件把這些IR文件下載到相應目標平臺上進行執行,所以這是當前的部署工具套件能夠解決的問題。OpenVINO工具包可通過基於英特爾架構的處理器(CPU)及核顯(Integrated GPU)和深度學習加速器(FPGA、Movidius VPU)的深度學習加速芯片,增強視覺系統功能和性能。”

在計算機視覺領域,業界有兩類方法被廣泛的使用。一類是深度學習,另一類是傳統的計算機視覺的方法。深度學習在做物體檢測、目標識別方面具有優勢,在替代傳統的計算機視覺。另外一些應用的場景,計算機視覺仍然有自己的用武之地,比如一些光流的計算或者圖像的增強,利用均衡的方式去做圖像的增強,傳統計算機視覺仍然是適用的,這是因為深度學習的基礎是卷積神經網絡,卷積神經網絡對於目標檢測和目標識別比較有效,但是對於圖像增強並不十分適用。陳偉博士強調,“在OpenVINO裡面,我們對這兩類方法都有很好的支持,OpenVINO包含一個深度學習的部署工具套件,可以幫助開發者把已經訓練好的網絡模型部署到目標平臺之上進行推理操作,因此,OpenVINO是幫助大家做推理的,而不是幫助大家做訓練的。”


分享到:


相關文章: