soc的ai有什麼用?

氫氧離子


我理解你的問題是:

SOC中的AI芯片起什麼作用?

這是個有意思的問題,也是現在各大手機廠商喜歡宣傳的亮點。

下面我來嘗試以華為第一款集成AI功能的SoC芯片麒麟970為例來解答一下。

1、什麼是SOC?

SoC,System-on-a-Chip,系統級芯片。SoC上一般集成了手機上最關鍵的部件,比如CPU、GPU、內存、還有其他功能芯片去NPU神經網絡芯片。

SoC可以理解為多個功能芯片的一個集成封裝。

上圖,華為麒麟970就是一塊典型的SoC芯片,集成了處理器CPU、圖像GPU、智能NPU、圖像處理ISP、基帶Modem等功能芯片。

手機功能越做越強,主板越做越小,體積有限,高集成度的SoC則能很好地提高集成密度,降低廠商開發難度。

2、什麼是AI(芯片)?

AI,Artificial Intelligence,人工智能。英文縮寫為AI。應用包括機器人、語言識別、圖像識別、自然語言處理等等。

圖中的神經網絡芯片單元NPU就是AI芯片。

手機智能化程度越來越高,需要對語言識別,圖像處理等多個方面進行功能拓展和加強,專用獨立的AI應運而生。

3、手機SoC中集成AI芯片有什麼作用?

那麼集成AI芯片具體有啥用呢?GPU和CPU協同工作不是也可以實現深度學習和智能運算嗎?

有人會說,傳統CPU+GPU能夠實現一定程度的智能運算,但是效率不高,能耗很高。

所以獨立的AI芯片的集成,就是為了提升設備上的機器學習和圖像處理的性能等智能運算能力,降低能耗而生的。

具體有沒有AI芯片有啥區別呢?

麒麟 970 的這顆 NPU專門為深度學習而定製,FP16 性能達到了 1.92 TFLOP,差不多是麒麟 960 的 3 倍(0.6 TFLOP 左右)。

華為在發佈會展示了一張在進行 AI 運算時,NPU 和 CPU、GPU 的對比圖。

可以看到,性能上NPU 是 CPU 的 25 倍,GPU 的 6.25 倍,能效比上,NPU 更是達到了 CPU 的 50 倍,GPU 的 6.25 倍。

還提到,在華為內部的測試中,麒麟 970 的 NPU 每分鐘可以識別出 2005 張照片,而不使用 NPU ,使用CPU+GPU組合的話,則每分鐘只能識別 97 張。

可以看來,搭載獨立AI芯片NPU後,手機的智能處理性能和能效,結果天壤之別。

這就是現在智能手機芯片為什麼SoC必須集成AI芯片的原因和作用。

上圖是蘋果A13芯片,我們也可以看到集成了Neural Engine神經引擎,也就是AI芯片功能。

4、手機AI芯片實現的功能應用

知道了集成AI芯片對手機節能增效有用,那麼具體對手機智能化應用有哪些意義呢?

(1)圖像處理

圖像處理是AI芯片的強項,有了獨立AI芯片,圖像處理更加智能,甚至不需要手動參與就有你想要的加強景深,馬賽克,刪除人像等功能。

(2)智能助手

如蘋果的Siri,安卓的翻譯助手,有了AI芯片加持後,就會效率更高,更加聰明,更加智能。

(3)AR應用和遊戲

(AR虛擬蘋果總部)

(AR遊戲表情)

AR也是AI芯片的應用場景之一。

相信隨著手機AI芯片的發展,智能化應用的場景會越來越多。


綜上所述,我們可以看到手機SoC集成AI芯片是當下人工智能技術在手機領域逐漸應用和普及的表現。

隨著手機性能的拓展和功能的增強,我們會看到更多、更強大的AI芯片出現在SoC上,這是一種發展趨勢。


EVtoday


SoC中所謂AI加速核其實就是針對主流的機器學習算法所具有的一定特徵,從計算層面對其中的運算過程,通過並行化處理進行加速。

那麼AI核為什麼能夠實現加速呢?

這裡就要引入一些通用計算與專用計算的概念了。傳統通用計算處理核心CPU,其執行指令過程中,雖然不同的架構有不同的方式,但都具有以下三個過程:取指、譯碼、執行。對於任意一條指令,即便起操作與上一條指令相同,只是數據不同,也同樣需要經歷這樣幾個步驟。由於通用計算需要支持很多不同的指令,因此具有極其複雜的電路結構,即便當下CPU核心普遍具有多發射/多級流水技術,也都支持SIMD操作,其能夠並行處理的數據量十分有限。換句話說,CPU太過強大不適合用來處理這種大規模、但是操作簡單的計算。

而專用芯片ASIC其內部電路結構是針對某種特定的計算方式而特製的,其電路驅動方式也由CPU的指令流驅動轉變為數據流驅動,內部電路能夠針對這種計算方式做針對性優化,芯片的吞吐率和算力對這種數據流而言,較CPU呈幾何倍數的提升。

當然,還有一種方式就是可重構計算了。可重構計算陣列由配置流指令驅動,只要結構設計合理,對SIMD操作同樣可以具有很好的效能/效率。

再回到AI算法。

當下所採用的AI算法普遍基於大規模的矩陣運算,矩陣運算的特點就是操作數巨大,但其計算簡單且單一,具有十分鮮明的結構特點,因此十分適合採用脫離出傳統CPU、GPU架構的方式,採用並行化處理的方式去計算。因此在人工智能領域,AI算法基本上不可能在CPU上實現,絕大多數算法的訓練都是在一些高端顯卡以及一些基於FPGA專用的加速芯片去完成的。

因此,在手機端無法負擔如此巨大的功耗限制下,採用基於AISC思路的特殊架構,如麒麟980/990,去提升計算效率的方案得到了普遍的採用。麒麟990達芬奇架構能夠支持超過300個AI算子,能夠對很多經典、常用AI算法實現硬件級加速。

從操作系統層面,針對AI加速核所提供的API可以被任何應用程序所使用,如題主提到的人臉識別但又不僅僅局在這個領域。AI核提供的是一種算力,任何基於人工智能算法的應用都能夠得到加速,如系統級的用戶習慣學習、小藝/小愛同學/Bixby等智能助手的學習、輸入法自動聯想、自動修圖、自動分類、AI攝影場景優化等等,都能夠通過這樣硬件級加速去提升用戶的使用體驗。

從另一種角度去思考,AI算力也為一門尚未得到全面發展的學科:計算攝像學,提供了必要的支撐,從而使得手機攝影質量的提升不再像傳統影像設備一樣,僅僅停留在硬件層面,順著“底大一級壓死人”的思路去提升效果。各種降噪算法、運動補償算法、摳圖算法、邊緣優化、像素補償算法,甚至是小到色彩優化算法、AI場景識別的應用、包括蘋果的Deep Fusion,都是基於這樣一種能夠提供強大的人工智能算力的芯片去實現的。說到這裡就必須要提一下Google去年的Pixel 3L,Pixel3雖然採用了單攝,但其憑藉出色的算法優化,做到了在某些不依賴於焦段的場景下,優於大部分雙攝、甚至三攝手機的拍攝質量和摳圖效果。Pixel 3L在拍攝時所使用到算法,多到連驍龍845都不足以提供支撐的程度,還在主板額外集成了一顆加速核來提供算力支撐。和蘋果今年的三攝系統一樣,這是一種影像領域的探索與嘗試,也是一種人工智能的深度應用,是值得敬佩和學習的。

因此,如你所見,AI核給手機帶來的不是噱頭,不是AI換臉、AI修圖,也不是像科幻電影那樣強大到成為一個實體的存在,更重要的是帶來了一種通過機器學習去提升用戶體驗的思路,使得手機成為你生活的幫手,而不僅僅是一個工具。

希望對你有所幫助!





奇樂多多多


目前的主流都是在soc內嵌AI處理器,比如海思麒麟和聯發科處理器, 基本兩家都不約而同地增加soc中AI處理器的性能,並已做到領先高通的地位。

那SOC中集成AI處理器的好處是什麼呢?其實最早一開始大家基本也是外掛的形式支持AI處理器,比如早期華為海思麒麟芯片就外掛寒武紀的AI處理芯片芯片,那為何後來都轉入集成呢?原因有二:

1.與SOC集成modem處理器一樣,會使芯片整體體積變小,功耗更少,更易於發揮處理器的性能。

2.AI處理器的技術對SOC廠商來說,技術門檻並不高,用別人的不如用自己的。這也是寒武紀目前最大的危機,被華為拋棄後,市場重心放在哪會是最棘手的問題。




分享到:


相關文章: