超低功耗邊緣AI芯片新突破!能效達競品百倍,解密背後三大要素

超低功耗邊緣AI芯片新突破!能效達競品百倍,解密背後三大要素

芯東西(公眾號:aichip001)編 | 心緣

芯東西2月13日消息,AI芯片初創公司Eta Compute推出首款量產的邊緣AI芯片ECM3532,以僅100µW的功率可實現物聯網中的在線圖像處理和傳感器應用,號稱能效是其競品的100-1000倍。

ECM3532為雙核(Arm Cortex-M3和NXP CoolFlux DSP)SoC,可支持用於電池供電或能源採集設計的微瓦級傳感器融合應用。

“我們相信功耗、延遲、數據生成以及射頻傳輸都是限制許多傳感應用的因素。” Eta Compute首席執行官Ted Tewksbury表示,新芯片解決了物聯網消費級和工業應用中的電池容量問題。

01

首款量產芯片,預計今年Q2量產

Eta Compute成立於2015年,在美國和印度擁有35名員工,迄今為止已融資1900萬美元。

ECM3532是Eta Compute的第一個量產產品。其前身ECM3531僅作為工程樣品提供,它們使用相同的內核,但在新版本中增加了SRAM和閃存。

先前的版本還在微控制器內核上運行連續電壓和頻率縮放(CVFS)技術,但是在ECM3532中,Eta Compute已將該技術擴展到微控制器和DSP內核。

ECM3532的樣品現已上市,預計將於2020年第二季度開始量產。

02

能效比競品高100-1000倍

Eta Compute稱其設備為“世界上最節能的邊緣AI處理器”,旨在處理物聯網中的AIoT或AI應用。

其典型的應用是在不將數據發送到雲的情況下,實現傳感器融合、聲音分類、圖像分類或人員檢測等功能,以最大程度地減少無線傳輸過程中的功耗。

Tewksbury表示,由於這些物聯網終端的功率預算有限,芯片的功耗實際上必須低於1mW。

他介紹道:“由於我們的能效(比競爭對手)高出100-1000倍。對於給定的電池壽命,我們可以進行100-1000倍的推理;或者對於相同的功能水平,我們可以擴展電池壽命。”

03

超低功耗的三個關鍵要素

Eta Compute如何通過現有內核實現這種功耗水平?據悉,該公司有三個關鍵要訣。

首先,Eta Compute擁有一項專有的電壓和頻率縮放技術,該技術擁有七項專利(還有八項正在申請中的專利)。連續電壓和頻率縮放(CVFS)允許調整DSP和MCU內核的電壓和時鐘頻率,以滿足物聯網設備的可變工作負載。

Tewksbury解釋說:“內部電源電壓(可調整)與該時鐘速率相對應。因此,當時鐘速率較低時,我們可以將電壓一直降低到維持該時鐘速率所需的最小值,而當頻率升高時,我們可以提高電壓。由於功率隨電壓的平方變化,因此我們可以大大降低功耗。”

超低功耗邊緣AI芯片新突破!能效達競品百倍,解密背後三大要素

傳統的動態電壓和頻率縮放方法是通過更改PLL(鎖相環)的狀態來實現的,這需要時間。而Eta Compute的CVFS技術無需使用PLL,因為時鐘頻率是通過自定時架構在內部確定的。

“我們沒有PLL,因此無論是在時間還是在電壓上,我們都可以非常快速連續地進行操作。每個時鐘週期我們都在監視工作負載,並以使每次推理能量最小化的方式調整時鐘。” Tewksbury說:“我們還在不斷改變電壓,因此它不僅像我們的一些競爭對手一樣具有離散數量的電壓,而且還能以連續的方式從0.54V一直變化到1.2V。”

另一個關鍵因素是該芯片的混合多核架構,它是Arm Cortex-M3 MCU內核和NXP CoolFlex DSP內核的組合。CVFS技術在兩個內核上都獨立使用,也就是說,它們可以在不同的電壓和頻率下運行,以最大程度地減少能耗。

據Tewksbury介紹,這兩個內核均可用於AI / ML工作負載,並指出信號調節和特徵提取等工作負載更適合DSP。工作負載通過軟件在內核之間分配。

Eta Compute超低功耗的第三個關鍵要素是針對特定應用的神經網絡優化,相比標準TensorFlow框架的設計,它可將電源效率提高一個數量級。

原文來自:EETimes


分享到:


相關文章: