智能手機上也可以運行大型神經網絡嗎?

riogarfield

理論上可以,前提是硬件要足夠,算力足夠。

但神經網絡佔用大量內存並消耗大量電力,所以它們通常運行在雲端的服務器上,從臺式機或移動設備接收數據,然後發回他們的分析結果。

去年,麻省理工學院發佈了一款針對神經網絡優化的新型節能計算機芯片,該芯片可以使強大的人工智能系統在移動設備上本地運行。如何用一系列技術來設計更節能的神經網絡是主要問題。他們開發了一種分析方法,可以確定在特定類型的硬件上運行神經網絡將消耗多少功率。然後他們使用這種方法來評估用於削減神經網絡的新技術,以便在手持設備上更高效地運行。

神經網絡由數千乃至數百萬個簡單但密集相互關聯的信息處理節點組成,通常組織成層。不同類型的網絡根據其層數,節點之間的連接數以及每個層中的節點數而不同。

節點之間的連接具有與其相關的“權重”,這決定了給定節點的輸出將對下一個節點的計算有多大貢獻。在訓練過程中,在網絡中展示其學習要執行的計算示例,不斷重新調整這些權重,直至網絡最後一層的輸出與計算結果一致。

過去,試圖減少神經網絡功耗的研究人員使用了一種稱為“修剪”的技術。節點之間的低重量連接對神經網絡的最終輸出貢獻很小,因此其中很多可以安全地消除,或者修剪。

深度學習社區的許多活動一直致力於為計算受限的平臺開發高效的神經網絡架構。然而,大多數研究都集中在無論是縮小模型尺寸還是計算量,而對於智能手機和許多其他設備而言,由於電池使用和熱量限制,能量消耗是至關重要的這項工作採用了一種創新的方法來處理CNN [卷積神經網絡]體系結構優化,使用先進的新能量估算工具將功耗降至最低,並且與計算重點方法相比,它顯示出巨大的性能提升。


分享到:


相關文章: