06.12 優化AI芯片能效 Thinker團隊提供新思路

目前，AI對硬件的計算要求越來越高，這主要在神經網絡研發上壓縮與簡化則是一個學術界與工程界都在研究討論的重要問題。目前的深度神經網絡普遍較大，無論是在雲端還是在終端，都會影響網絡速度，增大功耗。

前不久，清華大學微納電子系Thinker團隊在計算結構上設計了Thinker系列AI計算芯片，並且還受到學術界和工業界的廣泛關注。Thinker團隊此次研究成果，從存儲優化和軟硬件協同設計的角度大幅提升了芯片能量效率，給AI計算芯片的架構演進提供了新思路。

據瞭解，在這次AI計算芯片的存儲優化新方法中，刷新了神經網絡加速框架，而且可以得到兩個優化方向，其一是減少數據生存時間，其二就是增大數據維持時間。其次，還提出神經網絡分層的混合計算模式，根據芯片參數及DNN網絡參數，對網絡的每一層分配一個最優的計算模式。

但是，相比於傳統的採用SRAM的AI計算芯片，使用RANA框架的基於eDRAM的計算芯片在面積開銷相同的情況下可以減少41.7%的片外訪存和66.2%的系統能耗，使AI計算系統的能量效率獲得大幅提高。