脈衝神經網絡成為下一代機器學習?目標檢測首次嘗試,性能優越

歐界報道:

學習是人工智能領域的核心問題,對於SNN來說,基於脈衝時間層次的學習方法研究,對於通過理論模型來驗證生物神經系統的信息處理和學習機制是必須的。通過生物可解釋的方式建立人工神經系統,科學家希望可以通過神經科學和行為實驗來達到預期目的。

脈衝神經網絡成為下一代機器學習?目標檢測首次嘗試,性能優越

脈衝神經網絡將脈衝神經元作為計算單元,能夠模仿人類大腦的信息編碼和處理過程。不同於CNN使用具體的值進行信息傳遞,SNN通過脈衝序列中每個脈衝發射時間進行信息的傳遞,能夠提供稀疏但強大的計算能力。脈衝神經元將輸入累積到膜電壓,當達到具體閾值時進行脈衝發射,能夠進行事件驅動式計算。由於脈衝事件的稀疏性以及事件驅動的計算形式,SNN能提供卓越的能源利用效率,是神經形態結構的首選神經網絡。

脈衝神經網絡的學習方式主要包括無監督學習、監督學習和強化學習等。無監督學習算法在人類和動物的學習中佔據主導地位,人們通過觀察能夠發現世界的內在結構,而不是被告知每一個客觀事物的名稱。人工神經網絡無監督學習算法的設計主要是針對無標籤數據集的訓練,要求應用無監督學習規則對神經網絡中的連接權值或結構進行自適應的調整。

脈衝神經網絡成為下一代機器學習?目標檢測首次嘗試,性能優越

脈衝神經網絡的監督學習是指對於給定的多個輸入脈衝序列和多個目標脈衝序列,尋找脈衝神經網絡合適的突觸權值矩陣,使神經元的輸出脈衝序列與對應的目標脈衝序列儘可能接近,即兩者的誤差評價函數最小。強化學習是從環境狀態到行為映射的學習,以使智能體行為從環境中獲得的累積獎賞值最大。基於生物啟發的學習機制,人工神經網絡強化學習的研究重點在於探索智能體的自適應優化策略,是近年來神經網絡和智能控制領域的主要方法之一。

脈衝神經網絡成為下一代機器學習?目標檢測首次嘗試,性能優越

但我們亟待解決的問題是,在標準的硬件上模擬脈衝神經網絡是計算密集型的,因為這需要模擬微分方程。然而,像IBM的TrueNorth等仿神經硬件解決了這個問題,它旨在是通過使用特定硬件模擬神經元,該硬件可以利用神經元脈衝行為的離散和稀疏特性優勢來模擬神經元。

脈衝神經網絡的未來尚不明確,一方面,它是循環神經網絡的天然繼任者;另一方面,對於大多數任務來說,這還不是較為實用的工具。脈衝神經網絡在實時圖像和音頻處理領域得到一些實際應用,但文獻仍然較少。但是,現在有很多團隊正在從事脈衝神經網絡監督學習規則的工作,因此我對其未來發展保持較為樂觀的態度。

來源:線上採編,如涉及版權問題或者尋求報道,請及時聯繫歐界傳媒網 o2ojie.com!

歐界傳媒 | Jie Media

七年專注有深度的互聯網世界


分享到:


相關文章: