中國類腦計算最強大腦碰撞!清華北大中科院大神解密技術進展

中國類腦計算最強大腦碰撞!清華北大中科院大神解密技術進展

芯潮(ID:aichip001)文 | 心緣

芯潮10月31日消息,今日,由北京智源人工智能研究院主辦的2019北京智源大會在京舉辦。

在下午的智能體系架構與芯片專題論壇中,清華大學教授、類腦計算研究中心主任施路平,北京大學教授、智源研究員蔡一茂,中科院半導體所研究員、智源研究員魯華祥,分別分享了關於類腦神經網絡技術及芯片的現狀、挑戰及研發進展。

中國類腦計算最強大腦碰撞!清華北大中科院大神解密技術進展

此外,中科院計算所研究員、智源研究員韓銀河現場分享了其團隊在智能控制專用處理器芯片的研究進展,清華大學長聘教授、智源研究員尹首一分享了關於可重構智能計算架構的技術,此前智東西曾多次報道這一技術(清華魏少軍:AI芯片2.0,終極智慧芯片 | GTIC2019)。

尹首一教授認為,可重構、超高能效、數模混合等將成為未來AI芯片繼續提升算力、降低功耗、提高能耗比的必然發展方向。

一、類腦計算是人工通用智能的基石

清華大學教授、類腦計算研究中心主任施路平首先提到,國家腦計劃即將推出,其題目就是腦科學和類腦研究。

中國類腦計算最強大腦碰撞!清華北大中科院大神解密技術進展

人工通用智能發展很快,但同時也面臨很多挑戰。

如果有充足數據、確定問題、完整知識、靜態、單一問題,現代AI系統就能做很好,但超出這些條件,AI將難以實現。另外,AI不可理解、不可解釋的特點,一點偏差就可能產生巨大錯誤。

現在的AI只能解決特定解決方案,就事論事,難以推廣,不適用於動態和開放的環境,通常稱為弱人工智能。

未來發展方向是人工通用智能技術,通過增加AI系統的魯棒性和通用性,幫人類舉一反三。

人工通用智能早在幾十年前就已經提出,但當時受限於算力、數據等因素,並不是發展人工通用智能的最好時機。

中國類腦計算最強大腦碰撞!清華北大中科院大神解密技術進展

那麼為什麼說現在是好時機呢?施路平教授提及4個因素,隨著新型檢測設備的發展,人們對腦理解越來越多,似乎到了理解腦的關口;超算髮展可以讓我們做更好的模擬仿真;大數據雲計算提供足夠複雜的系統與腦交相輝映;新型納米器件的發展能提供和人腦差不多級別的能耗。

人工通用智能的研究本質上不同於窄人工智能的集合。而類腦計算是人工通用智能的基石。

2016年是類腦計算機發展元年,全球同時上線3款類腦計算機,美國的TrueNorth、德國的BrainScales、英國的SpiNNaker,這些技術基於不同思路,使用不同架構。

做這樣的研究,真正的挑戰不是科學技術,而是我們的教育背景無法支撐這樣跨度大的研究。

做計算機科學和腦科學走的是兩條技術路線,而要發展人工通用智能的最佳路線,需要做到多學科深度融合。

施路平教授認為,類腦計算的發展方向,現在是基於馮諾依曼架構的傳統計算機,未來是走向人工通用智能、類腦架構的類腦計算機。

他提到類腦計算的10個優勢,不僅能耗比現有計算機節省3-4個數量級,能實現現在超算做不到的高度並行,做到現有架構無法實現的理解能力、不確定性、通用智能架構,而且其快速學習、小數據、信息深度挖掘、實時動態、殘缺數據的能力都比現有系統能力更為強大。

二、現在是類腦計算研究最好的時刻

類腦計算從大方向上有兩條技術路線,Brain inspired和Brain Like。

中國類腦計算最強大腦碰撞!清華北大中科院大神解密技術進展

圖靈獎得主、計算機體系結構宗師David Patterson與John Hennessy認為,未來十年是計算機架構發展的黃金十年。

目前這一領域是春秋戰國,對研究而言是最好的時刻。施路平教授將主要類腦計算芯片分為7個層次。

中國類腦計算最強大腦碰撞!清華北大中科院大神解密技術進展

清華大學類腦計算研究團隊過去七年一直在做的事情就是融合。美國腦計劃負責人之一、惠普公司威廉博士認為,清華團隊是類腦計算研究領域全球最好的團隊,他將用這個中心的模式組建美國的項目。

清華類腦計算研究的目標是發展支撐人工通用智能研究的類腦計算和系統。

類腦的精髓是方向感,通用類腦計算架構的難點是算得快、算得省、算得了,這需要理論、芯片、軟件、系統協同發展。

要研究類腦計算,應從基礎科學、核心技術、應用三個層面來看,同時也要關注安全與倫理。

中國類腦計算最強大腦碰撞!清華北大中科院大神解密技術進展

施路平教授認為,現在所有技術發展最好能有一個roll,能得到很好的反饋。發展類腦計算面臨的首要問題是,不理解人腦機制的情況下如何發展類腦計算系統。

為什麼人看一眼就能理解圖片內容,而計算機卻做不到?問題的關鍵是相關性丟失。

腦利用的是空間複雜性,將相關性增加。另外,用時間脈衝編碼又利用了時間複雜性。三年前,《Science》出智能機器人特刊,施路平教授將這一解釋發表出來。

中國類腦計算最強大腦碰撞!清華北大中科院大神解密技術進展

基於其異構融合的類腦計算架構,清華大學研發出天機芯片,相比IBM的True North,不僅支持更多算法,且密度提高20%,速度快10倍,帶寬提升100倍,精度可調,擴展性和靈活性也更好。清華研究團隊還為之打造了專門的軟件工具鏈。

天機芯片已經被應用於類腦無人自行車,施路平教授表示,這取決於三個條件,多模態、可與環境交互、可擴展。據他回憶,他們曾被《Nature》拒絕了兩輪,施路平告訴學生,不是為了發表文章,而是向他們學習。最終《Nature》接受了他們的想法。(重磅!清華類腦芯片登上Nature封面,已成立公司,顛覆馮諾伊曼)

中國類腦計算最強大腦碰撞!清華北大中科院大神解密技術進展

目前,清華大學類腦計算研究團隊在內部已搭好第一代類腦計算機及集群,形成迴路並快速迭代。施路平教授表示,隨著更多類腦計算機啟動後,他們會做一個類腦計算雲腦(開源社區)。

這樣強大的類腦計算能賦能哪些應用呢?施路平教授說,如果實現人工通用智能,類腦計算可以應用到互聯網、數據中心、智慧城市、智能教育、智慧醫療、智能家居、自動駕駛、智能機器人等各行各業。

三、神經擬態器件選擇有很大空間

北京大學教授、智源研究員蔡一茂則重點從神經擬態器件進行分享。

硬件是AI發展的關鍵瓶頸,AI芯片研究成為熱點。

當前各類智能芯片方案的優劣性對比,可從自適應、性能、能效比、可編程性、可擴展性五個方面來看。ASIC的性能和能效比更強,CPU和GPGPU強在自適應和靈活可編程,FPGA在五方面的綜合表現更為均衡,而神經擬態芯片在可擴展性、能效比、自適應、性能上都非常出色。

中國類腦計算最強大腦碰撞!清華北大中科院大神解密技術進展

在這一背景下,神經擬態器件/陣列/芯片成為研究熱點。基於憶阻器等神經形態器件及其類腦架構具有重要意義,器件選擇還有很大的空間。

除此之外,蔡一茂教授還核心談了兩點。

一是能否大規模集成式關鍵,如何進一步減小器件種類,提高集成密度。

中國類腦計算最強大腦碰撞!清華北大中科院大神解密技術進展

二是關於類腦應用的挑戰及解決方案,即需要實現從器件及系統(算法)的協同設計。

對於神經形態計算系統而言,面臨的一大挑戰是缺少像MOSFET一樣的標準化器件,這增加了電路實現的複雜性,EDA工具的設計變得複雜,阻礙了大規模神經形態計算系統的發展。

而在多功能神經形態器件中,離子輸運和電子輸運分別對應兩類馳豫過程。離子輸運既有長馳豫時間,可模擬有記憶效應的突觸和神經元的積累過程;電子輸運具有短馳豫時間,可模擬無記憶效應的開關和神經元的發放過程。

基於CMOS工藝的類腦芯片採用NOC多核設計,隨機LIF神經元模型,設計規模單芯片神經元數目為10^6個,突觸數目為10^9個。

該芯片具有很好的通用性,可支持MLP、CNN、RNN等主流神經網絡模型,也可支持通用智能任務中的特定算法。

其靈活性體現在支持對神經元及突觸參數的點對點配置,可在有效推斷間隙實現快速參數更新。

另外,該芯片還具有生物性,支持生物時空編碼,可實現複雜類型生物脈衝及任意週期的脈衝振盪環,可有效支持生物計算模型。

在此基礎上,北大研發了離線語音指令識別智能芯片SCR3301,支持語音命令詞識別、30個可配置命令,識別響應不到0.2秒,且單芯片無需啟動配置,無聯網約束,可應用於電動交互類、控制類玩具、便攜式電子娛樂設備以及中小型家電設備。

中國類腦計算最強大腦碰撞!清華北大中科院大神解密技術進展

四、類腦神經網絡技術及其應用

中科院半導體所研究員、智源研究員魯華祥談到,信息處理技術發展面臨性能、能耗、可靠性、容錯性等方面的問題。

應對這些挑戰,創新芯片結構及運算方式應運而生,芯片成為AI技術發展的核心推動力。

與此同時,集成電路發展也面臨著摩爾定律和微納電子器件瓶頸所帶來的的問題。

隨著摩爾定律日益放緩,器件尺寸和芯片功耗接近極限,目前集成電路特徵尺寸已達3nm,規模工業生產達到7nm。

採用7nm工藝、集成了69億個晶體管的華為麒麟980芯片,研製週期長達3年,花費數十億美元,1000多位高級半導體專家參與,進行了5000多次的工程驗證。

新型納米電子器件研究也在持續推進,半導體所利用的Si基或GaAs、InP基III-V超晶格量子阱材料,發展了多種納米電子器件。

而生物神經網絡是缺陷容錯和噪聲容錯的系統,這帶來一種新的思路,將微納電子器件研究與類神經網絡研究相結合,集成新形態結構的芯片。

中國類腦計算最強大腦碰撞!清華北大中科院大神解密技術進展

目前,類腦神經計算在國外用以解決下一代信息處理問題,以更低的功率開創全新計算機應用。歐盟、美國、日本、澳大利亞、加拿大、韓國均提出腦計劃。

“中國腦計劃”是我國六個長期科學項目之一,分為腦科學和類腦科學兩個部分,主要有兩個研究方向,一是以腦疾病為導向的腦科學研究,二是以建立和發展AI技術為導向的類腦研究。

類腦神經計算目前有兩種主流的實現路徑,一是以谷歌TPU為代表的功能模擬實現,二是以神經擬態芯片為代表的結構模擬實現。

中國類腦計算最強大腦碰撞!清華北大中科院大神解密技術進展

魯華祥還介紹了半導體所類腦神經計算、芯片的發展狀況。其實驗室在1990年王守覺院士於原“新器件、新電路”研究室基礎上創立,面向計算方法、技術應用和芯片系統三大方向,取得一系列科技成果。

中國類腦計算最強大腦碰撞!清華北大中科院大神解密技術進展

半導體所借鑑人腦的信息處理機制進行類腦神經計算的算法和芯片研發,聚焦於“多權值”神經元模型和電路實現、串並行計算架構、局部字域結構、分佈式異步控制技術、神經元集群架構設計等芯片關鍵技術。

芯片方面,半導體所已研發出CASSANN系列類腦神經計算芯片,採用40nm CMOS工藝,集成16個神經元集群,4000萬門、1億個左右的晶體管,芯片內含65536個神經元,200萬神經突觸,每秒262億次神經突觸連接。

中國類腦計算最強大腦碰撞!清華北大中科院大神解密技術進展

半導體所也研發了基於CASSANN-X的類腦神經計算系統,用以解決福州最優化問題。其成果已經應用在智能電網監測等“不確定、非完整信息”問題。

未來,半導體所將進一步研究三個方向,一是不精確、非完整信息的類神經計算技術和系統,二是高性價比的類神經計算芯片、系統和設計技術,三是缺陷容錯和噪聲容錯的電路集成技術。

結語:AI芯片未來有更多可能

國內外類腦神經計算的相關研究都在持續開展中,從今天的分享中,我們看到了來自國內多個研究團隊所做的努力和成果。

但目前類腦神經計算技術仍主要在研究階段,僅有少數落地成果,距離大規模落地和實現人工通用計算還有距離。

在圓桌論壇期間,中科院計算所研究員、智源首席科學家陳雲霽分享了他對AI芯片未來的暢想。

陳雲霽說,科學問題是過去時,智源看的是將來時。他認為,未來中短期的變化是定義好領域,自動化用EDA等工具實現快速生成;更長遠來看,有可能從頭到尾無人干預地由計算機設計出一款芯片,或許有一天神經網絡能設計出一款神經網絡芯片來。

這一暢想雖然乍一聽似乎很遙遠,但在研究人員們的努力下,這在未來未必會是天方夜譚。


分享到:


相關文章: