01.22 “神經網絡”的逆襲:圖解80年AI鬥爭史

“神經網絡”的逆襲:圖解80年AI鬥爭史

轉自 | 螢火蟲程序員沙龍

有人的地方,就有鬥爭。

華山派有“劍宗”和“氣宗”,相互鬥了幾十年。人工智能界也有“山頭”,AI兩大派系的鬥爭早在第一臺電子計算機問世前就已經開始了。

“神经网络”的逆袭:图解80年AI斗争史

△ 有三名法國人把兩派的勢力對決畫成圖,名字叫“神經元的復仇”

這兩大派系就是:

  • “符號主義”(Symbolicism),又稱邏輯主義、計算機學派,主張用公理和邏輯體系搭建一套人工智能系統。

  • “連接主義”(Connectionism),又叫仿生學派,主張模仿人類的神經元,用神經網絡的連接機制實現人工智能。

在符號主義者的眼裡,人工智能應該模仿人類的邏輯方式獲取知識,而連接主義者奉行大數據和訓練學習知識。

1

派系鬥爭與兩次AI危機

早在達特茅斯會議之前,圖靈就提出過“圖靈機”這樣的人工智能前沿概念。鬥爭之初的幾十年間,連接主義派的論文引用率一直領先對手。

“神经网络”的逆袭:图解80年AI斗争史

別看奉行“連接主義”的機器學習如何風光,早年間他們長期受到另一個派別——“符號主義”者的鄙視。

60年代初,美國國防高級研究計劃署(DARPA)對AI領域進行了數百萬美元的投資,人工智能也迎來的第一黃金髮展期。

第一次AI危機

情況在1969年起了變化,“符號主義”代表人物馬文·明斯基(Marvin Minsky)寫了一本名為《感知器》(Perceptron)的書,結果直接把神經網絡給寫死了。

“神经网络”的逆袭:图解80年AI斗争史

感知器是那個年代的神經網絡。明斯基在書中向“連接主義”發難,你們的感知器連最基本的異或(XOR)都做不到,做出來還有什麼用?

也是在那一年,閔斯基獲得了圖靈獎。

“符號主義”派勝利後不久,AI就迎來了第一次寒冬。或者說,計算力的匱乏導致了第一次AI寒冬,幫助“符號主義”實現逆襲。

符號主義的高峰

到了70年代中期,專家系統(expert system)的出現帶來了AI的黃金時代。它其實就是一套計算機軟件,能夠模擬人類專家回答問題,不過它的智能僅侷限在一個很窄的領域,說它是“活字典”可能更準確。

“神经网络”的逆袭:图解80年AI斗争史

與此同時,“連接主義”也在悄悄發展,約翰·霍普菲爾德(John Hopfield)在1982年發現了具有學習能力的神經網絡算法。

就在“符號主義”志得意滿的時候,Lisp machine的失敗讓兩派力量再次發生了逆轉。Lisp是當時研究AI領域常用的編程語言,Lisp machine是專門被優化用來運行Lisp程序的計算機。

“神经网络”的逆袭:图解80年AI斗争史

80年代,研究AI的學校都買入了這種機器,最後卻發現用它們做不出來AI。之後就出現了IBM PC和蘋果機,比Lisp machine便宜,運算力更強。

Lisp machine順理成章“狗帶”,AI進入第二次寒冬。

連接主義的逆襲

“連接主義”者在這時候也找到了更簡單的統計方法:支持向量機(SVM),它消耗的計算資源更少。之後,長短期記憶(LSTM)算法也被提出。

“神经网络”的逆袭:图解80年AI斗争史

後來的事情,你們也知道了,深度學習終於又重新霸佔了學術和工業界。

時間再回到當下,從2010年開始,機器學習成為AI行業主導。人工智能在機器學習的幫助下,取得了巨大的成就,標誌著AI的徹底復甦。如今最熱的AI概念均出自“連接主義”派。

近年來,計算機硬件的發展更是讓“連接主義”如魚得水,連手機的計算力都能完成識圖的任務,深度學習能實現“反殺”也就不奇怪了。

2

雙方代表人物

說到兩派的鬥爭,就不得不提一下雙方的“將領”了:

“神经网络”的逆袭:图解80年AI斗争史

符號主義派:馬文·明斯基(Marvin Minsky),麻省理工人工智能實驗室創始人之一,他奠定了人工神經網絡的研究基礎,早在1951年,他設計構建了第一個能自我學習的人工神經網絡機器。

“神经网络”的逆袭:图解80年AI斗争史

連接主義派:約翰·霍普菲爾德(John Hopfield),美國科學家,在物理學和計算機學方面均有很高的成就,1982年發明了聯想神經網絡,也就是知名的霍普菲爾德網絡。

“神经网络”的逆袭:图解80年AI斗争史

△ 兩派之間也相互引用文章

除了這兩位名人外,符號主義這邊的大牛還有Herbert A. Simon、Allen Newell。如今連接主義當道,這一派的大佬更為我們所熟知:比如Yann LeCun、李飛飛、Geoffrey Hinton等人。

關於兩派更詳細的內容,有興趣的同學可以看原文,不過是全法文哦:

https://neurovenge.antonomase.fr

-End-


分享到:


相關文章: