說起人工智能，我們往往會首先想到它所具有的無限潛能和可利用價值，它能模擬人的思維、處理複雜工作、提高生活質量......但當絕大多數人都在感嘆人工智能“無所不能”的魅力時，有一個人偏偏反其道而行之，開始研究起人工智能的“不能”。
這個人就是馬兆遠。作為一個科學工作者，他一直強調科學啟蒙的重要性，並有意成為科學知識的傳播者，而不僅僅是埋頭在實驗室搞科研的科學家。
今天為大家分享的這篇文章，便是馬兆遠老師在創作《人工智能之不能》一書時的心路歷程，希望大家讀過之後可以對馬兆遠老師和這本書，以及人工智能有新的認識和體會。
馬兆遠何許人也？
1997年通過全國物理奧林匹克競賽保送北京大學物理學院；
25歲獲得牛津大學物理學博士學位，師從“超冷原子之父”、英國皇家科學院院士Keith Burnett爵士；
為中國空間站“天宮四號”設計了世界第一個空間冷原子實驗平臺。
現任清華大學未來實驗室首席研究員，數字化先進製造研究中心主任，英國謝菲爾德大學智能製造專業終身教授。
著有《量子大嘮嗑》《人工智能之不能》。
正視人工智能的“不能”
只有知道了人工智能的“不能”，對人工智能的瞭解才算全面。科學不是靜止的結論，它的結論是演進變化的；科學工作者也不是秉持真理的聖徒，他們只是秉持著對宇宙和人的好奇心而探索的人類中的一分子。
知其不能而能，“學問之道無他，求其放心而已矣”。
一
會存在一個超級人工智能系統嗎？人工智能會超越人嗎？在《人工智能之不能》中我想分享我的答案和思考。
圖 |《模仿遊戲》
1936年，圖靈在論文《論可計算函數和在可判定問題中的應用》寫道：“按照我在本文中的設定，一個函數如果是機器可計算的，就是可計算函數……本文得出跟哥德爾的不完備定理極其一致的結論，尤其是，希爾伯特的可判定性問題是不可解問題。”
圖靈所指的“機器”就是我們後來說的圖靈機，圖靈這篇著名的論文是對哥德爾不完備定理的詮釋，他在文中指出了哪些問題是圖靈機做不了的，以此來拓展哥德爾的不完備定理證明。今天的人工智能設備，無非就是這樣那樣的圖靈機，沒有例外。
回溯歷史，竟然是人類先發現了圖靈機做不了的事，而後才發明了它。但圖靈機是如此的強大和成功，那些“它做不了的事情”很快就被淹沒在故紙堆裡。
我覺得我應該寫一些文字，向被遺忘的哥德爾等人類歷史上的偉大思考者致敬。和前一本我寫作的《量子大嘮嗑》一樣，我想以此做一些科學啟蒙的工作。而當我們能夠回溯科學的常識、回溯認知的常識時，會發現可以有更加平和的理解世界的態度 。
二
圖 | 牛頓
近現代科學從牛頓開始，凡三百餘年，大概經歷了兩個重要的階段。科學的第一個階段，雖然以牛頓力學為思想有了很多新的結論和方法，但一定意義上也還是舊的神學思想的延伸：存在一個客觀實在的主體，無非是這個主體從“上帝”換成了“自然”。至今我們依然不知道這是否一定是對的或者是錯的。這一階段，科學努力地把理性主義貫穿到科學的整體中去。因此要建立穩定的、可模型化的科學體系。
脫離了神的信仰，並沒有阻止科學的進步或者人們對真理的信仰，無非是哪個絕對真理的主張，可以是上帝，也可以是自然。人們相信有客觀的，不由人所左右的規律存在於宇宙中。這一點不難理解，既然上帝不是為人類造了宇宙，那麼人也沒有理由成為宇宙的中心或者是宇宙中最重要的物種。但人們有種內心的信心，或者說信仰，雖然不是天生的宇宙中心，但我們可以認識宇宙就好。
這自然滋生了人類的再次偉大的信心，人定勝天，認識世界是無窮盡的。
如果19世紀末的科學家有這樣的信心和勇氣，是普遍的共識，並不值得驚訝。從牛頓之後的兩百年已經取得了從自然到社會的重大進展，人們相信不僅自然可以認知，社會也可以，人心也可以。
在這個時候，這些知識也進入了中國，跟中國的傳統文化產生了激烈的鬥爭而慢慢地進入普通人的生活。科學也成為一個至高無上的名詞，代表了真理、正義。事實上它變成一個形容詞，等價於正確和不可侵犯，很多與科學無關的學問，也冠上了科學並以此為榮。
問題是一旦標榜自己為真理，就事實上成為它致命的弱點。一個反例就讓人們失去對它的信心，也讓本來陳舊的東西本來該進入歷史塵灰的東西死灰復燃。20世紀初，當“李約瑟之問”提出時，科學被或者捧殺，或者揚棄，艱難地在這個文明古國中開啟啟蒙之路。
三
但就在這個時候，科學迎來了第二次革命，進入第二個階段。這次革命與上一次一樣，似乎開始只是在科學界，但事實上，這一百年來，它的影響已經滲透出去，彌散到人類的整個認知領域。
然而，由於中國還在糾纏於第一階段的科學革命和傳統文化的爭執中，或者是對第二次革命的科學浪潮視而不見，而生生錯過了。
圖 | 愛因斯坦
但這由不得你的緩慢而停下來等，一場轟轟烈烈的舊科學的革命在20世紀二三十年代又開始了。這場革命以愛因斯坦對量子力學的建立和反對，以哥德爾對經典數學的擁護和反對為起始點。 這兩個本應該學術觀點對立的人成了莫逆之交，他們也從人類曠古爍今中呈現出來，他們倆自high，根本不在乎有別的人怎麼看他們。
事實上，海森堡不確定性原理和哥德爾的不完備定理，都指向人類認知過程中的不確定性。雖然哥德爾本人對此毫不關心，甚至是他受愛因斯坦影響，對量子力學沒有半點好感。
但只有這一片補上之後，我們才理解了科學為什麼是這個樣子。首先，科學不代表絕對真理。哥德爾不完備定理證明了任何一個有限的理論體系，都會存在無法被證明的問題，直覺上我們可以認知的問題，未必能夠被理性證明或證偽。任何一個可以認為是真的判定，都必然有有限的前提，而這些前提無法證明其本身是正確的。
而可能最讓女性讀者開心的是，直覺無法從人類的認知中排除出去，甚至是在人類的認知中更重要的部分。這一切結論似乎跟人們從亞里士多德時代努力建立起來的理性主義、客觀唯物主義不同，甚至有些離經叛道，但似乎這樣的認知才更符合人類認識的真實感覺。
是的，對宇宙的認知到底是怎樣的過程，宇宙是怎樣的，我們至今沒有一個好的結論，甚至這個結論本身就不會存在。因為這個結論也是宇宙的一部分。
四
我們曾經以為哥德爾不完備定理只是描述了一個小問題，但歷史的經驗告訴我們，一個偉大的理論的大廈，往往傾覆於一兩個反例。而以哥德爾為精神領袖的圖靈，把這個定理的適用範圍放大了。當我們用圖靈機來實現人工智能的任何一個算法的時候，並且圖靈宣稱每一個可描述算法都可以用圖靈機來實現的時候，不完備定理如幽靈般地被擴展到了每一個可描述的問題背後。可以說，圖靈機的應用有多廣泛，哥德爾不完備所涵蓋的範圍就更加廣泛。這一點，如同哥德爾第二不完備定理所講，是無窮盡的。
圖 |《美麗心靈》
需要指出的是，現在學校教授的課程，還停留在第一代所謂經典科學的範疇之內，即19世紀的科學理論。這樣的理論與人的認知發生衝突的時候，第一是讓以科學為新真理代言的人臉上難堪，進而憤怒，認為科學所不能解釋的問題更多，而科學本身也不可靠。第二，是讓本來就沒有了解科學基本思想的人重新去抱殘守缺，拿出老祖宗，如是說來他們覺得還是祖傳的可靠。然而敵人的敵人未必是你的朋友，在20世紀二三十年代，現代科學又一次革命了，對這次革命，我們的中學教育、大學教育都幾乎不去碰觸，不講，甚至是不知道。
回到人工智能本身，只有知道了人工智能的不能，對人工智能的瞭解才算全面。正如我們知道了理性的不能，對人類通過理性來認知世界才更全面。這似乎才是更貼近常識的科學，它不是靜止的結論，它的結論是演進變化的。科學工作者也不是秉持真理的聖徒，他們只是秉持著對宇宙和人的奧秘的好奇心而探索的人類中的一份子。
知其不能而能，“學問之道無他，求其放心而已矣”。在《人工智能之不能》中我們談到了認識原理：圖靈機保證了所有我們可認識可描述的問題圖靈機都能做到，但我們不能描述的問題，圖靈機也做不到，但我們不能描述的問題，我們也不懂啊！因此，從理性邏輯角度講，我們不比圖靈機強太多，但它們也不會比我們強。但我們有直覺，至少這一點是不同的，無法用理性邏輯來取代。
當然，我們討論的不僅是數學哲學。最近二三十年的物理學和數學進展，同樣告訴更多的問題超越了圖靈機，量子計算和計算複雜性問題，都超越了這一代圖靈機的能力。我們對人類的直覺來源、感情的產生還遠遠不能夠描述，好在科學本身只是日拱一卒的努力，不求包羅萬象的萬能理論，只是“進一寸有一寸的歡喜”的慢慢來，日子久了，定然就有長足的進步了。
《量子大嘮嗑》和《人工智能之不能》這兩本書寫作了五年時間，我希望繼續做胡適那一代人沒有完成的科學啟蒙——我們不僅要用科學武裝我們的生產力，更要用科學武裝我們的頭腦 。
（本文原載於《中國科技報》書後專欄，2020年3月26日第七版）
《人工智能之不能》
馬兆遠 著
＞以人工智能的根本邏輯，推演出人的不可取代
＞為什麼要讀這本書？本書用深入淺出的文字告訴你，人工智能能做什麼，不能做什麼，為人類未來釐清方向，也為你的工作、投資以及人生髮展方向提供幫助，教你選中不會被人工智能淘汰的行業。
閱讀更多 商業家 的文章
