圍繞人工智能潛在風險的辯論已蔓延至整個科技行業，導致整個硅谷都想了解人工智能所帶來的不可預測的影響。
扎克伯格認為，他的好友兼硅谷億萬富翁馬斯克有點杞人憂天。
馬斯克是SpaceX公司和電動汽車製造商特斯拉的創始人，他在電視採訪中和社交媒體上向全世界發出警告，人工智能“可能比核武器更危險”。
2014年11月19日，扎克伯格在加州帕洛阿爾託的家中設宴招待馬斯克。作陪的還有Facebook新成立不久的人工智能實驗室的兩名頂級研究人員和另外兩名公司高管。
餐桌上，Facebook的團隊試圖說服馬斯克相信，他對人工智能的看法是錯誤的。但馬斯克並未因此而動搖。參加這次晚宴的Facebook人工智能實驗室研究人員Yann LeCun表示：“馬斯克當時說‘我真的認為人工智能是危險的’。”
從本質上講，馬斯克對人工智能表示擔憂的原因其實很簡單，就是如果我們創造出比人類更聰明的機器，它們可能會背叛我們。（就像電影《The Terminator》、《The Matrix》以及《2001: A Space Odyssey》裡所演的那樣）他對整個科技行業說，在人工智能徹底普及之前，請仔細思考我們現在正在研究的人工智能技術未來將會帶來怎樣意想不到的後果。
英語裡，“Superintelligence”這個詞是形容超人工智能技術的突破，表明人工智能已經提升到了更高的一個級別，併產生了不少人工智能機器。
這些機器不但能夠代替人類執行簡單重複的任務（比如無人駕駛汽車），還可以完成一些超出人類能力的任務，就和科幻小說裡的一樣。然而，圍繞人工智能的爭論已經蔓延至整個科技行業。
近日，谷歌4000多名員工就簽署了一份請願書，抗議該公司與美國國防部簽訂的900萬美元的人工智能合同。這筆收益微薄的交易令該公司的許多人工智能研究人員深感不安。
6月1日，谷歌雲計算首席執行官Diane Greene試圖安撫員工，並表示他們目前的合同將於2019年到期，在那之後，谷歌不會再續簽新的合約。
人工智能研究具有巨大的潛力和影響力，它既是經濟引擎又是軍事優勢的來源。中國政府表示，他們願意在未來幾年投入數十億美元，讓中國成為全球領先的人工智能技術國家，與此同時，美國國防部也正在積極尋求科技行業的幫助。
一種新型的人工智能武器即將誕生。各種行業大家們都加入了這場辯論。亞馬遜首席執行官Jeff Bezos在加利福尼亞州棕櫚泉市舉辦了一場年度會議，不少來自中部沿海地區的哲學家和科學家們紛紛前來參加。
“現在先忘掉科幻小說裡的場景，再來談談人工智能帶來的風險。”人類未來研究機構（the Future of Humanity Institute）的人工智能項目負責人Allan Dafoe說。人類未來研究機構是牛津大學的研究中心，專門研究先進技術的風險和機遇。
在過去的幾個月中，Facebook和其他科技公司已經向公眾做了很多宣傳工作，旨在提出硅谷的研發技術即將帶來的不可預測的風險問題。
4月，扎克伯格花了兩天的時間，回答國會議員提出的有關數據隱私和Facebook在2016年大選前傳播的誤導性新聞問題。就在上月，他在歐洲同樣遇到了類似的問題。
Facebook意識到，想要讓整個世界改變對人工智能可以造福人類的看法並進行反思是很困難的，不管人們是否真的喜歡它。
即使像微軟創始人比爾·蓋茨和已逝世的斯蒂芬·霍金這樣有影響的人物也擔心過創造出來的機器會比人類更聰明。儘管超人類智能看似還需要發展幾十年才能成熟，難道我們不應該趁著事情還不算太晚之前考慮一下這個問題嗎？
康奈爾大學計算機科學教授兼貝爾實驗室前研究員Bart Selman說：“我們正在研究的人工智能技術是非常強大的，但是我們也無法清楚知道它們可能帶來的影響。”
不完善的通訊軟件
Pacific Grove是加利福尼亞中部海岸的一個小鎮。1975年的冬天，一群遺傳學家聚集到了那裡互相討論他們目前的工作（基因編輯）是否最終會危害到全世界。
2017年1月，同樣的一個人工智能開發團隊也在這個小鎮上進行了類似的討論。
在Asilomar酒店舉行的那場私人聚會是由Future of Life Institute組織的。參加這次聚會的人都是為了討論有關人工智能以及其它科技的潛在威脅而來的。
人工智能領域的重量級人物都聚集在這裡——其中包括之前在帕洛阿爾託參加晚宴的Facebook人工智能實驗室的老闆LeCun先生，他曾經幫助開發過人工智能領域中最為重要的工具之一的神經網絡。
Nick Bostrom同樣也參加了晚宴，他在2014年出版的著作《Superintelligence: Paths, Dangers, Strategies》對於人工智能討論有著非常大的影響。前華盛頓大學計算機科學教授，在西雅圖接管了艾倫人工智能研究所的Oren Etzioni也在這一批人之列。領導著DeepMind（Google旗下的具有極大影響力的人工智能研究所）的Demis Hassabis也受邀出席。
當然，也少不了馬斯克先生，他在2015年向馬薩諸塞州的研究所捐贈了1000萬美元。童年，他還幫助建造了一個名為OpenAI獨立的人工智能研究所，併為其確立了明確的目標：創造出一個超級智能機器，並要確保其不會失控。這也使得馬斯克很明顯是與Bostrom先生站在一邊的。
讀了Bostrom的書之後受益匪淺。我們需要對人工智能保持警惕。它有可能比核武器更危險。
—— 埃隆馬斯克 (@elonmusk) 2014年8月3日
在休假的第二天，馬斯克參加了一個由九人組成的小組，專門討論超級人工智能的問題。每個小組成員都被問到了人工智能是否能夠實現這個問題。直到麥克風傳到馬斯克手裡之前，無論麥克風傳到誰的手裡，答案都是肯定的。
馬斯克斬釘截鐵的說了“不”。小禮堂裡充滿了會心的笑聲。所有人都知道馬斯克不僅覺得人工智能不太可能實現，甚至還覺得它很危險。
馬斯克隨後還補充說：“我們目前要麼就是走向人工智能的實現，要麼就是走向文明的終結。”
在這個座談會結束之際，馬斯克被問及社會該怎樣發展才能與人工智能共存。他回答道，我們需要做的是將我們的大腦與超級智能連接起來。幾個月後，他推出了一家名為Neuralink的初創公司，並且總共收到了1億美元的投資。這家公司的目標就是希望通過將電腦與人腦相結合，創造出一種所謂的神經界面。
當然關於人工智能風險的一些警告這幾年一直都有被提及。但是提出這些警告的人中幾乎沒有人有著像馬斯克一樣的技術信譽。就算有，也很少有人真正的在這方面花費大筆資金和時間。而且可能沒有一個人有著像馬斯克那樣複雜的技術背景。
馬斯克在扎克伯格家中的晚宴表示了對人工智能的擔憂。幾個星期後，馬斯克打電話給LeCun，想要知道人工智能資深研究人員的名字，並且這些研究人員可以協助參與特斯拉的無人駕駛計劃。
在最近的一次特斯拉財報電話會議中， 馬斯克批評了新聞媒體不夠關注那些明明可以通過自動技術避免的死亡——對於一個持續警告世界人工智能是具有危險性的人來說這次表態也是意義重大的。
馬斯克最近還因為公眾質疑其公司的財政損失以及擔心車輛質量等問題而焦頭爛額。
Palm Springs的戰鬥
在硅谷有這麼一句話：我們高估了自己花費三年時間能做的事情，並且低估了自己花費時間可以做到的事情。
2016年1月27日，谷歌旗下的DeepMind實驗室推出了一款可以在古老的圍棋遊戲中擊敗職業棋手的機器。在幾個月前的一場比賽中，名為AlphaGo的機器以五比零擊敗了歐洲冠軍樊麾。
甚至連高級人工智能研究員都認為開發出能夠完全解決這個遊戲的機器還需要再花上個十年。圍棋是很複雜的（可能存在的棋盤位子比宇宙中的原子數量還多），而且最好的棋手贏棋不僅僅是靠純粹的計算，更是要依靠自身的直覺。在AlphaGo推出前兩週，LeCun先生也說要造出這樣一個機器幾乎是不可能的。
然而就在幾個月後，AlphaGo還擊敗了李世石，過去十年裡最棒的一個圍棋手。這臺機器的棋法讓人類專家都感到困惑，而且還最終取得了勝利。
包括DeepMind和OpenAI領導者在內的許多研究人員相信，AlphaGo背後的自我學習技術為“超級智能”提供了一條道路。他們相信，這一領域的進展將在未來幾年顯著加快。
OpenAI最近“訓練”了一個系統並用其來玩賽艇視頻遊戲，在遊戲中研究人員會鼓勵它儘可能多地贏得遊戲點數。它確實能夠持續贏得點數，但是在過程中會不時旋轉，或者撞上石頭牆以及其它賽艇。
也正是這種不穩定性引起了人們對於人工智能（也包括超級智能）的擔憂。
但今年3月，亞馬遜和貝佐斯先生在Palm Springs舉辦的一個秘密會議上，對於這些擔憂的強烈反對數不勝數。
一天晚上，麻省理工學院(Massachusetts Institute of Technology)的機器人學家Rodney Brooks與神經學家、哲學家、播客作者Sam Harris就人工智能的潛在危險展開了辯論。《紐約時報》獲得的一段錄音顯示，這場辯論非常帶有個人色彩。
Harris警告說因為現今世界正處於一場人工智能的研發競賽中，研究員們可能根本沒有時間去確保超級智能是在完全安全的情況下被研發出來的。
Brooks則回應道：“這根本就是自己臆想出來的東西而已。” 他暗示Harris先生的論點是基於非科學的推理。這根本不能用來證明人工智能是好是壞——這是對科學家們的侮辱。
“如果他說的有道理，我自然虛心接受。”Harris說道。
一位主持人最終結束了這場辯論爭鬥，並向觀眾提問。艾倫研究所所長Etzioni接過了麥克風。“我就不走上臺說話了，”他說。但在Brooks的敦促下，他依然走上了舞臺，並針對Harris說了三分鐘的話。他說當今的人工智能系統開發依舊是如此有限，花這麼多時間擔心超級智能是沒有意義的。
站在馬斯克這邊的普遍是哲學家、社會科學家、作家——而很少有在人工智能領域工作的研究員，Etzioni說道。在人工智能科學家之中，我們應該開始擔心有關超級智能的概念的是其“已經變成一個非常邊緣的論點”。
扎克伯格出發去華盛頓
自從三年前兩人吃過一頓晚飯之後，扎克伯格和馬斯克之間的爭論就變的不愉快了。去年夏天，扎克伯格在自家後院錄製了一段和妻子在燒烤的Facebook直播視頻，視頻中他表示馬斯克對於人工智能的觀點是“非常不負責任的”。
在人工智能還未發展開來的如今就對其產生這樣的恐慌會使得很多跟人工智能相關的有利的事情也受到不能發展的威脅，例如自動駕駛汽車和人工智能醫療保護等，他說道。
扎克伯格表示：“我對於人工智能一直保持積極態度，我就是無法理解那些唱反調的人為什麼要鼓吹那些末日場景。”
換句話說：你想得太多了，馬斯克。放輕鬆點。
馬斯克也用推特進行了回應。“我跟扎克伯格談過這些，”馬斯克寫道，“他對於人工智能的理解依然有侷限。”
我跟扎克伯格談過這些，他對於人工智能的理解依然有侷限。
——埃隆馬斯克 (@elonmusk) 2017年7月25日
今年四月，扎克伯格走上國會參加聽證會，解釋Facebook將如何解決自己捅的簍子。
其中一個方法就是倚靠人工智能技術。但在他的證詞中，扎克伯格承認，科學家們還沒有搞清楚某些類型的人工智能是如何進行自我學習的。
他說道：“這對於未來幾十年裡我們會如何看待人工智能系統來說，會是一個非常核心的問題。現如今就有很多人工智能系統會在遠超人類理解能力的基礎上做出自我決定。”
科技巨頭和科學家可能會嘲笑馬斯克在人工智能上畏畏縮縮的態度，但他們似乎正在向他的觀點靠攏。
在谷歌公司內部，一個小組正在尋找可以欺騙計算機系統並使人查看不存在的東西的人工智能的缺陷。研究人員警告說，自動生成真實圖像和視頻的人工智能系統將很快使我們更難相信我們在網上看到的東西。
DeepMind和OpenAI的研究小組如今都開始致力於研究“人工智能安全”問題了。
DeepMind的創始人Hassabis仍然認為馬斯克的觀點有點極端。並且表示自己的觀點與扎克伯格一致。他認為人工智能並沒有危險，起碼目前沒有。但是如今Facebook的問題確實是一項警告。
Hassabis說道：“我們需要利用這段低谷時期，目前所有技術依舊還在控制範圍內，因此我們可以提前準備好應對事態變得更為嚴肅所要做的所有措施。我們目前的時間是很寶貴的，所以我們要更加充分地去利用。”
閱讀更多 PiPaCode在線少兒編程 的文章
