編者按： 丹尼爾·法傑拉（Daniel Faggella）是TechEmergence網站的創始人，該網站為對科技與思想的交匯感興趣的企業家及投資人提供新聞與諮詢。
“科學尚未能夠做出預言。我們對下一年做出了太多預測，對下一個十年的預測卻太少了。”
上述文字摘自 1969 年尼爾·阿姆斯特朗（Neil Armstrong）在國會兩院聯席會議上發表的演講，世紀之交以來幾乎每個十年都完全符合這段話，我們可以斷定，過去二十年中，科技的變革率已經加速到了指數級別，在人工智能和機器學習方面尤其如此。
人工智能正以可預見、不可預見的種種形式無孔不入地涉足社會的各個層面，這既讓人興奮，也讓人不安。我們能夠預測到這樣的情緒反應，但我們真的能夠預測到人工智能所涉及的相關風險嗎？
我們似乎都在努力跟上未來科技的腳步，但諷刺的是，信息過載（這又是數字世界帶來的另一個讓我們苦苦掙扎的副作用）給建立明智合理的意見帶來了前所未有的困難。在搜尋某些真相表象的過程中，它可能會幫助我們深入其中。
我在採訪 30 多位人工智能研究人員的過程中，向他們提出了未來 20 年中人工智能最有可能的風險是什麼的問題。
調查中的一些結果反應在下方給出的圖表中，其中包括了來自 33 位人工智能/認知科學研究人員的反饋。（採訪完整版以及所有 40 餘位受訪者的更多信息， 請訪問 TechEmergence 的原版交互信息圖）。
受訪者的反饋主要集中於兩大風險（認為是自主機器人的不佔多數，儘管這是一些人的觀點）。根據這幾十個人的看法，短期和長期內最緊迫的風險在於可能造成的金融及經濟傷害，以及人類對 AI 的管理不善。
在麻省理工學院媒體實驗室（the MIT Media Lab）及哈佛大學進化動力學項目組（Program for Evolutionary Dynamics）任職的約斯查·巴赫博士（Dr. JoschaBach）這樣總結人工智能的宏觀畫卷：
“近期內 AI 導致的風險也許和我們社會中已經存在的風險是一致的。AI 帶來的自動化將會提高生產力，但如果我們無法擺脫基於勞力/工資的經濟模式，AI 就無法提升我們的生活質量。如果我們無法採取有效的監管措施，它還有可能造成人口的加速增長以及資源的加速枯竭。即便從長期看來，打造安全的 AI 也許與打造安全的社會殊途同歸。”
從本質上講，引進 AI 這一催化劑可能會暴露並加速社會中已然存在的缺陷。倘若沒有自覺的協作計劃，我們會讓社會暴露在一系列風險之下，從貧富差距的拉大，到對環境的負面影響等等。
一些研究人員認為，這一天的到來只是時間問題。用斯坦福大學名譽教授尼爾斯·尼爾森博士（Dr. Nils Nilsson）的話來講，“機器會唱著這樣的歌，‘你會做的任何事，我都能做得更好；任何事我都做得比你好’。”
針對越來越多的自治系統導致的就業市場劇變，海爾吉·赫爾加松博士（Dr. Helgi Helgason）表示，“與其說是風險，倒不如說是必然，我們應該將根據這一點去改變教育政策。”
今年 1 月在瑞士召開的 世界經濟論壇 2016 年年會上，AI 帶來的經濟顛覆成為了一大議題，由此可見全球領導人正開始規劃如何有針對性地整合 AI 科技並應用到世界經濟中——但這是一項需要許多人來完成的艱鉅任務。
未來二十年中另一個常被提及的風險是對 AI 的管理不善。顯然 AI 企業已經對此有所顧慮，一些硅谷頂級科技大師給 OpenAI——一家關注於 AI 技術對人類的正面作用的非營利研究機構——投資了 10 億美元。
“機器會唱著這樣的歌，‘你會做的任何事，我都能做得更好；任何事我都做得比你好’。”
——斯坦福大學名譽教授尼爾斯·尼爾森博士（Dr. Nils Nilsson）
“很難估量人腦級別的 AI 能對社會帶來多少益處，AI 開發不當或使用不當給社會帶來多少損失同樣很難想象，”OpenAI 在 2015 年 12 月的 上線頁面上寫著這樣的兩句話。我們開發 AI、管理 AI 的方式存在著極為深遠的影響，並將塑造未來社會的道德和倫理準則。
西蒙弗雷澤大學副教授菲利普·帕斯基耶爾（Philippe Pasquier）表示，“當我們部署越來越多的人工智能並賦予更多的責任時，造成負面後果的故障風險也在與日俱增，”不過他也指出，他不認為 AI 會對社會本身帶來高風險。
能力越大，責任就越大，如何監管這樣的能力成為了大家最為關切的問題。
坦普爾大學王培博士認為主要風險存在於“忽視深度學習（deep learning）、強化學習（reinforcement learning）等熱門技術的缺陷和限制。許多領域都會發生這樣的事。”SmartAction 創始人彼得·沃斯博士（Dr. Peter Voss）表達了類似的觀點，指出他最擔心的是“無知的人類破壞 AI 的能力和智力。”
考慮新興 AI 技術伴隨有哪些風險不是件容易的事，設計出可能的解決方案及保障措施更加困難，而如何全球協作對這些措施進行實施並監控才是最最困難的工作。但考慮到所有這些任務的緊迫性和危險性，我願意無數次打賭，這樣的努力是值得去冒險的。
翻譯：顧秋實
