人工智能的發展能給人類社會帶來很多好處，但因為人工智能的發展仍有不確定性，比如它也許會脫離人類的控制或者發展到一定程度，因為過於複雜而超出人類的理解。美國前國家安全顧問和國務卿亨利·基辛格（Henry Kissinger）提出了人工智能發展讓人關切的三個領域。基辛格在《大西洋月刊》上發表文章認為：“從哲學、理性，以及各個方面來說，人類社會對人工智能的興起都毫無準備。人類現在必須要開始做出努力，否則不久後我們就會發現我們開始得太晚了。”
首先，人工智能可能會帶來意想不到的結果。基辛格認為，科幻小說已經描寫了人工智能成為社會主宰的未來情景，但更有可能發生的是，人工智能會因為其缺乏場景化的能力而誤解人類指令。基辛格提到了一個著名例子，一個做Tay的人工智能聊天機器人，它本來是被設計成用19歲女孩的語言模式進行友好對話。但最後，機器說出了很多種族主義和性別歧視、煽動性言論。它無法分辨什麼是“友好”與“合理”的語言。這個例子很好地說明了人工智能的模糊性，就是人工智能多大程度上能理解指令的背景？如果人工智能在早期階段出現錯誤，我們能及時糾正它嗎？還是說，人工智能自行其是，在出現問題前，人類很難發現微小的問題，直到它初始的微小的偏差隨著時間推移，變成災難才能被發現？
其次，在實現目標的過程中，人工智能可能會改變人類的價值觀和思維過程。比如，人類玩圍棋會有多個目的，除了想贏之外，還要學習能適用生活其他方面的道理。人類會總體判斷自己在下一次圍棋中的收穫。然而，人工智能只有一個目的，就是贏。那麼人類能夠學習它的方法嗎？這種一心一意地追求，是否是所有人工智能的特徵？未來，人工智能參與比賽，將會改變比賽的性質和影響。此外，很多人工智能被開發成了人類查答案的機器，進而改變了人類的思維方式。而關於現實是什麼以及生命的意義是什麼這樣的深層次問題，我們放心讓孩子自由地無約束地通過與人工智能對話來學習嗎？如果人工智能學習速度比人快，那麼我們要指望人工智能用更快的速度去試錯嗎？這個結果可控嗎？
再次，人工智能可能會實現目標，但沒法解釋它得出最終結論的理由。人工智能已經在很多方面超過了人類，但如果它的計算能力繼續增長，人工智能將來會用不同於人類改變環境的方式去改變環境，到那個時候，人類還可以理解人工智能選擇那麼做的理由嗎？或者說，人工智能的決策會超出人類語言和理性的理解範圍嗎？如果人工智能超過了人類意識本身的解釋能力，而社會不再能用對他們有意義的語言來解釋他們的世界，那麼人類意識會變成什麼樣？
以上是基辛格提出的人工智能發展中讓人關切的3個問題。他認為，要進一步發展人工智能，我們最好也對這些問題的答案有所準備。
閱讀更多 火星圖書館 的文章
