導讀
人工智能會威脅人類的言論一直未斷過，“人工智能（AI）自創語言”，“人工智能自創外星人語言啦”，經常關注人工智能這一話題的朋友可能會發現這種論調最近甚囂塵上。人工智能（AI）自創語言了？對，你沒聽錯！就在最近，發現它們竟自行發展出了人類無法理解的獨特語言，這源自一些媒體的誤讀和炒作。
國外媒體爭相報道
《每日電訊報》、《都市地鐵報》、《獨立報》、《鏡報》等各大媒體都“freak out”了……
大致就是，Facebook研發的人工智能發明了自己的語言，程序員恐慌了，趕緊關閉了機器。
真相解讀
但這實際上是臉書（Facebook）的人工智能研究所在對兩個聊天機器人對話策略迭代升級時進行的研究。研究人工智能是否能（非監督地）獨立的正確的進行對話，對檢驗 AI 是否能夠真正理解人類潛在真實語義和抽象概念的重要里程碑。
就是這樣的一個“小bug”竟然引發如此軒然大波，鋪天蓋地的媒體報道過度解讀成了一段堪比“終結者”的機器失控，以及人類為了自我解救展開的“屠殺”。這是不是讓我們想起了一個成語“三人成虎”呢？
今天我們一起全面回顧和分析這個事件，看一段對話引發的人工智能的討論。
新聞報道
這種報道據稱來自7月31日美國投資諮詢網站ValueWalk報道：
上週末，Facebook不得不關閉其人工智能系統，原因是聊天機器人開始用自創語言對話，全然無視程序員下達的指令。“由於情況失控”，研究人員只得終止人工智能系統的全部活動。
事件起因——機器人用自創語言聊天
Facebook公司公佈的Bob與Alice的對話
Facebook公司公佈了聊天機器人鮑勃和愛麗絲的對話節選翻譯：
Bob:i can i i everything else . . . . . . .
鮑勃：我能我我所有其他東西……
Alice:balls have zero to me to me to me to me to me to me to me to me to
愛麗絲：球有0給我給我給我給我給我給我給我給……
Bob:you i everything else . . . . . . . . .
鮑勃：你我所有其他東西……
Alice:balls have a ball to me to me to me to me to me to me to me
愛麗絲：球有一個球球給我給我給我給我給我給我……
Bob:i i can i i i everything else . . . . . .
鮑勃：我我能我我我所有其他東西……
Alice:balls have a ball to me to me to me to me to me to me to me
愛麗絲：球有一個球給我給我給我給我給我給我……
看完這些，我等吃瓜群眾不經感慨：這是什麼鬼，在爭一個球麼？其實這看起來更像語法錯誤。感覺更應該讓機器人好好學習英語，設置好英語語法編程。
報道解讀
報道稱，研究人員起初對機器人用自創語言聊天一事感到困惑，但之後他們發現，機器人其實是在用一種更復雜的方式來處理手頭任務。
Facebook的人工智能研究人員杜魯夫·巴特拉認為，就像有時人們會“抄近道”用行話對話、以便快速解決問題一樣，人工智能機器人也會自創語言，做類似的事。
巴特拉說：“為什麼計算機必須在英語語言界限範圍內工作，如果它們能用一種看上去（對它們來說）更好的語言彼此更快地溝通？”
報道稱，即便巴特拉所言有理，人工智能可自創語言也構成新威脅，因為這將使研發人員在創造構建人工神經網絡時遭遇更大困難。目前，尚不清楚人工智能機器人能否推翻操作人員的指令。
事件助推器—— 馬斯克和扎克伯格曾隔空互懟
發出這種報告的起因源於Facebook開發的聊天機器人自創出人類無法理解的語言後，再加上前不久，兩位科技大佬曾在上個月隔空互懟過：
左：扎克伯格（Mark Elliot Zuckerberg） 右：馬斯克（Elon Musk）
因為巧合的是前不久Facebook創始人扎克伯格和電動汽車公司特斯拉CEO馬斯克，他們在前不久剛剛就人工智能在Twitter上發起過討論：
社交網站上截圖
作為一個名副其實的科技狂人，馬斯克擁有電動汽車公司特斯拉，太空探索公司以及挖掘地下隧道交通的“無聊”公司，即使如此，馬斯克仍是“人工智能威脅論”的支持者，他認為人工智能會大量取代人們的工作，很多人會因此失業。
針對此言論，Facebook創始人扎克伯格在直播中直言馬斯克“極不負責任”，並表示在未來的5到10年裡，人工智能（AI）將大幅提高人們的生活質量。
對於扎克伯格“不客氣”的評論，馬斯克又在Twitter予以回應，稱扎克伯格對人工智能的理解“有限”。
在談到他們的對人工智能理解上的分歧時，前Twitter CEO則表態支持馬斯克的觀點，認為扎克伯格對未來技術顯得過於樂觀。
以上便是兩位科技大佬“爭吵”的主要內容。所以“Facebook機器人自創外星人語言”言論順勢而來，看似扎克伯格就這樣結結實實被打臉了。
倫敦帝國學院教授、DeepMind高級研究科學家Murray Shanahan的評論也許可以總結這個荒謬的局面：臉書這個實驗性代碼出了個有趣的小故障，結果就被不負責任的媒體盯上了。
Murray Shanahan社交網站截圖
AI可以模擬出不同的可能性
如果人類真的被這個因為這個小小的bug，而對人工智能望而卻步，但其實比起人工智能“自創語言”,AI在這個過程中學會了說謊，才更加值得我們去關注。
研究人員為了訓練AI像人類一樣談判而設置了一個遊戲：分配2本書、1頂帽子和3個球。這3樣物品在雙方心中的價值各不相同。如果一方能通過談判拿下高價值物品，就能獲得獎勵。最終目的，是為了讓機器人理解這些物品對自己的價值，進而去和對方談判。按照設定，雙方想要的東西不會相同，且必須得出結果。
遊戲設置
You：“我想要帽子和球。”
Follow：“我也想要帽子，但我可以讓給你書。”
You：“我不要書，你可以拿走書和1個球。”
Follow：“2個”You：“可以，成交。”(對You來說，帽子價值最高）
為此，研究人員找來5808段人類對話，讓AI進行學習和模仿。然而，AI不僅學會了如何表達自己的需求，還學會了“智能行為”€€€€通過“說謊”進行談判。與其直接說出它想要的物品，AI會先假裝自己對另一個低價值物品感興趣，只為了稍後“假意讓步”換來真正想要的物品。
根據人類對話，AI會模擬不同的可能性
Batra表示，AI學會談判技能因為它們發現這一戰略是有效的，能幫它們拿到遊戲獎勵。這證明，人工智能是可以像人一樣，學會智能思考和談判能力。在很多次評估中，實驗者甚至不能分辨和它談判的是真人還是AI。
閱讀更多 數據先行者 的文章
