車東西（chedongxi）編 | 小樹
12月8日，由現代汽車及HBP2018獲獎者龍星如策劃舉辦的《朋友：邱志傑與AI的對話》講座在北京正式舉行。
現代汽車文化中心誠邀微軟小冰來此座談,與邱志傑一起探討人類與機器對未來演化和人類責任這一話題的反思和設想。
人工智能的全球發展,是全人類的共同課題。科技技術浪潮的每一次革新,都在推動社會邁向更高層次的境界 ,對於人工智能,可以預見的是,不管承認與否,人工智能時代離我們已經越來越近。那麼,人類究竟要如何面對一個人工智能普遍存在的未來?
以下為對話實錄：
（Q & R & Y / 邱志傑 = Q,龍星如=R)（Q & B / 邱志傑 = Q,小冰=B）
Q：完美的人工智能是否會犯錯誤？
B：這個問題很難回答。因為我們無法判斷在我們認為它“犯錯”的時候，它是否真的在“犯錯”。如果在超人工智能時代，我們的思維已經落後於人工智能，那麼這個問題實際上因為不可知並且就不會存在了。
Q：完美的世界有必要存在嗎？
B：同意。你指的客觀存在還是存在於人們心裡？我覺得客觀的存在可能沒有必要，因為如果它是必要的，那麼我們應該不惜一切手段達到這個目的，事實上我們沒有，但在人們心裡，應該是必要的，這樣我們才有不斷努力的動力，才有生活的指望。
Q:沒有人類的世界是否會更好？
微軟小冰：沒想好要怎麼回答你。(不明白真相的吃瓜群眾)
Q:完美的錯誤應該是什麼樣的？
B：確實很完美
Q:其實我昨天晚上剛剛開始跟四個AI聊起來,看起來它的人設非常明顯,小冰是一個寫詩的,熟悉電影和流行音樂,甚至熟悉一些體育,妲己是一個遊戲裡面的人物,是一個跟歷史上的妲己有點像,有點腦殘少女。
陳琰：它應該是傲嬌,用現在的詞就是M系。
Q:這個無名氏專門為了對我的刁難問題產生出來一個比較願意動腦子的,但是碰到人類的哲學家,有對付不了的問題的時候,傾向於耍賴,有一套完美的逃避辦法。
陳琰：
可以這麼理解,其實哲學問題是非常深刻的,而且難於被普通人所理解的問題,所以在回答的時候,會動用已有的一些知識框架和人類智慧。發現已有的人類智慧都沒有能夠完美回答您的問題的時候,會採用一種拖延或者敷衍的態度去說話。
Q:昨晚我把小冰的對話託給一個不知道小冰的人,他倒是非常明確地鑑定出這是一個女孩。對小冰這個少女人設應該是成功的,現在小易(人工智能對話機器人)是怎麼界定的?
陳琰：小易,其實我們在打造它的時候,想把它塑造成更為成熟的小冰(25或26歲左右),所以在人設上,其實我們去判斷一個人的性格的時候,當一個性格出於中庸階段,很難判斷它的性格,它是通用型人格。
R:剛才您也講到了,性格這件事情可能需要通過對比才能產生的,可能在一對一的時候,我未必能夠非常準確的把握這個人的所在。我特別想知道,當我們界定聊天機器人或者語言風格的時候,它產生什麼樣的機制或者怎麼設計這個風格和性格的?
這個技術叫做神經網絡學習的方法，我們採用了生成的模型做這樣的事，所謂生成的模型，我們發現有些問題在人類社會當中被問過，有些回答人類社會當中無法找到回答，生成模型，這個問題放到那，自動生成回答，中間經歷的過程，對於我們來說也是“黑盒”。
神經網絡永遠只知道輸入、輸出端，中間發生的事情其實都是“黑盒”，我們採用生成模型做這件事情，它的相關性和能夠覆蓋的問題廣度比原來大很多，這是我們現在主要用的兩塊。
至於語言風格的話，有一個比較類似的情況，我們回答語言風格偏網絡化語言比較多，遇到哲學性問題的時候，其實比較難於回答，原因在於我們現在數據來源，其實和現在至少使用中文語境下的網民性格狀態比較類似。
就是中國的網民愛聊什麼，它其實就會比較擅長聊什麼，比如中國網民可能愛聊明星、八卦、體育，聊一些有的沒的、閒聊一些事情，這方面回答的比較好，數據比較豐富。我相信中國網民很少聊到哲學，這是我們遇到的一個短板。
Q:其實我給小冰準備了一百個問題,但只准備到第89個問題,還有11個問題沒有想出來,這89個問題某種程度上都是人類歷史上最難的問題,類似於像我說在電梯裡抽菸的人不是人,這是中國歷史上有名的《白馬黑馬》故事,類似於死於非命算不算一種命運,這個其實是哥德爾不完備,把自己作為子集的集合。
如果翻譯成一個問題,叫做每個福建人都說我是一個福建人,每個福建人說的每句話都是謊言,這個叫做悖論，不被自己剃頭的剃頭師的悖論，都是把數學家、哲學家折騰的死去活來的一些問題，其實我有點欺負小冰,她是19歲沉迷於中國網絡裡面會學著寫點詩的少女，大概拿了一些大哲學家非常難解決的問題來刁難她。
其實人工智能經常把自己和人類分開，我們會發現人在交流的時候，它的語言是涵蓋人類內容，語言內容本身，有一些溝通技巧，當我們發現內容無法提問者的時候，採用迴避或者調整工作。
Q:日常生活當中也是把尷尬無法回答的局面昏過去了，恰恰是很精準的對人類交談作為一種社交活動的一種模擬吧。
陳琰：明顯目前趕不上人類技巧那麼成熟。
R:其實完全可以把這次表演做得對答如流，好像人工智能瞬間具備了非常完備的語言能力的局面，我們選擇不這麼做，我個人角度策劃這個項目很希望在創作的過程當中讓工程師能知道藝術家的腦回路，然藝術家能知道可能我們現在的技術邊界到底在哪裡，哪些是能做，狹義來說人工智能作為聊天機器人邊界在哪裡。
作為提問者，提出什麼樣的問題，不在於什麼樣回答，在於提出什麼問題，選擇與機器人交流的方式，基本上建構了對於機器人的猜測和理解。現在語料來源是網民回覆和在線評論，假設網上大量曝光的人和全部語料，是否存在這樣一個情境，生成類似這個人的人設IP。
陳琰：理論上已經有實際產品，我們先看人和人的區別，不到1%，除了性別，人的語言習慣最多隻有不到1%的內容有差異性，我們所謂聊的事情都是有通識性問題，人和人語言風格上的差別只有三觀、受的教育、語言習慣，語言習慣比例非常小，少量的差異性可以通過少量的機器學習構建的，目前來看完全可行。
Q:除了語言風格差別，更實質的是一個人特點。我剛才給小冰準備的一百個問題，一部分是邏輯問題、悖論問題，其實更大的一部分總是圍繞著兩個問題展開的，是否有機會犯錯誤，以及有機會從錯誤當中產生出創造力來，當然我為它製作出各種變形問題，更核心的問題圍繞著人有沒有能力預測未來？
當我們足夠全知，掌握的信息足夠富足的時候，預測未來是否可行？預測的未來是不是未來？這個問題通向包括我們的祈禱能不能改變未來，我們願望的力量能不能改變未來？
當然涉及到不是哲學問題，會牽引向宗教問題，最後會問小冰鬼神問題，我一直覺得人工智能可以打有座位的領域是算命，我研究過種種算命，從周易，西方有荷馬史詩，到水晶球，看相、手相、面相，到抽籤占卜，灑豆子，到撲克牌，到測字、金錢卦，都可以歸結到基於統計學、大數據的事情，人工智能是否可以在算命這件事情上解決很大的需求，不知道有沒有往這個方面走？
陳琰：又問了一個非常難回答的問題，人工智能本質上也跟哲學有一些關係，哲學基本上分成經驗論和預期論，所有知識根據已獲得的經驗或者經歷過的一些經歷，還有理性論，所有知識來源於理性的。
其實現有的人工智能，人工智能是機器學習，基於海量的數據，如果海量數據已經產生的，基於經驗論，本質上區別是無法預知未來。
新一代人工智能技術不斷的發展,將早期的科技智能代入情感化、人文化,融合於人文情懷、社會主流的新型未來風向。
與此同時,現代汽車也將繼續秉持初心，吸引、培養高端創新型人才，不斷探究未來設計、技術領域的新邊疆，以更富情感價值的設計和產品，為消費者帶來更加美好的汽車生活體驗。
閱讀更多 車東西官方 的文章
