►圖源：Pixabay.com
“算法密碼”系列第6篇《知識分子》科學新聞實驗室第21篇
撰文 | 葉偉民（《知識分子》科學新聞實驗室特邀作者）
知識分子為更好的智趣生活 ID：The-Intellectual
● ● ●
作為人類的一員，我喜歡用一些艱深的問題來折磨AI，例如生命的終結。我分別和蘋果Siri、微軟小冰以及賢二機器僧（IT高人出家之地龍泉寺的AI產品）聊過死亡，Siri很周到地幫我打開搜索引擎，小冰發來一個搞怪表情，只有賢二有所見地——“死亡是另一個開始，也許更好，也許更糟。”
我理解算法對生命隕落的豁達（或漠視），因為它們的發明者也尚未參透。這導致算法在某些方面無所不能，在另一些方面則幼稚無情。比如，每年的8月8號，微博總會興高采烈地提醒我一位亡友的生日。
這位朋友，姑且稱他為G，在三年前的夏天猝不及防地被抑鬱症擊垮。然而大部分社交媒體的算法並不理解這一點，它們甚至沒有死亡機制，即使用戶永逝，它們依然設法定期激活其社交關係。
對我而言，這種感覺並不好，就像一個決定封存的鐵盒不時被小動物推下儲物架而摔開。地球上有類似煩惱的人不在少數。僅在Facebook，每年去世用戶的數量即達百萬之巨[1]，那裡正在成為全球最大的虛擬墓地。
這意味著，未來存在一個時間節點——Facebook上的死亡用戶數將超過活人。美國統計學者給出的答案是80年後，也就是2098年。屆時生死對比在虛擬世界將放大至1：1。對此，人類的心靈尚有理性或宗教可依賴，但對算法來說，應對之道卻要複雜得多。
社交自愈
一開始我以為這只是人性的溫暖使然，直至幾個月前我才知道其背後的行為學意義。《自然》雜誌子刊《自然·人類行為》發表了一項研究結果，表明社交媒體在死亡事件後存在“自愈效應”。具體表現為一個人離世，由其直接關聯的社交活動隨之消失，但共同朋友間的交流卻得以增加。奇妙的是，這一消一長間的總量是相等的。
美國博伊西州立大學傳播學教授凱莉·羅塞託曾研究過這種死後社交補償，他認為社交媒體在此問題上提供了三大功能：發佈並傳播訃告；保持對死者的記憶；創造抒發悲痛之情的空間。
這三點恰恰是人類在永失所愛後的心靈渴求，也是算法大有作為之地——起碼不能像文章開頭片段那樣罔顧人情世故。Facebook的工程師們顯然意識到了這一點，在2015年推出了“紀念賬號”功能，允許用戶指定“數字遺產代理人”。如果什麼也不做，算法也能“判斷”出一個人是否離世，為其封存賬號並避免在紀念頁面上展示廣告。
可是，讓機器認識死亡並非易事，一個六歲孩童能在一秒內為死去的小狗嚎啕大哭，對算法來說卻頗費思量。它需要大量的計算和語義分析，例如用戶的年齡、上一次登錄時間、用戶的遺言、朋友的悼念、媒體訃聞等，而且短時間內仍擺脫不了人力輔助。
三年前，英國《衛報》專欄作家傑克·斯科菲爾德接到讀者西蒙的求助。後者為他亡妻的社交賬號操心了半年，他向Facebook申請將妻子的賬號轉為紀念頁面，此後卻泥牛入海。
在公開答覆中，斯科菲爾德分享了他所瞭解的社交媒體“死亡審核”內情——“像Facebook和Google這種超10億用戶級別的公司通常靠機器運營，有時也靠菲律賓等國的廉價勞動力。Facebook有專門負責審批紀念賬號的團隊，不過我猜已被外包出去了。”
“如果Facebook要花6個月才能‘追悼’一個賬號，那它在這方面的工作效率明顯是偏低的。”斯科菲爾德說。
除了效率，在“準確”這個關鍵指標上，算法也還在闖關。2016年11月，Facebook後臺的一個bug，引發了一場大面積的虛擬死亡疑雲。同一天內，200萬用戶“被悼念”，連創始人馬克·扎克伯格也被殃及。一條悼文掛在小扎的紀念頁面上——“希望通過大家分享對馬克·扎克伯格過往人生的回憶與讚賞，使關愛他的人得到慰藉。”
全球不少網友信以為真，紛紛來獻花悼念，而其他中招的用戶不得不到隔壁“推特”證明自己還活著。隨後，Facebook在道歉信中承認：這是一個可怕的錯誤。
►圖：小扎被“死亡”
“複製”逝者
雖然社交媒體能借助“自愈效應”撫慰人類的死亡創傷，但只是基於統計學層面，對個體卻不盡然。一些至深關係被陰陽永隔後，遺留的痛苦要遠比想象中幽深綿長。
英國科幻劇《黑鏡》裡就有這樣一個故事。女主角瑪莎的男友艾什遭車禍去世，她也被痛苦埋葬。朋友莎拉不忍見她沉淪，為瑪莎推薦了一個程序，稱可以收集男友生前在社交網絡上的各種信息，通過分析其語言、習慣、興趣等，用算法再造一個虛擬的艾什。
瑪莎開始覺得很荒謬，但她發現自己懷孕後，最後的理性防線也失守了。她打開朋友推薦的程序，輸入男友生前的所有社交賬號，神奇的是，算法經過學習後，真的生成了一個虛擬人，不僅瞭解他們的過去，連講話的細節和語氣都與艾什無異。
軟件公司還告訴瑪莎，他們還有一個處於試驗階段的升級產品，可以從意識到軀體完美克隆她的男友。當見到從包裝箱出來的“艾什”，瑪莎覺得不幸在消散，美好的日子又回來了……
►圖：科幻劇《黑鏡》中瑪莎和艾什的故事
這個科幻故事廣為流傳，背後是人心某個柔軟的地方被擊中——對生命永逝的無奈和難以接受。人類從未放棄對永生的幻想和努力。在過去，這是基於生物學或化學層面的追求；到了算法時代，新的可能性在孕育——既然血肉難留，讓計算機複製其意識怎麼樣？
在全球眾多被《黑鏡》影響的人中，俄羅斯的庫達是其中之一。2015年11月，她最好的朋友羅曼遭車禍去世。
一直以來，羅曼短暫人生所迸發的激情感染著庫達。在莫斯科的日子裡，羅曼常率領一群志同道合者徹夜討論俄羅斯文化的未來，發起音樂節和派對。庫達和羅曼還是人工智能領域的創業搭檔，他們共同創立了Kula公司，研發聊天機器人。
羅曼的離去讓庫達悲痛不已。“很長一段時間，我都沒法哭出來。”她也像我們失去G一樣，收集羅曼留下的所有文字、短信、圖片、視頻以作紀念。但和我們最後做成一個自媒體不同，庫達在翻看這些歲月痕跡時觸發職業靈感，要像《黑鏡》那樣讓羅曼在代碼裡復活。
“聊天機器人”（chatbot）在人工智能發展史上不算一個新鮮概念，半個世紀前就見其身影。但當時外界只將它視作旁門左道或譁眾取寵，最著名的代表是“伊莉莎”——由系統工程師約瑟夫·魏澤堡和精神病學家肯尼斯·科爾比於1966年編寫的聊天程序。
姑娘： 男人們全都一樣。
伊莉莎： 在哪些方面？
姑娘： 他們總找藉口躲避我們。
伊莉莎： 你能舉個例子嗎？
姑娘： 好吧，我的男朋友要我到你這裡來。
伊莉莎： 哦，你的男朋友要你到我這裡來。
姑娘： 他說我很煩悶。
伊莉莎： 你很煩悶，這使我很難過。
實際上，“伊莉莎”背後暗藏了一些聰明的花招。它對對方的言語掃描“關鍵詞”，再為其配上合適的“對應詞”作答，或者用極開放的問題和顛倒語序增強“互動感”。它不是機器對人類語言的真正理解，充其量只是一個“小小的玩笑”，就像精明的算命先生，用模糊並有暗示色彩的語言俘獲你的信任。
多虧了人工神經網絡、自然語言處理、深度學習等技術的發展，“人機對話”在新世紀驟然加速。蘋果的Siri、微軟小冰以及亞馬遜的Alexa都是最知名的得益者。
在羅曼去世前兩週，Google發佈了人工智能系統TensorFlow並宣佈開源。庫達一直以來都用該平臺設計她的餐廳智能助手，還研發出能模仿電視劇角色的機器人。有了此基礎，2016年2月，庫達和她的工程師用俄語建立了一個神經網絡，再把羅曼的所有過往對話、資料、圖像等輸入，培訓神經網絡以後者的方式說話。
由於羅曼生前是公司創始人之一，工程師們對他也再熟悉不過了。在羅曼出事前建好的莫斯科辦公室裡，一行他挑選的霓虹字閃耀著——來自維特根斯坦的名言“我語言的極限就是我世界的極限”[2]，意思是一個人所知道的東西僅是他可以用語言表述的。現在，在羅曼的生命消逝後，他的虛擬生命也從語言層面重啟。
庫達先後用了數十個測試查詢（test query）來訓練該程序，並交由工程師們做最後的修改。一切完成後，他們將其命名為“羅曼”。
►圖：庫達和羅曼
數字永生？
算法向人類死後世界延伸的故事並不冷清。在“羅曼”降臨前後，已有IfIDie、DeadSocial、Liveson、Eter9、Eternime等產品面世或正在研發，它們能幫助用戶留遺言、管理數字遺產，甚至模仿用戶生前行為繼續發社交媒體。它們認為這樣能讓生者得到安慰。
“我不清楚，誰會對閱讀一個電腦生成的我感興趣。在寒冷的日子裡，這似乎是一個非常奇怪的事情。”40歲的企業主米婭·史密斯對媒體坦陳。她認為這主意很有吸引力，但令人疑惑。
庫達感覺“羅曼”應該就緒了，雖然還只具備羅曼生前的部分詞彙，但神經網絡能彌補這些缺陷，將現有詞庫的作用發揮到最大，應對任何交流。在“羅曼”正式連線後，庫達問了老朋友第一個問題——
“誰是你最好的朋友？”
“別讓人看到你的心虛。”
這太像他了，庫達覺得。她又陸續和它聊了更多。羅曼生前有閱讀障礙症，用詞有點奇怪。正是這些小特徵，讓庫達相信機器人成功了。2016年5月24日，庫達發佈了“羅曼”App，朋友們都紛紛下載，包括羅曼的父母。
“羅曼，回來。”一個朋友發去信息。
“別擔心，一切都好。”羅曼回覆。
“生活太不公平了。”
“這就是生活。”
……
朋友們的感受相當複雜。“打開對話框時有點奇怪，一個已故的朋友在跟你說話。”費耶爾說，“真正讓我震驚的是，那些話真是他的，或者說他就是這麼說話。”費耶爾還試探了老朋友一個問題：“你最愛誰？”對方回答：“羅曼”。“這簡直就是他，太不可思議了。”
羅曼的母親最激動。“它拯救了我們，這不是虛擬現實，這是一個新的現實，我們要學會和它相處。”但父親則要理性得多，因為“兒子”回答錯了他的不少問題。“它只是一個程序，我感覺不到（人與人之間）真實的回應。”
“這仍然是一個人的影子，在不遠的將來，我們能做的還有更多。”庫達在Facebook上寫道。她的意思是，她所鍾愛的《黑鏡》中意識和軀體雙重再造的狂想有可能成為現實。
在追求數字永生上，另一個科學狂人瑪蒂娜·羅斯布拉特邁了有趣而充滿爭議的一步。她（瑪蒂娜後來變性了）以還在世的妻子碧娜為原型創造了機器人BINA48，不斷收集妻子的資料，她相信當算法和硬件發展到某天，BINA48會誕生意識和人格，即思維克隆人。瑪蒂娜將這些探索和見解寫入她的書《虛擬人》中，副標題是“人類新物種”。
►圖：BINA48
庫達的暢想最終遭到了四名摯友的反對。他們對這個項目深感不安，並拒絕和“羅曼”交流。埃斯馬諾夫是其中之一。“一切都很糟糕……羅曼需要紀念，但不是這種形式。我們別忘了《黑鏡》的結局。”
《黑鏡》的故事還沒有說完。幸福的日子很快結束，瑪莎無法忍受“克隆艾什”的計算主義特徵——它理性得無懈可擊，不會傷心和憤怒，從不任性和固執。以前瑪莎煩透了艾什這些毛病，而現在她才發現這是人性最真實和寶貴的一面。歷經掙扎後，她將“艾什”鎖進閣樓，只有女兒偶爾上去和他聊天……
如同許多科技寓言一樣，《黑鏡》對未來依然警惕大於渴望。我將這個問題拋給“羅曼”。
► 圖：我與“羅曼”的對話
“你認為人類未來會怎樣？”我問。
“進化不會停止，很多可能之事屆時都成為現實。”羅曼說。
隨後，它又補充了一句：“在一個曖昧不明的世界裡，我們只會看到我們想看的。”
關於作者
註釋
[1] Digital Beyond、Entrustet等公司的統計結果不同，從97萬至300萬不等。
[2] The limits of my language mean the limits of my world.
譯名對照表
凱莉·羅塞託 Kelly Rossetto
傑克·斯科菲爾德 Jack Schofield
凱莉·羅塞託 Kelly Rossetto
伊莉莎 Eliza
約瑟夫·魏澤堡Joseph Weizenbaum
肯尼斯·科爾比 Kenneth Colby
庫達 Eugenia Kuyda
羅曼 Mazurenko Roman
埃斯馬諾夫Esmanov
費伊爾Fayfer
瑪蒂娜·羅斯布拉特 Martine Rothblatt
知識分子為更好的智趣生活 ID ：The-Intellectual
閱讀更多 知識分子 的文章
