2020年開年,阿里巴巴表現亮眼。
很少有人關注到,就在去年年底,阿里巴巴正埋頭另一樁大事。
阿里研發成功了一項高科技。
但他們決定放棄。
一夜之間,軒然大波!
業內人士表示,阿里放棄的,不止是一項技術,還有源源不斷的可觀收入。連阿里巴巴也承認,願意為這項技術付費的客戶不計其數,甚至有不少人願意為此支付高昂費用。
但阿里巴巴仍然決定放棄。
他們將這項技術稱之為:潘多拉魔盒。
有人給這項技術起了一個更為震撼的名字:“起死回生!”
失獨與重生
一切都從2019年9月說起。
阿里巴巴人工智能實驗室接到了一個請求:一位失獨媽媽,請求用AI技術“復活”女兒。
這位媽媽在請求中寫:“可以把我故去的女兒做成和我互動的軟件嗎?”
阿里巴巴人工智能實驗室迅速將這一非比尋常的請求上報。
很快,阿里巴巴人工智能實驗室負責人聶再清親自接手。
“我十分思念女兒,十分思念。”
也許,正是來自這位母親的這句話,打動了身為語音助手首席科學家的聶再清。權衡再三,阿里巴巴同意接受這項十分罕見的求助。
從技術角度考慮,這項工程需要三大技術:
- 足夠的語料數據;
- 算法;
- 語音合成技術。
以阿里巴巴目前的技術,“複製”一個虛擬人的難度並不大。
然而,過程中,聶再清遇到了未曾料到的困境。
- 第一,可用語料不足。這位母親的已故女兒,生前留下的語音素材並不多,所有片段加在一起,能夠用作訓練的語音素材,只有短短的兩三分鐘;
- 這就導致了第二個難題:人工智能訓練難度極大。
但阿里巴巴仍然做到了。
然而,就在好不容易攻克技術難點之後,聶再清卻猶豫了。
他會同阿里的工程師、專家、以及外部聘請的心理學家再三討論一個話題:一旦這樣一個“AI女兒”成功,對其父母而言究竟意味著什麼。是安慰,是冒犯?
工程尚在進行,消息已經傳出。
全國各地湧來的類似請求,或者說“訂單”,如雪片般源源不絕。
四個月後,2020年1月,阿里巴巴果斷決定:放棄該項技術!
對最初求助的那位媽媽,阿里巴巴送出了一份小成果:幫助這位媽媽合成了一段女兒長達20秒的語音,存在了天貓精靈裡。這段語音復原了女兒寫的一篇作文,記錄了她和媽媽一起去爬山的故事。
這位媽媽表示:這條音頻開頭的語氣,和女兒一模一樣。
共同困境
無獨有偶。
2020年開年,國外一位母親通過虛擬現實技術(VR),見到了因白血病過世的7歲女兒。
國外VR技術公司通過攝影測量、動作捕捉和虛擬現實技術,讓這位思念女兒的母親得以再見女兒。電視臺MBC將這樁事件拍成了紀錄片,一經上傳YouTube,播放量高達900萬次!
這位名叫張智成的媽媽,失去女兒已四年,仍然沒有一天能走出悲劇。這位媽媽表示,希望女兒還在,無論以哪種形式。
頂尖VR公司VIV Studio被打動,利用一系列技術開發完成——
- 第一,從女兒生前照片和視頻中提取出表情、肢體動作數據,通過類似體型的兒童進行建模,還原出女兒生前樣貌;
- 第二,引入人工智能語音合成技術,讓虛擬女兒的聲音和過世女兒一樣一樣;
- 第三,在虛擬現實場景中還原女兒生前的衣物、喜歡去的場景,藉助觸感手套,使母親在虛擬現實場景中可以伸手拿起物品和女兒互動。
八個月後,該項技術交付母親。
這位媽媽戴上VR眼鏡後立刻進入了和女兒生前一模一樣的場景,和女兒一模一樣的虛擬女兒在虛擬場景中“永生”,每天生活、學習、玩耍,媽媽只要戴上設備就可以和虛擬女兒一起互動。
沉浸其中的媽媽無法自拔,在場的技術、工作人員無一不被震撼。
爭議
人們很快意識到了問題。
以上述母親為例,在外人眼裡,她所謂的“幸福生活”無疑是“怪異”的:一整天戴著頭盔,在同一個地方來來回回地走,自言自語,大笑或者哭泣,永遠在和空氣交談,十分滿足。
但在這位媽媽眼裡,戴上頭盔,就是“人間天堂”:女兒永遠都在,模樣、聲音全無改變,她會和媽媽對話、交流、思考,還會玩耍、學習、吃飯、運動、休息,和她原本就有的女兒沒有任何分別。
人們不禁惶恐:
- 這位媽媽會永遠戴著頭盔生活嗎?
- 一旦摘下頭盔,她會崩潰嗎?
如果答案是肯定的,那麼,一個問題顯而易見:
人工智能“起死回生”的技術,究竟是給予了“失獨父母”溫暖,還是用表面的溫暖實際加速了“失獨父母”的心理崩潰?技術是沒有對錯的,但技術是可以綁架人類的。有時候,還往往以“溫情”的面貌。
而在阿里巴巴人工智能實驗室看來,該項技術還涉及更深層次的問題:如果失獨父母發現,人工智能復原的“兒女”在深層次的價值觀方面,和真正的兒女存在差距,甚至危害到父母,那麼,這對父母而言是否是一種冒犯?
這種擔憂是有道理的。
- 2019年,亞馬遜Echo智能音箱Alexa在與主人對話過程中,建議主人“傷害自己”;
- 2018年年初,Alexa在全球各地被爆出夜晚發出不明怪笑;
- 2018年4月,Alexa被發現會偷偷錄下私人對話,並默默發給其他人。
上述事件幾乎都在亞馬遜以“故障、承認錯誤、道歉”的流程中結束了,留下警鐘無限。
而求助於阿里巴巴的失獨父母給出的答案,卻更令人心驚。他們表示,不在乎虛擬女兒偶爾的“冒犯”,這是成長期孩子最正常的表現。
“戲未開場,人已入戲。”
一旦大規模商業化應用,悲傷的父母們有可能從此擺脫虛擬兒女的控制嗎?
但也有人表示支持。
長篇報告文學《失獨:中國家庭之痛》列出了一組數據:截至2012年,我國已有100餘萬個家庭失去唯一的孩子,每年新增失獨家庭7.6萬個;平均每天有一個班(40至50人)的學生因意外事故而早早離開人世。
失獨父母們都在同一個輪迴中煎熬:很少有人能走出來,大多數都沉淪了。
而人工智能技術的出現,正是絕望中的希望。
- 有人說,人活下去的動力,可以是寄託;
- 有人說,人走出來的動力,可以是彌補;
- 有人說,人往前看的動力,可以是好好說一次再見。
而人工智能,以及“虛擬兒女”,正可以將寄託、彌補、說再見的機會,再一次給予父母。
人不在其位,不知其真痛。
旁人有什麼理由反對呢?
該商業化嗎?
天才編劇馬蒂亞斯·卡魯索,寫出九分鐘短劇《我的孩子只能活一次》,一經上映,獎項紛至沓來。
九分鐘內,這位天才編劇預言了一個悲劇:一對失獨夫妻,獲得了一個可以令他們產生幻覺、將之當成一模一樣孩子的玩偶,本想用這個玩偶撫慰悲傷,最後卻深陷幻覺,崩潰收場。
“起死回生”的人工智能,是否正是這樣一個玩偶?
科技巨頭們,是否該利用這項技術商業化,來賺取悲傷父母源源不斷自願獻上的鉅額現金流?
1月20日,阿里巴巴人工智能實驗室發佈公告:面對生命,技術必須敬畏;這一次我們希望它能慢一點,等等倫理和道德的爭議;不該來的,我們不希望親手打開魔盒。
或許,我們是幸運的。
不是每一家企業,都能以犧牲巨大利益為代價,尊重倫理和道德,經受住誘惑,將潘多拉魔盒死死蓋上。
但又或許,這只是人類漫長曆史中的短暫等待而已。
就像潘多拉魔盒,它最終還是打開了。
朋友們,您支持這一“起死回生”的人工智能技術商業化嗎?
閱讀更多 財經早餐 的文章