02.28 FB深度換臉問題2020年會更糟？

圖1：Facebook首席執行官馬克·扎克伯格(Mark Zuckerberg)也成為深度換臉視頻的目標

網易智能訊2月28日消息，019年夏天，Facebook首席執行官馬克·扎克伯格(Mark Zuckerberg)的一段視頻在Instagram上流傳開來。扎克伯格似乎在視頻中聲稱，他“完全控制了數十億人被盜的數據，掌控了他們的所有秘密，探知了他們的生活甚至未來”。事實證明，這只是個藝術項目，而不是故意試圖誤傳信息，但Facebook允許它留在其平臺上。根據該公司的說法，視頻沒有違反任何政策。

對有些人來說，這表明大型科技公司沒有準備好應對人工智能（AI）生成的、被稱為“深度換臉”（deepfakes）的虛假視頻內容的衝擊。但這可能並非全是Facebook的過錯。“深度換臉”視頻非常難控制，這不是因為它們很難被發現(儘管它們可能很難識別)，而是因為這個類別覆蓋的範圍太廣，任何試圖“取締”AI編輯的照片和視頻的嘗試，最終都會影響到無數沒有危害的內容。

完全禁止“深度換臉”內容將意味著刪除流行的笑話，比如性別互換的Snapchat自拍和人為老化的面孔。禁止政治誤導性的“深度換臉”視頻只會讓我們回到科技公司多年來始終面臨的政治審查問題上。鑑於沒有簡單的算法可以自動發現AI編輯的內容，因此無論頒佈什麼樣的禁令，都將意味著為疲於應對的人類審核人員創造更多的工作負擔。對於像Facebook這樣的公司來說，沒有簡單的選擇。

哈佛-麻省理工學院AI倫理與治理倡議前主任蒂姆·黃（Tim Hwang）在接受採訪時表示：“如果你認為‘深度換臉’是指任何由機器學習編輯的視頻或圖像，那麼它所囊括的範圍可能十分龐大，以至於我們根本弄不清楚它是否有任何意義。如果可以選擇，我們應該考慮深度換臉的意圖。在你正在創造的那些內容上，你想要實現什麼目的？“

值得注意的是，這似乎是大平臺實際上正在前進的方向。Facebook和Reddit上週都宣佈了涵蓋深度換臉的適度政策，他們沒有試圖完全杜絕這種媒體格式，而是重點關注幾個狹隘領域。

Facebook表示，該公司將刪除“被操縱的誤導性媒體”，這些媒體已經使用AI或機器學習“以普通人不明顯的方式進行了”編輯或合成，很可能會誤導人們認為視頻中的某個人說了他們實際上沒有說過的話。但該公司指出，這不包括使用傳統手段進行的“惡搞或諷刺”或誤導性編輯，比如去年眾議院議長南希·佩洛西(Nancy Pelosi)據稱醉酒的病毒式視頻。

圖2：像Doublicat這樣的新應用程序將使深度換臉變得更容易、更有趣

與此同時，Reddit完全沒有提到AI，而是表示將刪除那些“以誤導性或欺騙性的方式冒充個人或實體”的內容。它還為“諷刺和惡搞”內容提供了豁免權，並補充說，它將“總是考慮任何特定內容的背景”。這是一個寬泛的警告，為其採取行動提供了很大的迴旋餘地。

但正如許多人指出的那樣，這些政策充滿了漏洞。例如，威爾·奧雷莫斯（Will Oremus）在OneZero上撰文指出，Facebook只覆蓋包括演講在內的、編輯過的內容。這意味著，“一段深度偽造的視頻，讓它看起來像某個政客焚燒美國國旗，參加白人民族主義集會，或與恐怖分子握手”將不會被禁止。Facebook向奧雷莫斯證實了這一點。

這些都是明顯的疏漏，但它們突顯了將深度換臉與平臺內容審核的根本問題區分開來的難度。雖然近年來許多報道都將“深度換臉”視為“政治錯誤信息”的同義詞，但實際的定義要寬泛得多。而這個問題在2020年只會變得更糟。

雖然早期版本的“深度換臉”軟件需要些耐心和特定技術才能使用，但未來將使構建深度換臉軟件更加容易。使用AI編輯視頻(深度換臉的標準定義)的應用程序將變得隨處可見，隨著它們的傳播（比如用於開玩笑、品牌推文、欺凌、騷擾等），“深度換臉是對在線真相獨特威脅”的想法將會消退。

就在本週，名為Doublicat的應用程序在iOS和安卓上發佈，它利用機器學習將用戶的臉粘貼到流行動圖GIF上。目前，它只適用於預先選擇的GIF，但該公司首席執行官稱，未來它將允許用戶在任何他們喜歡的內容中插入面孔，儘管這需要得到名為GAN的機器學習方法的幫助。

所有這些會讓Doublicat歸類為深度換臉應用程序嗎？的確。它會破壞民主嗎？大概不會吧！只要看看它的輸出質量，人們可以輕易區分出真假。不過，在技術上，它給人留下了深刻印象。這款應用程序僅用一張照片就在幾秒鐘內完成了GIF。但它永遠不會被誤認為是真的。與此同時，TikTok（抖音海外版）母公司字節跳動和Snapchat也在試驗深度換臉功能。

哈佛-麻省理工學院AI倫理與治理倡議前主任蒂姆·黃（Tim Hwang）認為，從長遠來看，“深度換臉”一詞的淡化實際上可能會帶來好處。他說：“我覺得很諷刺的是，人們說所有這些消費功能都是深度換臉，因為它在某種程度上商品化了深度換臉這種技術。”

他還說，如果深度換臉變得司空見慣，那麼人們就會“對這項技術能做什麼不再保持警惕”。然後，希望我們能更好地理解它，並將重點放在錯誤信息和政治宣傳的根本問題上。

可以說，在社交媒體上審核深度假的問題從一開始就在很大程度上分散了人們的注意力。AI編輯的政治宣傳未能以有意義的方式實現，研究表明，絕大多數深度換臉是未經雙方同意的色情內容，佔在線深度換臉視頻的96%。

社交媒體平臺愉快地參與了關於深度換臉內容審核的辯論，但正如Facebook和Reddit最近的聲明所顯示的那樣，這些努力大多是次要的。核心問題沒有改變，即誰可以在互聯網上撒謊？誰來決定他們是否撒謊？一旦深度換臉假說不再令人信服，成為對真相的巨大威脅，我們將面臨同樣的、不變的問題，而且形勢將變得比以往任何時候都更加緊迫。