2017年 12 月，一個名 Reddit 用戶用 DeepFakes 技術將蓋爾·加朵和斯嘉麗·約翰遜的臉嫁接到一個成人電影女星的身上，製作了一個幾乎可以以假亂真的視頻在網上流傳，而這個視頻也一度造成了蓋爾·加朵和斯嘉麗·約翰遜的公關危機。
左邊為AI換臉技術P的圖，右邊為PS技術P的圖
這也是AI換臉技術第一次在實際應用中造成較大的負面影響。那麼大家想想，若是該技術落入不法分子手中，那麼其後果是不堪設想的。
去年年底，另一則重要的AI換臉技術應用在美國前總統奧巴馬身上的消息，也引發了人們對該技術的恐慌。若是有心人用該技術肆意冒充政要分子發佈虛假消息，那麼對社會的危害是無窮的，甚至會造成社會性的恐慌。
據瞭解這些技術都只針對人臉，缺乏對其他領域的總結和整合，如果在實際中遇到遮臉等情況，機器就難以進行相應操作，還有一些必須依賴對照組或者成對圖像，這需要大量的手動標記數據。雖然目前該項技術還未得到完善，但目前似乎更迫切需要解決的問題是如何分辨“真假”信息。
這項技術如果能投入到製作電影等應用場景中，自然很不錯。但它們的低門檻也可能導致惡意的操縱者製作不良視頻，比如製作假的復仇色情片、假新聞。不過讓人無奈的是，如果要防止 AI 的負面效應，我們策略只能是以 AI 抗衡 AI，但這又陷入到了無限循環當中，而隨著技術的不斷迭代，這也意味著像用這項技術做出的視頻，人類將很難識別出真假。，而美國國防部的研究人員也在積極尋找檢測 Deepfakes 以及揭露由 AI 創作的假事件的方法。
而現在我們最好為一個真假難辨的世界早做準備，但事實上，我們已經身處在這樣一個世界中了。
分享到:
