自 2018 年 12 月英偉達推出 StyleGAN 以來，合成人臉已經讓人難以輕易分辨。特別是今年年初，英偉達開源了 StyleGAN 的代碼，大量真假難辨的人臉被開發者「創造」出來。
近日，有開發者創建了一個網站，讓玩家分辨哪張人臉是真實的。如下圖所示，打開網站地址，就可以直接玩遊戲，選擇自己認為的真實人臉。
網站地址：http://www.whichfaceisreal.com/index.php
下面的這些圖你能分辨真假嗎？（答案見文後）
在未看「攻略」之前，小編依靠本能選擇，結果前幾輪測試全部錯誤（這運氣也是槓槓的）。但 AI 大牛 Yann LeCun 有妙招。Yann LeCun 在 Twitter 上「傲嬌地」表示，他嘗試了一些測試，全部選擇正確。如果你瞭解當前的生成模型，就發現圖像中的一些明顯訊號。
其實仔細總結，我們還是會發現生成圖像在細節上有些「痕跡」，而這些「痕跡」就是判別的指南。說不定以後的 GAN能解決掉這些細節，讓生成圖像真正「欺騙」人類。
新一代StyleGAN:圖像逼真到可怕，能生成世界萬物
這個模型並不完美，但確實有效，而且不僅僅可用於人類，還能用於汽車、貓、風景圖像的生成。
英偉達研究人員在論文中寫道，他們提出的新架構可以完成自動學習，無監督地分離高級屬性（例如在人臉上訓練時的姿勢和身份），以及生成圖像中的隨機變化，並且可以對合成進行更直觀且特定於比例的控制。
換句話說，這種新一代GAN在生成和混合圖像，特別是人臉圖像時，可以更好地感知圖像之間有意義的變化，並且在各種尺度上針對這些變化做出引導。
例如，在上面的動圖中，其實面部已經完全變了，但“源”和“樣式”的明顯標記顯然都得到了保留。為什麼會這樣？請注意，所有這些都是完全可變的，這裡說的變量不僅僅是A + B = C，而且A和B的所有方面都可以存在/不存在，具體取決於設置的調整方式。
而StyleGAN之所以強大，就在於它使用了基於風格遷移的全新生成器架構：
傳統生成器架構和基於風格的生成器架構對比
在傳統方式中，隱碼(latent code)是通過輸入層提供給生成器的，即前饋網絡的第一層(圖1a)。而英偉達團隊完全省略了輸入層，從一個學習的常量(learned constant)開始，從而脫離了傳統的設計(圖1b，右)。在輸入隱空間Z中，給定一個隱碼z，一個非線性網絡 f：Z→W首先生成w∈W(圖1b，左)。
英偉達團隊的生成器架構可以通過對樣式進行特定尺度的修改來控制圖像合成。可以將映射網絡和仿射變換看作是一種從學習分佈(learned distribution)中為每種樣式繪製樣本的方法，而將合成網絡看作是一種基於樣式集合生成新圖像的方法。修改樣式的特定子集可能只會影響圖像的某些方面。
怎麼區分AI合成臉
儘管 StyleGAN 非常出色，且只看合成人臉很難相信它們都是偽造的，但是 StyleGAN 同樣也會留下一些偽造的痕跡，很多痕跡甚至是生成圖像的共性。這些「痕跡」因圖像而異，並不是每一張圖像都有，也不是所有痕跡都比較明顯。但是瞭解這些技巧後，我們就能快速區分真假人臉，並達到很高的準確率。
1. 水斑
我們並不確定以後的 GAN 是否也會出現這個問題，但是當前 StyleGAN 的一個顯著特點是：它有時會產生一些閃亮的斑點，這些斑點看起來有點像舊照片上的水斑。這個特徵很容易幫助我們將其判斷為生成圖像，不過斑點可能會出現在圖像的任何地方，且在頭髮和背景的交界處出現的頻率比較高。
2. 背景問題
另一個判斷依據是出現在圖像背景裡的各種錯誤，因為背景可能包含豐富的語義信息，只要語義信息不連貫，我們就能斷定它是假的。神經網絡主要用來訓練生成面部，它對背景環境的注意力並沒有那麼多。
3. 眼鏡
到目前為止，生成對抗網絡很難生成逼真的眼鏡。一個常見的問題是生成的眼鏡不對稱，我們只要看看眼鏡的框架結構就能識別出來。
4. 其他不對稱
總的來說，對稱是人臉生成算法面臨的一大挑戰。除了不對稱的眼鏡之外，還要注意左右兩邊臉毛、耳朵、首飾及衣物的不對稱。StyleGAN 表示：我容易麼我。。
5. 頭髮
頭髮很難渲染地很逼真。有時臉上或其他部位會有不連貫的頭髮（如下面第一張圖所示）。還有些時候頭髮可能會太直、有條紋。
6. 熒光滲透
一種有趣的現象是，假照片背景裡的熒光色彩有時會從背景流到頭髮或臉上。
7. 牙齒
牙齒不容易渲染，假照片裡的牙齒通常很奇怪或不對稱。一些照片裡的人甚至有三顆門牙（如下面最後一張圖所示）。
8. 照片為真的標誌
上面介紹瞭如何識別假照片，我們已經知道神經網絡難以生成什麼事物。如果遇見渲染準確、各方面都做得很好的照片，你就可以很自信地說那是一張真照片。
9. 高招
在實際生活中，其實我們可以用一記妙招來可靠地辨別互聯網上生成的人是否為真人。方法很簡單：StyleGAN 算法不能生成同一個「假人」的多張圖像。截至目前，我們還沒聽說過有哪一款軟件可以生成同一個假人多個角度的人像。
負責任地使用，避免成為又一個“DeepFake”
之前，大多數研究都集中在如何提高“換臉”技術上，也就是如何讓計算機生成超逼真的人臉。
誰料，這種技術發展的濫用造成了反效果，也即所謂的“DeepFake”。現在，DeepFake已被用於指代所有看起來或聽起來像真的一樣的假視頻或假音頻。
去年底，Idiap 生物識別安全和隱私小組負責人 (注：Idiap研究所是瑞士的一家半私人非營利性研究機構，隸屬於洛桑聯邦理工學院和日內瓦大學，進行語音、計算機視覺、信息檢索、生物認證、多模式交互和機器學習等領域的研究)、瑞士生物識別研究和測試中心主任 Sébastien Marcel 和他的同事、Idiap 研究所博士後 Pavel Korshunov 共同撰寫了論文，首次對人臉識別方法檢測 DeepFake 的效果進行了較為全面的測評。
他們經過一系列實驗發現，當前已有的先進人臉識別模型和檢測方法，在面對 DeepFake 時基本可以說是束手無策——性能最優的圖像分類模型 VGG 和基於 Facenet 的算法，分辨真假視頻錯誤率高達 95%；基於唇形的檢測方法，也基本檢測不出視頻中人物說話和口型是否一致。
Pavel Korshunov 和 Sébastien Marcel 指出，隨著換臉技術的不斷髮展，更加逼真的 DeepFake 視頻，將對人臉識別技術構成更大的挑戰。
“在 DeepFake 方法和檢測算法之間的一場新的軍備競賽可能已經開始了。”
StyleGAN的開源，無疑也會增強DeepFake的製作。因此，谷歌大腦研究員Eric Jang呼籲，請負責任地使用！
你覺得還有哪些好玩的科技新聞呢？歡迎留言討論！
閱讀更多 機器70年 的文章
