郭一璞 發自 雲凹非寺
量子位 報道 | 公眾號 QbitAI
怕啥來啥。
Deepfake，現在終於攪合到政治中了。
在德里議會選舉前一天，一個被Deepfake過的政客講話視頻在WhatsApp上流傳。
視頻中，這名政客對競爭對手發起了撕逼，批判另一個黨派的政客，並給自己黨派拉票。
選舉前，有5800個WatsApp群發了這個視頻，覆蓋1500萬人。
WhatsApp印度人是當微信用的，相當於一個假視頻傳遍了幾千個微信群，瞬間大家都被矇騙了。
是誰用Deepfake攻擊誰
要理清Deepfake攻擊的具體故事，先要介紹一下事件中的黨派和人物：
印度人民黨（BJP），印度兩大黨之一，現在的印度總理莫迪就是這個黨的。在印度，總理才是拍板的，總統只是個logo，不管事。
人民黨是這個事件中發起撕逼的那一方。
印度國大黨（INC），印度兩大黨的另外一方，因為在德里這座城市混的比較慘，這個黨主要負責打醬油。
印度平民黨（AAP），雖然在全印度，它比不上前面的兩大黨，但它在德里混得很好。
2015年上一次德里議會選舉，平民黨拿到了70個席位裡的63席，是佔絕對優勢的議會多數黨，現德里首席部長（地方長官）Arvind Kejriwal當然也理所應當是平民黨的。
在這起事件中，平民黨是被人民黨撕的對象。
但是，視頻的內容卻很正常，完全不是我們想象的那種“Deepfake一句我不該說的話”的樣子。
在這個流傳很廣的視頻裡，發起撕逼的人民黨的黨魁Manoj Tiwari說，現在德里的首席部長、出身平民黨的Arvind Kejriwal不遵守諾言，工作沒做好，明天我們應該選出一個莫迪領導的政府。
意思就是：選我們呀！
但端倪在於，流傳出來的Deepfake視頻有兩個版本，一個視頻裡這位黨魁先生說的是英語；另一個視頻裡，這位黨魁先生說的是印度哈里亞納邦的方言哈里亞納語 (Haryanvi)，屬於西印度語族。
眾所周知，印度人說的語言很多很雜，全國性的官方語言是印地語和英語，但各個邦還有自己認定的官方語言，加起來有24種國家和地方的官方語言。而且，還有哈利亞納語這種非官方語言，總共使用人數超過1萬的語言就有122種。
受教育程度較高的政治人物們應該都會說英語，但想得到“下沉市場”的選票，說英語人家八成聽不懂，但要是政治人物的每個演講都用122種語言說一遍，先學會這麼多種語言，政治人物就已經成為耄耋老人了。
所以，人民黨才動用了Deepfake，方便生產自家政治人物不會說的語言的視頻。
背後公關公司：下次搞美國
不過，要策劃製造傳播Deepfake視頻，並不是一件容易的事兒。
原來，德里人民黨的背後，還有一家公關公司，名叫The Ideaz Factory。
這家公司的主頁上寫著，他們接政治宣傳的活兒：
德里人民黨IT部門與這家公關公司合作。公關公司找到了專業的配音演員，模仿視頻主角的口音說哈里亞納語的臺詞，而IT部門只負責對口型，不涉及表情的變化。
至於具體用到的算法，美國媒體Vice找到了紐約羅切斯特理工學院專家詢問，專家認為他們用的是英偉達的vid2vid。
雖然最終效果仍然有一些不容易被注意的瑕疵，但這段哈里亞納語的視頻已經成功傳播到了那些從哈里亞納到首都德里的“農民工”們那裡，有一些家庭主婦反饋說，非常高興能看到這名政治人物說自己的語言。而英文版的視頻則用來影響德里本地的城裡人。
這家公關公司首席策略官說，這是他們首次主動使出Deepfake武器，他們也在考慮之後在印度比哈爾邦的選舉和2020美國大選中用上類似的技術。
Deepfake，全球開花
不過，Deepfake用在政治領域這可不是頭一次，此前，川普和奧巴馬都被人用Deepfake做過娛樂視頻，還有一些別的國家領導人也被Deepfake過。
最神奇的故事發生在非洲的加蓬。
2018年10月，加蓬世襲總統阿里·邦戈（Ali Bongo）生病出國治療，此後很長一段時間都沒有在公眾面前露面，而政府對總統的情況也沒有說的很明白，導致陰謀論四起，甚至有人認為總統已經故去。
但很快，新的一年要來了，按舊例，總統要在這個時候發表新年致辭，好多人都眼巴巴的看著這位總統到底還能不能行。
結果，讓人萬萬沒想到的是，加蓬政府玩了一回騷操作：
放了個Deepfake的總統新年致辭視頻。
不信你看，這位總統全程就沒眨眼：
誰都能看出，這個視頻不太對勁。
一週後，加蓬的一些軍方人士認為國家發了個假視頻，總統的真實狀態一定非常不好，於是發動了一次政變。雖說非洲不是什麼太平地方，但加蓬這個國家已經53年沒有發生政變了。
不過，政變最終沒能成功，幾個小時後，參與政變的人就死的死、被抓的被抓了。
在意大利也有Deepfake政客視頻出現。
去年9月23日的一檔意大利諷刺節目裡，播出了一段意大利前總理馬泰奧·倫齊（Matteo Renzi）侮辱其他意大利政客的視頻。
雖然視頻中前總理的身體是演員的，節目組只是把頭部Deepfake了一下，但是居然有民眾信了，看完之後民眾深深的懷疑自己所生活的這個國家……
畢竟，被Deepfake模仿的前總理本人都覺得模仿的很像嘛！
走向法律的籠子
看到這些奇葩的故事，你可能要懷疑人生了。
不過好在，各國政府也在想辦法限制Deepfake濫用。
去年10月，加州的法案就出臺了法案，禁止在選舉前60天內Deepfake候選人，防止製造錯誤影響選舉。
而在政治之外，Deepfake可能帶來的謠言和色情問題也一直被關注，我國網信辦去年也出臺了規定，用技術手段做出來的假視頻需要標明是假的，不能隨意傳播。
One More Thing
最後，既然WhatsApp上會有假視頻，那微信群裡的那些小視頻裡會不會也有假的？
所以啊，上網還是要不斷擦亮眼睛，不要被虛假信息矇騙，畢竟有視頻也不一定有真相呦。
參考鏈接：https://www.vice.com/en_in/article/jgedjb/the-first-use-of-deepfakes-in-indian-election-by-bjp?utm_source=reddit.comhttps://observers.france24.com/en/20191008-deepfake-video-former-italian-pm-matteo-renzi-sparks-debate-italyhttps://www.tfcaijing.com/article/page/2c912196682cb95801682e42f5160abf
— 完 —
量子位 QbitAI · 頭條號簽約
關注我們，第一時間獲知前沿科技動態
閱讀更多 量子位 的文章
