在用機器學習工具“ 開明星車”這件事上，最近有了一些新的進展。我們 TechCrunch 的記者泰勒·海特梅克 (Taylor Hatmaker) 近日報道，Reddit 發佈了新的內容條款，禁掉了這種偽造色情內容，並關閉了相關的交流版塊。而 Pornhub 和另一些媒體平臺也在最近幾周內出臺了類似的規則。
然而，人造黃片只是內容造假的開端。本週早些時候，政治學者亨利·J·法瑞爾（Henry J. Farrell）和《尼克松禁地》（Nixonland，暫譯）作者裡克·珀斯坦（Rick Perlstein）在《紐約時報》的專欄裡發表了一篇標題為 《黑化政壇》的文章。在文中的反烏托邦社會里，挑撥者可以通過偽造其性侵未成年人的視頻誣陷黨派候選人。作者擔心，“偽造的音視頻可能會變得更加真假難辨，使得這些證據逐漸失去應有的法律效力。”
在一個以內容推斷為事實依據的民主社會里，我們可以很快適應要靠真憑實據論斷的日子。一如我們置身專制社會時需要時刻提防任何“大好景象”一樣。然而，當初創公司，科技企業以及政黨乃至政府都要面對這個問題時，它就沒有看上去那麼簡單了。
Reddit 早晚要面對這樣的處境：一段政客同未成年人發生性關係的渣畫質視頻上傳到了這裡（趁熱再用一次這個假設）。視頻的真實性無從可考，而且也沒有明顯的篡改痕跡，儘管真的可能只是偽造的。這時 Reddit 要怎樣去處置呢？出於安全考慮，它會去禁掉可能是“世紀政治醜聞”的所謂“證據”麼？
這卻僅僅只是它的表象。理清它的細枝末節，需要我們進行上述案例之外更深一步的探討。設想專制政權的異見人士用手機錄下了前者為保護政權而大規模屠殺反抗市民的暴行視頻。隨後，這個現場實錄的視頻被匿名上傳到了網上。
它的突然出現讓這個被虛妄統治的社會有些措手不及——這段視頻到底是什麼來頭？反對派用偽造視頻的方式吸引媒體注意並非無稽之談。而執政政權所公示的視頻畫面裡的街道乾淨整潔，並無異樣。反對派的信眾也可以同樣去相信執政政權，至於已經站在另一邊的人士則會繼續堅持自己的看法。原始視頻自然無法令人信服了。
在我看來，這裡最可行的解決策略將是：為視頻構建一個加密且可溯源的“監視鏈”（沒錯，我指的正是某種“區塊鏈”）。假如之後所有的視頻都不可信，那就用加密技術生成讓每一個特定部分都可追溯源頭的元數據。實際上，已經有諸如 Prover.io這樣的初創公司把目光瞄向了這塊市場，通過提供視頻驗證服務從而精準把控上述問題的出現。
而此時唯一的問題就只剩這些鏈的先允條件——身份（或者說是設備）鑑別了。畢竟我們正在嘗試的是“監視鏈”，需要去了解這些視頻源自哪裡。當然這些信息對專制政權則更為重要，它很樂意知曉對面的“開槍者”是誰，並且給予（真正的）反擊。
或許視頻創作者可以篩選把控元數據的鑑別者，在政府無從知曉的情況下把視頻提供給“紐約時報”們。或許“監視鏈”可以匿名使用，從而能夠保護異見者。然而，請注意，我們所努力的是證明視頻的真實可靠，那些每一個試圖混淆創作者身份的行為都是反抗政權的舉動。
另一個可行的泛用策略是使用認證程序，通過濾查視頻的方式鑑別其是否經過偽造。機器學習可能會在這一領域大放異彩，雖然它並不能保證每一塊像素都真實無誤。我們已經有了足夠多的方法鑑別某種特定圖片是否被“PS”過。之後，我們或許很快就能掌握分辨影像是否被機器學習工具處理過的算法。
我認可這種技術會會繼續存在，但它會展現出更大的潛力麼？Politifact 上為政客所（濫）用的 “Truth-o-Meter”是一個經過驗證的，公正客觀的第三方認證服務。它足夠優秀，但卻不能阻止政客們把事實證據用作歧途，並且也無法阻止他們的選舉造假。所以，為什麼我們會如此認為這種認證程序會比人們的所見更有力呢？
另一方面，用來阻止這種偽造視頻傳播的政治舉動同樣令人困窘。這些視頻背後所運用的技術有很多合法的用途，如好萊塢特效製作等等。從這一點來說，禁掉它們是沒有意義的。而管控這些用途同樣徒勞。很多視頻都是匿名製作而成，並且可以肆意傳播，使得強制脅迫更加不可能。言論自由（至少就美國來說）也會為它們開綠燈。只需把“誹謗”替換成“藝術”或者“諷刺”就能讓人無從辯駁。
或許良好的教育可以提高我們對這類視頻的抗性。或許造假並不會像我們想象的這樣高明。或許可以通過過濾垃圾內容的方式挽回我們對這些媒介的信任。或許吧。
但就現在來說，更多的可能是我們不得不去接受與我們朝夕相處的文字、圖像乃至影音已經遭到了篡改，甚至完全偽造的事實。於我們而言，於初創企業的負責人而言，於整個生態體系的所有其他人而言，我們都正準備著手協助民主的長治久安。然而，人造黃片和假新聞早已在此等候，我們卻仍未找到趁手的抗擊武器。
