From: The Verge; 作者：Iris
去年夏天，一段直拍马克·扎克伯格的假视频在Instagram上疯传。扎克伯格竟在视频中声称，他已“完全控制了数十亿用户的数据，掌握了他们所有的秘密”。经调查后发现，这原来是一个艺术恶搞项目，旨在指出AI换头技术和深层伪造(Deepfake)的危害，而非蓄意传播的虚假信息。
部分用户认为，像Facebook这样的大型科技公司尚未准备好应对由AI恶意伪造的虚假信息的冲击。Deepfake极难控制，难点并不在于识别上的困难，而是因为这类假信息的分布范围过于广泛，任何试图删除AI编辑的照片和视频的措施，最终都会波及到原本无害的网页内容。
藏匿在审核机制漏洞中的Deepfake
要彻底禁止Deepfake，则意味着部分流行的“一键换头”自拍秀也会跟着被取缔，比如Snapchat上的“换头秀”自拍滤镜。而要识别并删除涉及政治方面的、具有误导性的假信息，则有让科技公司陷入政治纠纷的风险。考虑到目前没有真正有效的算法可以自动识别AI编辑的信息内容，无论公司颁布什么样的禁令，都意味着给网络职业打假人带来难以负荷的工作量。
疯传的马克•扎克伯格的假视频
不过，对攻破Deepfake的尝试并未就此停歇。不久前，Facebook和Reddit共同出台了针对Deepfake的审核政策，该政策的方向并不是要彻底清除这种伪造模式，而是要进一步缩小“清除”的目标焦点。
Facebook表示，他们将从平台上移除“有强误导性的媒体信息”，这些信息是由机器学习技术以普通人看不出的方式所“编辑或合成”的，并且可能误导人们认为视频中的人物说了他们实际上从未发表过的言论。但Facebook同时指出，这种取缔措施的覆盖面并不包括那些为制造滑稽效果而编辑生成的信息，比如恶搞和讽刺美国总统的趣味视频。
左：真实视频；右：经深层伪造处理的视频
Reddit的声明则完全没有提及Deepfake，而只是表示将删除那些“以误导或欺骗的方式起到冒充目的”的媒体信息。考虑到那些无害的趣味视频，他们补充说，在实践上将“充分考虑到上下文语境”，这为他们的政策提供了很多回旋余地。
即便如此，这些政策依旧漏洞百出。威尔•奥瑞马斯认为，Facebook的措施只能覆盖被浅层编辑过的媒体信息，比如一些伪造的演讲视频，而那些经过深层伪造的，如伪造政客烧毁国旗或与恐怖分子握手的视频，则成了漏网之鱼。
被配上假嘴和假声音的假视频
这就涉及到了如何将Deepfake从平台审核体制内剥离出来，作为重点处理的对象的问题。尽管近年来，许多人都将“Deepfake”视为“政治错误信息”的同义词，但后者的实际定义要宽泛得多。如今，随着AI的发展，深度学习技术进一步入驻互联网，要如何处理Deepfake的问题只会变得越发困难。
另一个角度：学着与深层伪造“和平共处”
在2020年，各种应用程序的出现简化了信息发布的流程，其中，使用AI来编辑视频的应用程序将被普及开来，可以预见，随着它们的传播，经过AI造假的信息将得到更大范围的扩散。
举个例子：近日，一款名为Doublicat的应用程序已在iOS和Android平台上发布，它支持用户借助机器学习技术，将不同人脸粘贴到动态图上。目前，它只能在预先选定的gif动图中使用，但Dounlicat的首席执行官表示，在一种名为GAN的机器学习方法的驱动下，未来他们将开放允许用户在任何可检索到的内容中插入人脸。
Doublicat的效果图
这会让Doublicat成为一项“助力”伪造技术发展的程序吗？答案是肯定的。但它是否违反了网络审核机制呢？——不，它的运作内容和方式仍然合法合规。
来瞧瞧它的输出质量吧。如下方的gif动图所示，它展示了将用户的脸粘贴在影星克里斯·普拉特身上的画面。技术上，这很令人印象深刻，毕竟这款程序只需几秒钟就能将一张照片变成动图。但这些动图可永远都不可能被误认为是真货。
除了Doublicat之外，字节跳动也一直在试验Deepfake功能（尽管他们表示这些功能不会被整合到应用程序中)，Snapchat最近也推出了全新的换脸工具。
从长远来看，淡化“Deepfake”的概念实际上是有好处的。人们在将这些消费功能都归咎为Deepfake的同时，也在某种程度上将它的内涵商品化了。如果Deepfake变得司空见惯，不再如此引人注目，
那么人们就会对这种技术放下戒备，并把关注的重点转移到媒体恶意散布错误信息以及政客进行虚假政治宣传的问题上。正如Facebook和Reddit最近的公告所说，这些遏制Deepfake的努力实质上是不必要的。核心问题并没有得到改变：谁可以在互联网上“撒谎”，而又该由谁来决定他们是否在真地撒谎？换言之，Deepfake也许并不那么可怕，它所暴露出的问题——不完善的网络审核机制——才是最大的威胁。
-The End-
将门是一家以专注于发掘、加速及投资技术驱动型创业公司的新型创投机构，旗下涵盖将门创新服务、将门技术社群以及将门创投基金。将门成立于2015年底，创始团队由微软创投在中国的创始团队原班人马构建而成，曾为微软优选和深度孵化了126家创新的技术型创业公司。
将门创新服务专注于使创新的技术落地于真正的应用场景，激活和实现全新的商业价值，服务于行业领先企业和技术创新型创业公司。
将门技术社群专注于帮助技术创新型的创业公司提供来自产、学、研、创领域的核心技术专家的技术分享和学习内容，使创新成为持续的核心竞争力。
将门创投基金专注于投资通过技术创新激活商业场景，实现商业价值的初创企业，关注技术领域包括机器智能、物联网、自然人机交互、企业计算。在近四年的时间里，将门创投基金已经投资了包括量化派、码隆科技、禾赛科技、宽拓科技、杉数科技、迪英加科技等数十家具有高成长潜力的技术型创业公司。
如果您是技术领域的初创企业，不仅想获得投资，还希望获得一系列持续性、有价值的投后服务，欢迎发送或者推荐项目给我“门”: [email protected]
閱讀更多 將門創投 的文章
