2017年 12 月，一个名 Reddit 用户用 DeepFakes 技术将盖尔·加朵和斯嘉丽·约翰逊的脸嫁接到一个成人电影女星的身上，制作了一个几乎可以以假乱真的视频在网上流传，而这个视频也一度造成了盖尔·加朵和斯嘉丽·约翰逊的公关危机。
左边为AI换脸技术P的图，右边为PS技术P的图
这也是AI换脸技术第一次在实际应用中造成较大的负面影响。那么大家想想，若是该技术落入不法分子手中，那么其后果是不堪设想的。
去年年底，另一则重要的AI换脸技术应用在美国前总统奥巴马身上的消息，也引发了人们对该技术的恐慌。若是有心人用该技术肆意冒充政要分子发布虚假消息，那么对社会的危害是无穷的，甚至会造成社会性的恐慌。
据了解这些技术都只针对人脸，缺乏对其他领域的总结和整合，如果在实际中遇到遮脸等情况，机器就难以进行相应操作，还有一些必须依赖对照组或者成对图像，这需要大量的手动标记数据。虽然目前该项技术还未得到完善，但目前似乎更迫切需要解决的问题是如何分辨“真假”信息。
这项技术如果能投入到制作电影等应用场景中，自然很不错。但它们的低门槛也可能导致恶意的操纵者制作不良视频，比如制作假的复仇色情片、假新闻。不过让人无奈的是，如果要防止 AI 的负面效应，我们策略只能是以 AI 抗衡 AI，但这又陷入到了无限循环当中，而随着技术的不断迭代，这也意味着像用这项技术做出的视频，人类将很难识别出真假。，而美国国防部的研究人员也在积极寻找检测 Deepfakes 以及揭露由 AI 创作的假事件的方法。
而现在我们最好为一个真假难辨的世界早做准备，但事实上，我们已经身处在这样一个世界中了。
分享到:
