DeepFake被用于犯罪证据伪造，案件走向扑朔迷离！
最近，被誉为“刑侦剧金字塔”的日本影视剧《相棒》迎来第18季的完结，在最终话中，《相棒》将镜头对准了DeepFake这一伪造技术，其中的作案手法令人脊背发凉。
杀人凶手用“AI换脸”脱罪，警方无一识破
《相棒》第18季最终话讲述了这样一个案件——国防技术顾问桂川宗佐在家中卧室被杀害，现场的笔记本电脑中记录了一段桂川和一名女性的“性爱录像”。
由于没有现场目击证人，这段录像便成为了破案的关键。
据调查，视频中的女性是内阁信息研究室反情报中心的柾庸子，柾庸子也承认视频中的女子是她自己，但是根据案发时间推断，她拥有完美的不在场证明，而且死者家门口的录像在案发当天也没有拍到她的任何踪影。
与此同时，某杂志社在网上发布了一段视频：视频显示柾庸子在夜店和桂川发生了冲突，疑似感情纠纷。一切证据都指向柾庸子存在犯罪动机。
但警员杉下右京觉得整个案件推进太过顺利，怀疑是有人刻意而为，他甚至觉得，视频可能是由最新的Deepfake技术伪造的。
但经警察局的电脑天才鉴定，视频内容是完全真实的。
与此同时，死者当时的女朋友，桂川集团赞助的城和工科大学的人工智能专业特任副教授——鬼石美奈代，也引发了警方的注意。
但她出示了一段她当天拍摄的视频，显示案发当时，她在立川的车站，距离案发地非常远。由于有视频的证明，她很快被排除出了嫌疑人范围。
关键时刻总是出现视频，警员杉下更加察觉到不太对劲。最终经过层层追踪调查，鬼石美奈代承认了她犯罪的事实。
原来，鬼石美奈代和桂川虽然是男女朋友关系，但是桂川对柾庸子的美貌念念不忘，出于嫉妒，鬼石美奈代杀了桂川，并且
利用Deepfake技术将自己与桂川的性爱视频中出现的画面替换成柾庸子的脸，让她来顶罪。
并且，杂志社发布的夜店视频、案发当天车站视频也都是鬼石美奈代一手伪造的。
一连串假视频将警方骗得团团转，甚至完全偏离搜查方向。
其中还有一段插曲，剧中的电脑天才利用DeepFake技术伪造了一段“柾庸子绑架鬼石美奈代”监控录像，导致整个警局出动追捕柾庸子。
但其实这一视频的造假难度很低，按剧中原话来讲，只要有相应的软件，外行人也可以制作出来。
当然，整起案件更为人后怕的是，直至案件结束，仍没有人能够破解鬼石美奈代制作的DeepFake视频。如果不是她亲口承认，警方甚至无法给她定罪。
视频原本作为一种视听证据，它更加可信，也更接近于真实情况。但DeepFake出现之后，这一切都需要再打上问号。
就如PS的出现让图片的真实性不再，或许，在不久的将来，我们也再难以求证视频的真伪。
捕捉真相还是掩盖事实？人类的眼睛太好欺骗
无独有偶，2019年的热门英剧《真相捕捉》同样表现出了对DeepFake的高度关注。
《真相捕捉》的故事围绕两段录像展开。
肖恩是被国家授予过英勇勋章的国家英雄，但阿富汗的一次战斗中，因为战友头盔携带的摄像设备拍下一段肖恩
“射杀战俘”的画面，导致肖恩“枪杀战俘罪”站上军事法庭。
不过，辩护律师汉娜找来一位资深影像工程师证实视频存在“音频滞后”问题，所谓的“射杀视频”其实肖恩先对恐怖分子发出后退的警告，对方不听劝阻他才开枪射击。
最后肖恩被当庭释放，但他仅仅自由了三个小时，当天晚上，他就因为一段
“殴打并绑架汉娜”的录像再次被警方逮捕。
但肖恩的记忆中，当天晚上他与汉娜在车站告别后，汉娜独自上公交离开，并没有发生所谓的殴打等事件。
难道监控录像存在问题？但是这是实时录像，而且肖恩的描述与画面内容大相径庭，不是画面延迟就可以解释通的。
经过肖恩的不断搜查，最终发现，
这段录像完全是基于DeepFake换脸技术伪造的！并且是汗娜一手策划！随着真相浮出水面，整起案件也牵扯出更大的黑幕。
原来，在全国布置的闭路监控下，军情六处等在内的国家情报安全组织，为了监控和控制国家怀疑的危险人物，他们会在适当的时候伪造监控影像，再利用司法程序，约束和制辖这些“危险人物”对于国家和国民的可能存在的危险性行为。
他们将这种伪造视频证据的行为称为“更正”，试图采用“伪造正义”以实现真正的正义。
但“更正”行动也导致部分普通人因为DeepFake虚假监控视频而遭受控诉甚至面临牢狱之灾，为了给这些无辜者平反，反“更正”阵营开始出现，律师汗娜则是该阵营的组织者。
为了让民众知道“监控录像内容不一定真实”，汗娜想到了
“伪造犯罪”的方式，策划了肖恩殴打并绑架自己的虚假事件。汗娜提前找来演员提前拍摄好视频内容，然后将演员的脸换成肖恩。
随后，他们入侵监控系统，将提前录制的DeepFake伪造视频剪辑到闭路电视录像中，制造肖恩暴力行凶的假象。
然后当“罪犯”肖恩被绳之以法之后，他们再将真实视频公布于众，通过制造反差，彻底摧毁民众对于视频监控的信任。
看完整个故事之后，不免让人倒吸一口凉气。
监控系统一直是最有用的证据收集系统，法庭之上，第三方的监控视频甚至可以被视作“铁证”。但在《真相捕捉》的世界里，作为最直接证据的监控影像却接二连三地“说谎”，甚至被作为情报武器，用于蒙蔽民众的国家行为。
监控画面是可以篡改的、证据是可以捏造的、真相是可以被掩盖的...《真相捕捉》虽然是以一个犯罪故事为蓝本，但背后对DeepFake等新科技的探讨值得反思，在科技越来越发达的当下，我们就真的能更容易的触及真相吗？
答案似乎并不乐观。
当影视照进现实，我们该如何捍卫真实？
虽然《相棒》、《真相捕捉》讲述的故事有艺术渲染的加持，描述的社会恐慌似乎被放大。但仔细来看，所有关于DeepFake恶意用途的猜想也并非空穴来风。
去年，就曾曝光一起真实发生的Deepfake诈骗案，英国某能源公司高管在一个小时之内通过匈牙利供应商向一诈骗犯转账24万美元，约175万元人民币，仅仅是因为诈骗犯通过AI技术仿造了其母公司CEO的声音。
该高管表示，在整个通话过程中，老板轻微的德国口音都展现得淋漓尽致，该高管完全没有任何的怀疑，直到被要求再次转账时才发觉了事件异常。
DeepFake等制伪技术的出现让信息的真实性无法保证，而且随着黑客的专业知识和AI技术的日益成熟，DeepFake换脸不再需要昂贵的特效团队，仅仅一台性能尚可的计算机就能够完成。
造假成本不断降低，社会将越来越有可能受到虚假信息的影响。“眼见未必为实，耳听未必为真”，现实世界的真实感正在崩塌。
当影视作品照进真实，未来，社会的真实性将如何捍卫？值得我们深思。
首先，
提高对DeepFake等伪造技术的意识是有必要的，我们要对我们所信任的互联网更加警惕，当看到一条新闻或视频的时候，学会理性思考，追溯其真实性，如果不能百分之百确定信息是真实的，至少可以做到不主动分享。只要公众对造假技术的认识不断提高，深度伪造的影响就会进一步减弱。
其次，我们需要可靠的新闻来源，这就需要Facebook、Twitter等社交媒体平台以及各大主流新闻媒体加强对伪造内容的审核，从源头阻断虚假信息的传播与泛滥。
当然，最重要的就是，我们需要一把能够应对虚假信息的“武器”，在无法肉眼分辨真假的时候，帮助我们厘清事实真相，也就是开发出深度伪造内容的检测产品或工具。
不过目前的伪造技术仍在持续迭代，只有当出现新的伪造手段才能升级相关的防御举措，所以，这必将是一场持续的攻防对抗战。
正如，《相棒》中的电脑天才青木年男所说的：“用AI技术去对抗AI技术，诞生出新的DeepFake，就开发能够识穿它的程序，也就是所谓的猫捉老鼠。”
欢迎关注【瑞莱智慧RealAI】
孵化自清华人工智能研究团的官方团队，致力于提供领先的安全可控人工智能服务
