深度学习作为时下最热门的科技概念——人工智能（AI）的子概念之一，是学习样本数据的内在规律和表示层次，在这些学习过程中获得的信息对诸如文字、图像和声音等数据的解释有很大的帮助，其最终目标是让机器能够像人一样具有分析学习能力，能够识别文字、图像和声音等数据。目前正被广泛地运用于通讯、工业制造、交通、金融、医药、传媒、娱乐等各行业。生活中，人们可以利用深度学习的人脸识别进行身份认证和便捷支付等行为，一度使其被奉为科学技术的又一次革命。
然而，前段时间“明星换脸”技术于社交媒体的爆红，引发了巨大的社会争议。“深度伪造”是利用深度学习技术中的“对抗生成网络”模型形成的智能视频处理技术，“明星换脸”则是该技术最为典型的应用。利用该技术基于娱乐或其他目的伪造的政客演讲、电影片段等足以以假乱真，引起了公众的警觉和国家安全部门的注意。在深度伪造技术水平日新月异而鉴别手段相较被动的现实环境下，利用兼具真实性、便捷性和快速演化性的深度伪造进行心理战正逐渐成为可能。
01
深度伪造技术的概念与原理
“深度伪造”（Deepfakes）由英文“深度学习”（deep learning）和“伪造”（fakes）二词结合而来，表明该技术是基于深度学习的一种新型信息篡改与替换手段。
与深度学习不同的是，深度伪造技术是一种“无监督学习，通过对抗生成网络 (Generative Adversarial Networks）”。在自我优化中生成伪造的数据。对于这种技术逻辑，只要有足够的数据和运算速度，理论上生成模型会在“对抗”中持续自我迭代并不断优化伪造视频。2019年3月，一则技术人员利用该技术换脸“杨幂”的事件在舆论上引起热议，国内第一次掀起“换脸”热潮。随后不久，明星“换脸”手机应用程序“ZAO”上架开放下载，短时间内便冲上各大应用商店下载排行榜第一位，一时间网络社交媒体上充斥着网民将自己与明星“换脸”出没于电影片段或演出场合的视频，极大的满足了网民的“明星梦”。
但昙花一现后由于“ZAO”中涉及的隐私条款因涉嫌侵犯公民隐私权而遭到舆论的声讨，导致应用程序下架。事实上，深度伪造“换脸”技术早在几年前就在美国有过重要尝试，如Cycle GAN，可以说是所有人脸转换早期的重要尝试。Face 2 Face则可以说是一次“标准的、规矩的”的尝试。但当下国外最火热、最广为流传的深度学习换脸模型毫无疑问是Deepfake。值得一提的是，该技术还首先被国外色情网站Reddit的用户用来将好莱坞明星与色情视频中的艳星“换脸”，从而招致网民广泛传播，给当事明星造成了极大的困扰。
▲对抗生成网络示意图
不仅只有视频“换脸”，深度伪造技术通过数据采集和学习，还能模仿目标对象的语音。早在2018年1月，国内科技企业科大讯飞公司董事长刘庆峰就曾在发布会上现场利用深度伪造框架下的语音合成技术演示美国总统特朗普对发布会致以贺词，“特朗普”甚至还能以一口流利的中文向大家问好。用刘庆峰的话说，“我们用机器模仿特朗普讲话，连美国人都信以为真”。
此外，来自英国伦敦大学的研究团队还研发出了一种基于深度学习的全新智能算法，只需提供目标对象的笔迹样本即可实现完美“复刻”，难以辨认。除了语音和笔迹、指纹、文风甚至是微表情等个人独有的生物和思维特征难题也已全面被深度伪造技术攻克，可以说，只要采集了足够的数据，深度伪造完全能制造出“另一个你”。这个“你”不受你的意识控制，却可以向你的社交、生活和工作圈发布本尊从未授意过的信息——不论你是士兵、营长、司令还是总统。由此，深度伪造技术的心理战潜力可见一斑。
02
深度伪造技术的战场运用策略
早在深度伪造技术初露雏形时，美国国家安全部门就敏锐地察觉到了该项技术存在着威胁国家安全的巨大隐患，因而开始在政策层面、法律层面和技术层面加大了对该技术的限制力度，美国参众两院议员相继推出了《2018年恶意伪造禁令法案》《深度伪造责任法案》《2019年深度伪造报告法案》以防止别有用心者恶意利用该项技术。与此同时，深度伪造技术应用于作战的巨大潜能也被察觉，有众议员在2019年6月提请众议院授权开展深度伪造鉴别技术竞赛，要求美国国防部高级研究计划局（DARPA）实施一项有竞争力的奖励计划，刺激技术的研究、开发或商业化，实际上是激励人才将该项技术军事化，从而应用于心理战和舆论攻防。
▲深度伪造“换脸”过程
在与敌国的争锋中，国际社会的舆论支持也是必要的，哈佛大学肯尼迪政府学院下属的Belfer 研究中心曾发布的一篇《AI与国家安全》报告指出：“敌对国家的网络间谍在窃取一国的真实机密文件后，同时泄露该真实文件和一些相应的伪造文件，再利用深度伪造技术合成相应的音、视频材料来佐证相关的伪造文件，该伪造文件的可信度将极大提升，由此操纵公众舆论，影响国家政权稳定。”
当前各国领导人的外貌、语音甚至笔迹、文风数据极易获取，美国两任总统奥巴马和特朗普的换脸视频已在全球范围内广泛传播，2019年初，比利时某政党甚至发表了特朗普批评比利时在气候变化问题立场的视频，引发网友对美国政府干预比利时内政的强烈不满，这一视频后来也被证实是基于深度伪造技术的假视频。而视频从引起争议到最终辟谣之间有一个时间差，“不怕事后被人骂，只怕当时没人信”。
深度伪造的产品结合社交网络的涟漪效应，可以带来大规模的以讹传讹式的扩散，充分利用这个时间差，在反制力量还未作出反应时就进行有利于己的国际舆论引导，对敌进行舆论压制，抢占话语高地，赢得国际支持，一定程度上能够起到可观的效果。
第一是针对指挥系统，战场环境中，可以提前筹备规划利用深度伪造技术干扰敌军指挥效果，如AI换脸和语音合成地方军政领导人的外貌和语音对基层部队传达假指示；伪造敌高层签名对部队下达假文件、假命令。
第二是针对敌战地宣传系统，如“换脸”敌新闻主播插播假新闻，干涉敌宣传系统。第三是针对敌一线部队，如模仿敌方领导人语音进行现场指挥和战场喊话。战场情况瞬息万变，信息沟通不畅会对指挥员决策造成巨大影响，利用深度伪造技术合成的假音频、假视频、假文件投送至敌军内部，在信息封锁的情况下会极大地考验指挥员的判断能力，并增加指挥员出错概率，一定程度上能够欺骗敌军或在敌军中造成混乱，有效干扰敌指挥系统以致决策错误或延误最佳时机，从而削弱敌战斗力和战斗意志，也有机会实现策反、劝降等目标。
▲科研团队伪造的奥巴马视频效果
前线之外，于敌后也可以运用深度伪造技术来达到作战目标，政治上可合成敌军政要员电视讲话或伪造签名文件，达到丑化军政要员或误导群众的目的。或是发布合成的敌一线部队高层投降宣言，动摇群众的战争意志，营造出大厦将倾的错觉。
伊拉克战争中，美军在进攻巴格达前夕对伊拉克民众实施的心理战，宣称守卫巴格达的共和国卫队某师师长已率众投降，实际情况确是当事人很快现身说法，导致美军谎言不攻自破，美军的心理战行动也沦为笑柄。试想若此时有深度伪造技术的介入，合成该师长的投降宣言或电视讲话，美军宣传可信度也会大大提高。
此外，由于深度伪造技术的参与，一定程度上会影响敌后群众对信息的信任度——无论是官方还是非官方消息。2016年美国大选，有民众就怀疑俄罗斯情报部门利用深度伪造技术传播虚假新闻从而导致特朗普赢得大选，当人们倾向于怀疑接触到的所有信息均为伪造之时，社会混乱程度就已加深了。
03
深度伪造技术的发展趋势
深度伪造不同于以往相对简单的PS图像篡改或是其他的视频、音频篡改技术，而是基于训练的样本进行AI的深度学习。样本数据越多，计算机对目标对象的就模拟越真实，最后达到以假乱真的地步。深度伪造还结合目标对象的脸型、语音、微表情、笔迹等生物特征进行综合学习，这是以往任何伪造技术所不能比拟的。
从2017年深度伪造技术刚诞生时用的卷积神经网络到现在最新的对抗生成网络，无论是实现智能“换脸”的计算能力还是逼真程度都有了很大提升，已经让大众越来越难辨真假，若非经过专门训练以及专业鉴别手段的支持，普通人难以发现深度伪造视频的破绽，曾有瑞士科学家尝试用最前沿的人脸识别系统去识别“换脸视频”，结果错误率高达95%。
▲合成媒体主播进行虚假宣传
和传统的AI技术相对比，深度伪造技术的门槛相对较低。好莱坞大片中的特效之所以具有真实感，背后是视频深度处理技术的垄断和巨大的资金投入，普通公众根本无法涉足。
深度伪造技术的出现则大大提高了视频深度处理的普及性，不仅采用更为智能的“无监督学习”算法，更无须安装编程语言和开源软件库就能运行，更难得的是，深度伪造的“源数据”如目标对象视频、语音、文风等在网络中极易获得，使得训练数据非常丰富，有助于提高产品真实性。随着越来越多的免费而便捷的应用程序出现，普通人只要少数目标对象的高清视频，不到12小时就能制作出专业的换脸视频，且一旦做出来，结合快速发展的社交媒体网络，成品就可以几乎以零成本进行扩散。
深度伪造技术使用的对抗生成网络具有极强的自我适应性，不需要用户过多的人工干预，它会通过在对抗生成网络中不断自我优化，不断实现升级换代，从而达到“真实的可怕”的水平。在深度伪造技术发展早期，需要人工寻找包括目标对象视频、语音、图片在内的素材用来构成“喂养”深度学习的“源数据”，还需要自行寻找合适的替换视频。
国外知名的科技网站“主板”在2018年曾经预测深度伪造技术在寻找“源数据”方面要想实现自动化至少需要1年时间，但事实上，这次自动化迭代只用时1个月。之前，人工识别深度伪造的视频还可通过“目标对象是否眨眼”“微表情是否自然”以及“面部边缘是否有锯齿”等作为参照辨别真假，DARPA甚至研发出了一款“反变脸”的AI刑事侦查检测程序，但随着伪造技术的不断升级换代，以上鉴别手段已部分失效，防伪技术还须不断进步才能跟上深度伪造的更新换代速度。在照相术诞生之前，人们通过语言和文字、绘画传递信息，由此产生了许多不切实际的传说和谎言，因此智者坚信“耳听为虚，眼见为实”。而在AI深度伪造技术快速发展的今天，不仅“耳听为虚”，“眼见”也不一定“为实”了。
在假视频的复杂度、鉴别难度和传播速度屡创新高的当下，将深度伪造技术应用于作战是一种前卫的选择，任何国家的安全部门都无法真正承诺己方的宣传完全真实而把信息伪造的主动权拱手让人。久而久之，在“劣币驱逐良币”的氛围影响下，各国加强深度伪造技术的研发和战场应用，受到影响的官兵会不信任上级指令，普通群众则会加大对媒体的不信任感，毕竟不仅当前发生的事情，连既定的历史都可以伪造了。未来，深度伪造技术与鉴别技术会在不断的竞争对抗当中快速发展，彼时一则信息的真假恐怕只有发布者自身知晓了。
閱讀更多 無錫軍民融合公共服務 的文章
