来源 | 云上的空母

智库 | 云脑智库(CloudBrain-TT)

云圈 | 进“云脑智库微信群”,请加微信:15881101905,备注您的研究方向

声明 | 本号聚焦相关知识分享，内容观点不代表本号立场，可追溯内容均注明来源，若存在版权等问题，请联系(15881101905，微信同号)删除，谢谢。

社交网站的兴起，自媒体的发达，智能手机的普及，让每一个用户充分享受到了信息获取的便利。然而因为技术推动的这个现象，不仅仅给人们带来了信息的海洋，这里也极有可能成为一个双方激烈对决的战场。对于出现这种情况的考虑，已经不再是“是或否”的回答，已经不是杞人忧天。

在美军的新作战概念之中，已经将部队的作战范围延伸到海、陆、空、天、网五大领域。前四个领域是动能杀伤领域，主要手段还是通过形形色色的武器实施攻击，其效果会直观地呈现在平台上。“网”指代的是网络空间，为了在这个领域实施作战，美军甚至建立有很高级别的司令部。

截至目前，美军总共有11个联合作战司令部，分别是6个地区司令部和5个功能型司令部。而网络司令部，就属于级别非常高的联合作战司令部。在网络司令部之下，还组建有四大军种的网络司令部，分别是：陆军网络司令部、海军网络司令部/第10舰队、空军第24航空队和海军陆战队网络空间司令部。

基于互联网空间兴起的社交媒体网络，以及传统网络，自然也属于网络空间的范畴，并且也属于美军网络司令的作战范围之内。同传统司令部的作战相比，网络司令部的作战是“隐性”的，更不容易被发现，几乎不分和平时期与战争时期，而且作战效果能实现瞬时抵达。

虽然网络战的范畴很大，不可能仅仅包括互联网，但是目前一些新兴的技术，其作战威力丝毫不容得低估。这些技术看来似乎是针对个人的，然而它们产生的威力，可能会不亚于大规模杀伤性武器。而深度伪造技术（Deepfake）的兴起和流行，正符合这样的一种特征。

最开始，“深度伪造”技术也许给大家造成的印象是“好孩子”视频，或者是好玩。然而，这种技术的发明，无异于从潘多拉魔盒里放出一个可怕的怪物。一些有远见的军事技术研发机构和防务研究机构，已经用深邃的目光紧紧盯死它。而这也意味着，“深度伪造”技术的泛军事化用途，离我们并不遥远。

亦正亦邪的人工智能

深度伪造（Deepfake）其实是个合成词，它包括“深度学习”（Deep learning）和“造假”（fake）两层意思。在介绍深度伪造技术之前，就不得不介绍一下合成媒体（Synthetic media）技术。合成媒体技术指依靠人工生产、操纵以及自动化方式修改数据和媒体，特别是通过使用人工智能算法，达到误导他人或更改原始含义的目的。

深度造假技术，则是合成媒体最突出的形式。依靠深度造假技术，可以将人带入现有的图像或视频，使用人工神经网络将其替换为别人的肖像。深度造假技术的原理，就是通过搜集目标的肖像素材，然后通过AI工具进行培养训练，并使之转换成用户所需要的目标人物的视频画面。通过反复的训练，最后几乎可以达到以假乱真的程度。但实际上，深度造假技术的应用绝对不仅仅指“换脸”这么简单。

澳大利亚战略政策研究院2020年4月29日对深度造假技术的功能进行了很好的总结，其具体包括以下几个方面。首先是我们前面所说的换脸，就是用户将目标的脸部嫁接到另一个身体之上，适用于静止图像和动态视频。这种技术的获取非常简单，在线就能拿到简单版本。

第二种功能是重新定制，就是把来自目标源的面部映射到用户身上，从而允许造假者操纵目标的面部运动和表情。第三种功能是实现嘴唇同步，即用户在目标视频上复制嘴巴动作，结合音频的生成，从而使目标说自己想说的话。第四种功能是运动传递，即源视频中人的身体运动可以通过真实的视频记录传输到目标。

第五种功能是图像生成，用户拼接深度造假技术，可以创建全新的图像，例如面孔、物体、风景或房间。第六种功能是音频生成，用户从真实语音的少量音频样本中创建合成语音。该技术可以和口型同步工具结合使用，从而允许用户将音频“叠加”到预先存在的剪辑之中。第七种功能就是文字生成，用户可以生成人工文本，包括社交媒体或网络论坛的“简短”评论，或者是长篇新闻与文章。[1]

首先必须承认的是“深度造假”技术的确会对现代社会产生的一定的贡献，比如电影行业。在《星球大战外传：索罗》电影之中，通过使用“深度造假”技术，就成功实现了将哈里森·福特年轻时代的面孔插入到汉索罗的脸上，《侠盗一号》中莱亚工作也使用了这种工具。另一方面，这也意味着电影拍摄成本的降低。

这种技术为电影业带来的另一大好处，是那些我们非常喜爱的、已经去世的演员，可能再次活灵活现地登上大荧幕。依靠“深度造假”技术，电影可以给我们同经典演员的“跨越时空的对话”，哪怕是我们从内心里必须承认他们已经去世了。

但是另一方面，“深度造假”技术也着实引发了科学家们的极大忧虑。例如，美国加州大学伯克利分校的计算机科学教授兼数字取证专家汉尼·法里德在接受媒体采访时指出：“我们（对深度造假）感到不知所措，目前参与视频合成的人数同检测视频人数的比例是100：1。”[2]

这种担忧并不是没有道理的。因为自“深度造假”技术问世以来，就已经被很多人用于非法用途。例如，2019年，一家英国能源公司的首席执行官遭到电话诈骗，对方使用了“深度造假”技术模仿其母公司首席执行官的声音，诱导他将22万欧元转入匈牙利的账户之中。

如果说此类针对个人的诈骗造成的危害范围相对较小，但是另一种形式就完全不一样了。有些别有用心的人，利用“深度造假”技术制造假新闻，而这种假新闻会造成严重混淆视听的恶意效果，从而导致受众不知道“究竟该相信谁的”。本来，互联网媒体之中就有不少为了获利而故意编造信息的情况，他们对于那些非专业的读者而言，处于有利的地位。这些非专业读者，很难判断“真伪”，由此导致了“信假为真”的大量情况。

综合上述种种观点，可以发现深度造假技术是一种“亦正亦邪”的人工智能技术。从客观上的角度上来说，技术本身并没有“正邪”之分，而在于背后使用它们的人。“深度造假”技术出现在互联网上，其实就很有蹊跷。有观点认为，这种技术的研发实际上在20世纪90年代就已经开始了，后来才由在线社区的业余爱好者开发。该技术是否具有军方背景，目前尚无定论，但难免让人引发联想。

美国多方面已强势介入

美国防务界已经对“深度造假”技术的表现出极大的安全担忧，而作为美军非常前卫的科研机构，美国国防先进研究计划局（DARPA）已经介入其中。2018年夏天，在国防先进研究计划局的资助项目下，全球领先的数字取证专家齐聚一堂，以进行AI伪造比赛。这些专家负责生产最有说服力的AI伪造视频、图像和音频，并且还尝试开发可自动捕获假冒产品的工具。

国防先进研究计划局非常关心的一种新技术是生成对抗网络技术（Generative Adversarial Networks，GAN）。生成对抗网络技术由两个组成部分构成，分别是“演员”和“批评家”。演员试图学习数据集中的统计模式，例如一组图像或视频，然后生成令人信服的合成数据。被称作“批评家”的第二种技术，主要用于区分真实和虚假的例子。通过这种形式，“演员”能够制作出更加真实的视频。另一方面，这也为鉴别视频的真伪提供了可能性。

检测视频、音频和图片是否是伪造的，有三个步骤。第一个步骤，检查数字文件是否有两个图像或视频拼接在一起的迹象。第二个步骤，查看图片的光线和其他物理属性，以查找是否有问题的迹象。第三个步骤，是“深度造假”技术最难躲避“法眼”的步骤，但也是最难自动实现的步骤，就是考虑产品的逻辑一致性，例如具体时间的天气错误、事件背景不正确、时间发生位置不正确等等。[3]

目前，美国国防先进研究计划局下面总共有两个涉及到“深度造假”的项目，分别是媒体取证项目（Media Forensics，MediFor）和语义取证项目（Semantic Forensics，SemaFor）。媒体取证项目将用于开发算法，以便自动评估图片和视频的逻辑一致性，从而为分析家提供如伪造内容如何生成的信息。2019财年，媒体取证项目获得了1750万美元的预算，2020财年获得530万美元的预算。该项目将在2021财年完成，并预计会转交给各大作战司令部和情报机构。

语义取证项目则寻求开发自动探测、界定和归类各种深度造假产品的算法。2020财年，语义取证项目获得了970万美元的预算，2021财年获得了1760万美元的预算。无论是媒体取证项目，还是语义取证项目，都将用于美国抵御对手的信息作战。[4]不仅如此，美国陆军还认为信息环境（IE）是多域战（MDO）的重要作战领域之一，因此必须考虑到“深度造假”这种技术造成的影响。[5]此外，美国陆军还认为，社交媒体是可以武器化的，它与文化交流同属赛博空间作战的延伸。[6]

军种层面，美国陆军认为极端暴力组织（VEO）将通过“深度造假”技术，把多种网络功能结合到进一步的误导性或虚假叙述之中，从而针对美国和合作伙伴实施相应的作战。通过“深度造假”技术，极端暴力组织极有可能通过传播假信息制造怀疑和困惑，从而影响美国陆军在执行总体作战任务中取得成功。[7]

除了上述军方机构的关注，美国国防部最高层面也对“深度造假”技术定了调。例如在2019年2月12日五角大楼举行的圆桌会议上，美国国防部的联合人工智能中心主任杰克·沙纳汉中将（Jack Shanahan）就指出：“深度造假是国家安全问题，国防部需要大力投资以应对这种情况。我们在2016年大选中看到了强有力的迹象，如果任其（深度造假）发展，它将再次发生在我们的身上。许多商业公司每天都在做这个事情，复杂程度似乎是呈指数级上升的。” [8]

不仅仅上述两家机构，美国国会也有重大的动作。2020年12月，美国国会向总统提交了两项法案，即2021财年国防授权法案（NDAA）和IOGAN法案。这两项发现将分别要求美国国土安全部（DHS）、国防部（DOD）和国家科学基金会（NSF）发布报告并加强对深度造假的研究。届时，美国国土安全部部长将发布有关“数字内容伪造”的五年年度报告。而在IOGAN法案下，美国国家科学基金会还将为“操纵或合成的内容和信息真实性”研究提供支持。[9]

尽管美国各个方面一再描述开发相关技术是用于进行防卫，但是它极可能将“深度造假”技术用于进攻。对于军事研究者而言，“深度造假”技术具有这么大的作用，美军如果发现不了它的价值，那简直是21世纪最大的笑话之一。虽然它暂时没有公布相关项目，但并不代表这些项目不存在。

从信息战的角度理解深度造假

信息战是美军21世纪重点建设的领域之一。在信息战领域，美军将该领域的作战分为两大类，即进攻性信息战和防御性信息战。进攻性信息战，是指美军在情报支援下，综合使用分配和支援能力与行动，以达到摧毁、削弱、扰乱、组织、欺骗、利用和影响对手的目的。

防御性信息战，指美军采取措施包括己方使用相关信息的能力，使己方部队获得及时、准确的相关信息，保持有效的指挥与控制，同时防止对手影响己方的信息和信息系统，使其无法采取有效的行动来剥夺己方的优势，从而无法影响、削弱或摧毁己方的指挥与控制系统。

在此基础上，美军将信息战划分为五种，即电子战、计算机网络战、军事欺骗和反欺骗、心理战、作战安全。其中，军事欺骗就是指通过错误的信息或观点来误导对手做出错误的判断。而反欺骗就是消除、抵消或减少对手欺骗行动的效果，并从中获得优势。其手段有两种形式，第一种是通过降低对手欺骗行动的危害来支援进攻性信息战，第二种形式就是采取防御性的反欺骗，识别敌方误导己方的企图。[10]

基于上述定义，我们可以发现对于“深度造假”技术的应用，均能贯穿于美军五种信息战的始终。由于社交媒体已经越来越成为人们日常生活中不可分割的一个部分，所以他势必成为对抗双方争夺的重要战场之一。而这种形式，其实已经出现。2020年亚美尼亚和阿塞拜疆的纳卡冲突之中，双方在社交媒体上就“大打出手”。

比如在冲突爆发之后，纳卡地区武装就宣称打掉了阿军的4架直升机、15架无人机和10辆坦克。然而事后被证实，这只不过是叙利亚一架直升机坠毁视频的照片。双方通过社交媒体网站发布假情报和假新闻，达到了混淆视听和干扰敌方判断的意图。不过，这种对抗手段显得相对低级。

引入“深度造假”技术之后，那么一方完全有可能收集对方领导者和高级作战指挥官平时的画面，通过人工智能技术训练，让他们“说己方想说的话、干己方想干的事情”。通过这种战术，可以达到打击对方国民士气，扰乱其指挥与控制，挫败其对抗决心的目的。而这种技术在地区局势紧张时，甚至有可能被极端分子所利用，促成对抗双方大打出手，而自己却作壁上观。

显然，对信息战非常有研究的美军，不可能不会运用这样的新战法。而在本文上一部分，我们就可以发现媒体取证项目在完成之后，会转交给美国的作战司令部和情报部门。有盾就有矛，当初美国在公布信息战条令时，防御讲得很多，进攻细节却说得很少。明眼人都知道，美军对于“深度造假”的信息披露，不过是当初信息战条令披露形式的翻版而已。

对于这种全新的作战形式，已经有相关的研究了。有专家指出，利用“深度造假”的信息战，可以称作为人工智能支持下的信息造假战役（AI-supported disinformation campaign）。[11]叫什么不重要，重要的是利用“深度造假”技术的作战，已经无法被任何一支军队忽视了。

全文完。

参考文献：

[1]https://www.aspi.org.au/report/weaponised-deep-fakes

[2]https://www.washingtonpost.com/technology/2019/06/12/top-ai-researchers-race-detect-deepfake-videos-we-are-outgunned/

[3]https://www.technologyreview.com/2018/05/23/142770/the-us-military-is-funding-an-effort-to-catch-deepfakes-and-other-ai-trickery/

[4]Deep Fakes and National Security, Laurie A. Harris, Analyst inScience and Technology Policy, Congressional Research Service, August 26, 2020.

[5]https://madsciblog.tradoc.army.mil/190-weaponized-information-one-possible-vignette/

[6]https://madsciblog.tradoc.army.mil/87-likewar-the-weaponization-of-social-media/

[7]https://madsciblog.tradoc.army.mil/220-extremism-on-the-horizon-the-challenges-of-veo-innovation/

[8]https://www.c4isrnet.com/information-warfare/2019/08/29/how-the-pentagon-is-tackling-deepfakes-as-a-national-security-problem/

[9]https://thehill.com/opinion/cybersecurity/531911-congresss-deepening-interest-in-deepfakes

[10]Joint Publication 3-13 Information Operations,Joint Chief of Staff,27 November 2012 Incorporating Change 1 20 November 2014.

[11]The Next Generation of Cyber-Enabled Information Warfare, KimHartmann, Keir Giles, Conflict Studies Research Centre, 2020 12th InternationalConference on Cyber Conflict.

－ The End －

版权声明：欢迎转发本号原创内容，转载和摘编需经本号授权并标注原作者和信息来源为云脑智库。本公众号目前所载内容为本公众号原创、网络转载或根据非密公开性信息资料编辑整理，相关内容仅供参考及学习交流使用。由于部分文字、图片等来源于互联网，无法核实真实出处，如涉及相关争议，请跟我们联系删除。我们致力于保护作者知识产权或作品版权，本公众号所载内容的知识产权或作品版权归原作者所有。本公众号拥有对此声明的最终解释权。

投稿/招聘/推广/合作/入群/赞助 请加微信：15881101905，备注关键词

“阅读是一种习惯，分享是一种美德，我们是一群专业、有态度的知识传播者.”