摘 要：

作为基于人工智能形式的现象化传播应用，深度伪造的社会伤害潜能凸显，表现为攻击性损害、真相衰败、治理失范、信任风险加剧等问题。但对于深度伪造也不能陷入简单而机械的二元论，完整地把握深度伪造之“作假”的传播自由及其限度，系统地检视基本的治理路径及其引发的争议，探讨面向未来的社会建构命题，是深度伪造传播向善实践的重要现实命题。

关 键 词：深度伪造；社会伤害；技术向善

一、深度伪造的社会伤害

(一)攻击性损害与变态困境问题

(二)后事实世界与“真相衰败”问题

(三)深度操纵与信任风险的加剧问题

(四)规制堕距与治理失范问题

二、深度伪造伤害问题的治理路径及争议

(一)技术治理

(二)规制治理

(三)社会批判治理

三、深度伪造向善传播的社会建构观念

深度伪造作为融合了深度学习与伪造的人工智能传播形式，经过短短几年的发展便不断地普及开来，并成为传播理论与实践层面关注的焦点之一。它被认为是对未来信息环境的一种迷人的、引人注目的，并最终令人不安的探索，不良信息和虚假媒体将超出个人或社会的应对能力[1]。目前学术界尽管对深度伪造的影响有所把握，并对如何解决这一问题进行了一定的思考，但如何更完整地把握深度伪造之“作假”的传播自由及其限度，系统地检视基本的治理路径及其引发的争议，探讨面向未来的社会建构命题，成为深度伪造传播向善实践的重要现实命题。

由于深度伪造的可“作假”性，以及该技术的易获得性、广泛使用与扩散性，它带给社会的并非是一般意义上的影响，而是表现为明显的社会伤害可能。加之深度伪造作为欺骗所依赖的形式不仅仅是基于语言上的谎言，而是融合了语言和非语言行为的视觉性虚构制品，其内容与现实世界具有高度的相似性，更容易误导性地产生错误的观念[2]。进一步说，它的社会伤害问题不仅在于伪造的质量，还在于它的疯狂传播对社会领域的卷入能力。为此，深度伪造也被一些研究者认为是正被唤醒的沉睡中的怪物。

(一)攻击性损害与变态困境问题

人脸与声音具有独特性，同时具有公开与不公开的隐私选择权利。但攻击者借助深度伪造技术可以生成用户的对话视频，不会留下任何视觉上明显的虚假痕迹，导致传统的基于人脸或基于嘴唇的身份验证系统被严重损害[3]。这种对于深度伪造的攻击性挪用，为更普遍的社会攻击打开了大门。如深度伪造色情的影响渗透到受害者生活的方方面面，它不仅破坏了这些受害者的性隐私，网络的永久性也抑制了他们使用互联网和寻找工作的能力[4]。进一步，深度伪造还被视为性暴力的一种形式，它对性别差异的负面强化，损害了人的尊严，而性别少数群体或种族少数群体更容易成为该传播技术滥用的受害者[5]。美国民主党议员南希·佩洛西（Nancy Pelosi）谈论特朗普的一段视频被深度伪造后，其在脸书上的浏览量一度超过百万次，转发与评论也超过数万条，其被调整的语速和语调一度被不明真相的公众评价为喝醉后的胡言乱语。

与攻击性损害共在的是社会的变态困境（pervert's dilemma）情形。以深度伪造色情为例，尽管深度伪造传播的色情作品对大多数人来说在直觉上是不道德的，但似乎很难为之辩护，且这种直觉并不同时谴责人们通常认为在道德上不令人反感的其他行为，例如将之作为性幻想[6]。同时，这种变态困境也并不单单指的是性指向。在更宽泛的意义上，出于特定的攻击目标需要，深度伪造让被攻击者看上去像是说了或像是做了什么从未说过的话或做过的事，从而可以败坏其声誉，但对攻击者传播联盟（或类似群体）与围观群体看来，这并非明显不妥，于是表现为过于宽容性的社会群体纵容。于是在围观者无罪与各取所需的社会传播氛围之下，作为攻击性传播的深度伪造所造成的损害不仅成为不负责任的社会例外，还进一步加剧了其传播性与伤害性的双重生成可能。

(二)后事实世界与“真相衰败”问题

深度伪造传播带来了后事实世界（post-fact world）体验，即人们对于真实性的感知是基于某事物看起来或感觉起来怎么样，与其客观性如何没有任何关系。那种基于理性的、证据的硬推销方法往往会因为人们既有的偏见，或与人们现有态度及观点相矛盾导致无法令人信服，而即便是信息来源的可信度值得怀疑，但重复暴露的深度伪造信息也容易使人感觉到信息的真实性[7]。深度伪造高度迎合了这种对主观性解释高度依赖的事实，它直接带来了“真相衰败（truth decay）”的问题。具体来说，它包含了如下的传播趋势：对事实与数据的分析解释的分歧加剧，观点与事实间存在模糊界限，观念与个人经验在传播景观中的影响力不断增加，对以前受人尊敬的作为交流的来源机构的信任度不断降低[8]。显然，后事实世界的提法形成了与后真相世界的呼应，但比后者走得更远。它不仅偏向于感觉意义的事实感的存在，更是在某种意义上搁置了关于真相问题的真正探寻可能。

这一情形也暗示了一种传统认识论的退场，一种经历启蒙之后理性主义的大溃败。但这并非因为所谓理性牢笼使然，而是直接走向了偏执地以感觉统领认识世界以及告别真相问题的极端主义认识论立场。在某种程度上，它意味着人们成为新的单面人与平面人的杂糅体。当今社会是一个观点与话语过剩的时代。话语的本质是表达性与建构性，观点具有解释性与判断性，但在强调话语在建构实在、观点的解释性与判断性的时候，如果抽离一个讨论对象的真正存在的事实根基，会肆意地追随诸如某事物看起来与感觉起来怎么样的主观性言说。即便有时候一些讨论的过程看起来极具论证性与想象力，但也极易陷入话语的循环表达或观点的武断化。如此一来，那种与“硬推销”相对的所谓“软推销”的流行也只会助长感觉价值的统摄性，原本那些“丰富的人类知识和其他共享的概念，如公平、信任、道德和伦理在深度伪造的语境下可能更为重要”[9]，由此而导致人类认知性与价值性的双重失衡。前述关于美国民主党议员南希·佩洛西的深度伪造传播事件也表明，这是只有感觉对象的话语传播浮沫，该传播本身并未能引导公众社会走向任何公共性深处的探讨。它唯一的价值是在被《华盛顿邮报》的技术人员分析揭示之后，其成为一个令人不安事件，得以造成美国社会对此客体事件的过往凝视而哗然。

简言之，深度伪造作为特定的复制传播形态，相对于原型来源来说有原始性的一面,但在生产品或表征的传播中，它并不具有原型的真实性意义[10]。深度伪造带来的“深度”所指或许是，它乐于让客观成为你所寻找的任何事实，这也导致所谓的“真相”从来没有被确认为某些东西，甚至它从来也不会被确认[11]。有批判者宣称，深度伪造意味着视觉真相信仰的消逝。所有这些也表明,深度伪造使得真相呈现为流动性与脆弱性的发展趋势。人类原本寄希望于通过信息的交换实现不确定性的消除，深度伪造却助长了深度数据政治与社会不确定性的再生产。

(三)深度操纵与信任风险的加剧问题

在社会学意义上，信任原本是作为社会重要的资本形态，它可以促进整体社会的联系、沟通与交往。而深度伪造作为人工生成的视听传播制品，直接依赖于网络上公开的视听资料，且并不需要任何人的同意（至少在当下的诸多传播情形中是如此），这在无形之中加剧了传播中的信任风险问题。

深度伪造的假信息能操纵情感与观点，最坏的情况是它能够组织和联合不稳定的公众行为来支持错误的想法或印象[12]。一些深度伪造甚至直接涉及犯罪，它制作视频进行商业欺诈、市场干预，羞辱个人和身体的“色情报复”，甚至是通过政治欺骗与操纵公众进而煽动暴力威胁与内乱等[13]。深度伪造的市场干预表现为形成深度伪造关联事件，它通过特定的行为、言论与信息，借助于金融市场从该传播事件中获益，抑或直接损害特定公司的品牌价值[14]。而在宣传操纵意义上，深度伪造意味着基础性操纵范式的转变，它集中或分散有限的公众注意力，使得政治事务中的某国领导人和国际组织机构名誉扫地[15]。这一切都将引发特定社会政治效应,并最终对国内外的治理产生影响。2017年5月15日，主张打击腐败和有组织犯罪力度的墨西哥作家兼记者哈维尔·瓦尔迪兹（Javier Valdez）被谋杀，墨西哥人权非政府组织（Propues-ta Cívica）和 德 国记者协会（Reporter ohne Grenzen）共同发起了“保卫记者声音”的行动，具体就是利用深度伪造生成瓦尔迪兹的数字化身，使其再现于世。此举不仅使瓦尔迪兹“起死回生”，还让其“声称”是因主张打击腐败和有组织犯罪而被暗杀，并“呼吁”人们为那些因此而被谋杀的人和失踪者伸张正义。该案例也一度作为重要的深度伪造事件而在全球被广为传播。

不仅如此，深度伪造还可能被用在未来的战争宣传中，如通过更换制服或国籍标记，与非武装组织的内战和冲突建立起关联，以高效而低成本激发出所需要的情绪反应。对此，相关研究者归纳了深度伪造成为政治操纵的条件要素：容易识别的人、描述了人的行动、可以在有限附加的上下文中理解、有情绪反应，引起的显著反应足以影响舆论或煽动行动[16]。颇具反讽的是，如果说后疫情世界里大量虚假信息的出现是一个生死攸关的问题，它需要发展出应有的超越性、定位与姿态意义的话，但深度伪造却逆向地迎合了注意力的关系需要，强化了显著的主观性、武器化和偶然性[17]。倘若它被武器化地广泛用于后疫情世界，这种深度操纵带来的信任风险后果将是灾难性的。

而一旦深度伪造成为传播生态系统中有关操纵性和虚假信息的更大趋势的一部分时，这也意味着信息传播公信力的地位受到质疑和挑战，传统的新闻标准、社论规范、把关位置与角色意义将被重新唤起[18]。可以看到的是，深度伪造通过数字媒体发布被恐慌包围的所谓假新闻，捏造了模仿新闻惯例的故事，以令人震惊内容吸引用户参与，能从基于点击的服务中获利数字广告或影响公众舆论[19]。深度伪造的后遗症在于，容易带来第二秩序效应（second-order effects），表现为激发信息传播阴谋论的流行，而将真实媒体的传播也视为是合成的产物[20]。原本视觉系统处在认知主导地位，视频拥有高信息承载潜力而成为真实的“黄金标准”，但深度伪造阻止了通过观看媒体了解世界、形成对世界共同理解可能，对新闻主义和其他媒体在构建这个世界中所起的作用等形成严重破坏[21]。这一情形引起了记者和媒体对深度伪造带来的集体操纵的隐忧，同时它也加剧了媒介公共性的应然性与实然性的张力问题，并凸显了深度伪造传播下社会信任心理的变化，进而使得技术的传播乌托邦主义不堪现实重力的赘负。

同时，公众的怀疑性在没有获得明确的边界和限度确认时，往往会受到的实际体验（特别是伤害）的影响。就普通人而言，一朝被蛇咬的心理后果容易形成高度的不信任。由于多数人的信任水平并非建立在直接的对象属性基础之上，虽然在一段时间内尚且能维持一定的信任水平，但随着深度伪造伤害事件的不断发生，势必影响到网络中人们的具体传播行动，即选择怎样的信息通道，以何种方式进行开放与分享，以及在多大范围与多大程度上进行分享的问题。总体上，无论是声音、图像还是视频内容，其可分享性将越来越直接取决于人们的分享意愿，但总体趋势是将会变得更有保留地呈现。在这种情境下，如果国家治理缺乏整体性的有效应对，传播信任的生产性秩序难以为继。特定群体或个体因此遭受羞辱、威胁、诋毁等深度伪造传播伤害的时候，更会对真相的传播生产体制持怀疑态度。甚至由此而可能形成冷漠、保守、犬儒主义、边缘性的社会人格，拒绝更为积极的社会传播参与。抑或是，由于总是面临更复杂的传播风险情形，人们无法轻易地对特定的传播系统或体系进行信任决断，从而增加了日常传播交往的成本。

(四)规制堕距与治理失范问题

一些研究者尝试将深度伪造与广告的未来现实性（the future reality）联系起来探讨。对广告商来说，深度伪造很容易以“欺骗”广告的方式制造出一个品牌发言人或特定人物，以非常可信的方式说或做了他们实际上并没有做的事情，从而导致一种相当可怕的广告观念的生成与流行[22]。尽管现有的相关广告法律为了防止明星虚假代言，专门制定了相应的条款来限制明星的行为。但在深度伪造的情形下，一个创造出来的“人物”显然不需要对此谨慎而为，因为该人物本身在事实上只是被人物化的“物”，自然也就难以纳入明星担责的规制范畴。

在西方，Doritos 与人合作开发了一款名为Sway（Diaz2020）的人工智能应用程序,它让人们能可视化地以名人的身份表演精彩的舞蹈，而程序中最受欢迎的场景之一是应用该程序中的Lil Nas X 在 Doritos’2020 超级碗广告中的舞蹈套路，用户可以将他们自己进行深度伪造以进行“表演”，而后用户还可以通过Instagram、Snapchat、Twitter和TikTok等直接分享他们的舞步。对此有研究指出，从技术上说人们可以进入他们最喜欢的电影场景，或广告商邀请消费者代替模特在广告中的任何表演，消费者可以使用他们的个人译码器，进入虚拟更衣室，在那里可以看到自己而不是模特身体上的衣服，最终使得作为受众的消费者转变为作为共同创造广告价值的消费者。未来的立法则面临一系列问题，它需要对包括被邀请的深度创建实践在内的深度伪造内容之整体合法性进行评估，具体涉及谁拥有数据，数据存储在哪里，以及如何存储，它们是如何被保护并最终被摧毁等问题[23]。但即便是在美国，针对深度伪造的联邦法律也十分有限，虽然部分州（如弗吉尼亚州、得克萨斯州与加利福尼亚州和纽约州）通过了立法，但它们在范围、处罚与聚焦点上有所不同。如弗吉尼亚州先是将深度伪造涉性问 题纳入“ 色情报复法（revenge porn law）”加以管理，强调未经当事人允许而分享他人的真实或伪造裸露视频或照片均为违法，凡以此来进行骚扰或胁迫的话，将被定为一级轻罪（Class 1 misdemeanor）。随后不久，弗吉尼亚州又通过一项禁止法案（Assembly Bill No.730），禁止任何个人、委员会或其他实体针对选举期60天内的所有竞选人散布具有实质恶意欺骗性的视听媒体内容，以避免损害候选人的声誉或欺骗选民投票[24]。而纽约的法案则主要关注处理数字继承和死后隐私问题，以及如何管理这些死者的数字肖像权利[25]。显然，对于深度伪造带来的复杂传播情形来说，这些分散的法案并不能一揽子地解决深度伪造所涉及的更为广泛性的传播问题。

就深度伪造传播带来的伤害问题而言，目前主要有基于技术、规制与社会批判的治理路径，但每一种路径都存在一定的争议。

(一)技术治理

这里的技术治理指的是使用深度伪造检测技术来识别被人为操纵的作假作品，主要是发现作假作品中出现的“弱点”，诸如闪烁的不一致、生物信号和不符合实际的细节，最近的检测方法依赖于机器学习伪造性数据集，自动发现伪造数据的真实视频来源[26]。其背后的检测依据在于，伪造会产生某种静态和时间上的伪影，从而通过检测来区分原始视频和被篡改的视频[27]。针对复杂的深度伪造攻击，研究者提出了一种基于深度卷积神经网络（DCNN）的可视说话人认证方案。该网络由两个部分组成，即基本特征提取网络（FFE-Net）和代表性唇部特征提取与分类网络（RC-Net）。FFE-Net 为说话人认证提供基础信息，由于静态唇形容易受到作假攻击，该网络强调了动态唇形运动。RC-Net 在捕捉客户说话风格的同时，通过提取高层次的嘴唇特征，以区别于冒名顶替者。同时，还通过设计一种多任务学习方案对所提出的网络进行端到端的训练。该方法与其他可视说话人身份验证算法相比，由于准确度明显，且不需要任何深度伪造方法的先验知识，被认为可以应用于防御不同类型的深度伪造攻击[28]。而针对因过于关注微观细节导致可能出现的作假识别无效问题 ，MesoNet 倡 导 使 用 浅 卷 积 网 络（a shallow convolutional）来检测中间水平层次细节（inter-mediate level of detail）层面上的造假，避免微观特征容易因为视频压缩被丢失进而导致无法识别的情形[29]。整体上，上述都属于被动性技术路径。其不足在于，技术进化具有正向技术的进化性与反向技术的进化性，意味着二者必须处于长期的博弈与相互学习中。这也被认为是一场猫捉老鼠的游戏，即伪造快速适应并规避检测的创建方法，以至于需要不断地进行迭代地循环重复。考虑到深度伪造从顶级计算机科学实验室不断迁移到世界各地的廉价软件平台，欺骗和侦查的螺旋式发展犹如一场战争军备竞赛[30]。但问题是，在深度伪造技术变得越来越廉价获取的背景下，博弈过程中一旦出现正向技术暂时未能获得进化的优势时，反向技术带来的社会损害就会形成技术之恶的放任后果，容易带来新一轮的技术恐惧主义。

与上述被动技术相对应的是主动性抵御技术。这一技术在当下的直接做法是，强调将水印或签名之类的认证信息插入到一个数字视频。一旦有人操纵了视频的内容，嵌入到视频中的水印或签名就会发生变化，就表明该视频已被操纵。由于存在水印或签名等信息，于是视频中的作假检测变得简单。但研究者也指出了这一技术所面临的一系列问题。首先，大多数情况下的互联网视频并不包含水印或签名，因此很难察觉这种操纵。其次，由于嵌入信息的行为本身会降低原始视频的质量，是否普遍地采用插入水印或签名之类的认证信息也有存疑[31]。再者，添加水印或数字签名是帮助识别真实内容而不是伪造的内容的做法，只是对有水印或签名的“申明性”数字视频有效，对于其他的数字视频则爱莫能助。于是，除了认证信息插入方法外，区块链技术也被用于主动性技术中。新近的研究表明，基于区块链技术的解决方案确保了关键的安全目标，诸如完整性、责任性、授权、可用性和不可否认性，它能够证明数字视频的真实性，能够对原始视频创作者或资源进行可靠且可信的跟踪并追溯其原始来源。具体来说，在区块链上执行的每个事务链都由每个参与者的私钥签名，且每个事务都有一个唯一的时间戳和身份标签。如果入侵者试图操纵内容或以任何方式进行修改，但如果没有合法的私钥他们就不能签署，其操作事务也将无效，复制的事务也会被挖掘节点丢弃，最终防止原始视频被修改和攻击[32]。但考虑到完整的区块链应用涉及基础网络层、中间协议层与应用服务层，加之区块链技术本身还处在进化的进程之中，其在深度伪造识别与防范这一具体应用场景中的完善仍需假以时日。

(二)规制治理

规制路径在于以显性且强制的方式明晰深度造假技术的限制性使用领域，从而给深度伪造技术的可能损害划定技术传播扩散的应用红线。考虑到深度伪造的伤害更多地与内容和特定目标有关，其伤害的后果取决于传播的广泛性与否，因此规制的制定应从内容、目标、传播平台方面进行相应的规限。

2018年12月，美国参议院通过了《2018（美国）恶意深度伪造禁止法案（The Malicious Deep Fake Prohibition Act 2018）》（参议院第3805号法案），并提交司法委员会审议。值得特别注意的是，该法案在深度伪造前添加了“恶意（Malicious）”的修饰词，且该法案强调：以在一个理性的观察者看来，这一作假记录将被错误地认为是一个人实际言论或行为的真实记录，并以主观过错为门槛特征，承担的法律后果是罚款和2年的监禁（其中，如果涉及煽动暴力或扰乱选举，则为10年监禁刑期）。其惩罚的对象针对的是特定的个人和分发的平台，却仍然因为“争议”较大而被搁置。从中，也能看到美国社会关于传播自由价值与传播秩序价值的矛盾心态。以至于后来由众议员 Yvette Clarke 于2019年 6月提出的《深度伪造问责法案》尽管规定性条款内容更为详实，如要求任何深度伪造行为所创建的内容都必须使用不可移除的水印和文字描述等，但该法案仍不了了之。同一时期，要求美国国土安全部（DHS）定期发布有关深度造假技术评估报告的《深度伪造报告法案》（Deepfake Report Act of 2019）才终于得以通过，旨在回应美国社会对深度伪造负面影响的关注。

我国2019年11月18日发布，并于2020年1月1日起施行的《网络音视频信息服务管理规定》也对深度伪造传播进行了规制。其中第九条规定了主观恶性与后果禁止事项，第十条、第十一条、第十三条与第十五条涉及的是平台职责与义务：包括深度伪造技术应用在内的安全评估职责、对深度伪造内容以显著方式进行标识的职责、对深度伪造新闻的禁止传播事项、与深度伪造相关的辟谣职责以及接受社会监督的职责，第十二条与第十四条是平台对于用户的管理职责。显然，中国《网络音视频信息服务管理规定》的核心是针对网络音视频信息服务平台，从管理意义上来说这是一种与平台的协作治理模式，体现了权责让渡的治理要义，也契合了深度伪造主要借助于社交平台传播这一事实。近些年也可以看到中外社交平台对于深度伪造问题的治理行动。早在2017年，美国的深度信任联盟为了确保深度伪造不会干扰未来美国总统选举，Facebook就通过人工智能对虚假新闻开始识别，对其内容以“争议标签”的方式进行标注。两年后，它又推出“新闻标签”功能，旨在让可靠来源的新闻在平台上获得突出位置。而 Google 为打击假新闻，对误导性、虚假的文章进行排名降级。类似的，新浪微博在热点事件中有意将媒体认证微博、政务账号的传播内容优先放大。结合算法的强大技术治理能力，Google 还创建了相应的算法，以检测和自动删除伪造文件上传到 YouTube 和其他谷歌应用服务。不仅如此，Google 还向研究界提供了大量操纵和非操纵视频集，Facebook、Microsoft和Amazon Web 服务还与来自世界各地各大学的研究单位进行合作，资助深度伪造检测研究项目，以促进计算机识别技术的发展。

针对深度伪造的规制治理，有研究者主张除了制定专门的法案外，受害者的救济也可求助于既有的规制救济，包括衡平法救济（如限制或消除报复性色情图片）、民事救济（针对诽谤、侵犯隐私、丧失信心）和禁令救济，这一规制取向也被视为是利用传统的民事诉讼程序来控制互联网的能力。但该研究者也同时指出，这些救济措施面临的问题在于，其解决深度伪造所致损害的程度受到地理和司法管辖权的限制，以及诉讼当事人追查侵犯者的能力。研究者进而强调，替代性行政框架下的救济方式是一种更成功的手段，它能够有效针对报复性色情冒犯，即它能以更直接的方式协助受害者的执法，破坏和删除社交媒体和互联网上的冒犯形象，或适用相关的法律向社交媒体组织施加压力以要求其协助消除[33]。结合规制治理的现实窘境，还有研究者呼吁除国家层面的法律外，还需要国际法规，以防范那种在一个国家制造，在另一个国家的在线平台上进行深度伪造传播，并伤害受第三国法律保护的个人的情形。而在规制治理涉及领域方面，其主张与军事（如果深度伪造在武装冲突中发挥作用时）、秘密调查（如果是外国政府使用伪造作为威胁时）、经济制裁等建立联系[34]。

但规制治理有两个问题值得进一步讨论：一是规制的惰性问题，即规制一旦形成往往就意味某种意义上的“滞后”，如何将这样的滞后导致的技术损害空窗期缩减到最低，需要建立起全面而快速的、针对深度伪造技术损害的监视、反馈与吸纳机制。二是如何避免制度刚性的粗暴损害，即因为强调技术的绝对安全，包括平台在内的主体可能滥用安全指控，导致整体地抹杀深度伪造作为传播技术的积极性应用领域的指向。目前关于深度伪造相关的积极性应用包括：促进语音受损的医学患者语言表达的潜力；作为媒介素养教育的一个组成部分，文化机构可以通过静态形象动画化吸引观众，培养健康的观众意识；它可以取代由纪录片制作人录制的弱势参与者的声音和图像，以保护弱势参与者的匿名性[35]。在这些积极的认同者眼里，他们更愿意将深度伪造命名为合成媒体（synthetic media）。总的来说，规制治理需要对深度伪造与社会有矛盾情况的负面清单进行更为清晰的界定，否则宽泛与简化的管制逻辑必然带来管制权力的任性。通常，为了实现网络传播管理中所谓的绝对传播安全理念，规制治理容易在执行中表现为趋严的管制行动。同时，在网络化、平台化与世界化传播语境下，还需要不断强化互联网治理秩序的球土主义（Glocalization），以实现深度伪造治理过程中全球性与本土性的合理调适。

(三)社会批判治理

由于深度伪造能为社会提供娱乐及促进社会批判的合法目的，因此对之干预的形式和程度存在争议，整体上认为诉诸于全面监管和刑事定罪并不是一个简单的问题选项[36]。这一主张也被称为是对深度伪造进行辩护的文化语境路径，目的是要释放批判性审美潜力[37]。在其看来，社会有必要保持不受限制的想象能力，去想象人们想要的世界（或者相反，我们害怕或憎恨的世界），以隐喻或反讽的方式介入到现实，揭示时代中所有矛盾性的精神[38]。深度伪造在一定程度上是可以作为想象性与创造力的手段，起到隐喻或反讽功能，由此形成对现实世界的批判性。深度伪造的社会批判针对不平等、不公正与权力滥用，被认为至少凸显了三个重要的社会政治价值：一是提供了探讨事件因果关系的相互竞争故事的机会，恢复了基于统一性、必要性和有效性的主张而被抹去的复杂性和矛盾，促进了基于好奇心、谦逊和即兴创作的非暴力安全范式；二是它影响了所谓的主导性安全行为者，劫持了他们传统的封闭性叙事产品，消除了那些熟悉的逻辑和前提，揭露了他们的浮夸、虚伪，甚至是荒谬；三是帮助恢复了与普通人相关的声音和观点，以避免这些人被边缘化为社会政治的道具和历史的附属者身份[39]。这一辩护的逻辑明显地具有施密特式的批判气质，后者对于体系或秩序中的“例外”格外偏爱，因为它不仅意味着断裂，还意味着超越与确认的多重意蕴。从这个意义上来说，作为社会批判的深度伪造具有“例外”的内在性价值。

但问题在于，互联网深度伪造的批判性传播并不具有自然的生成性。相反，就社交媒体空间而言，由于用户的偏好及平台流量追求的原因，深度伪造的社会政治视频在未来只会有增无减。为此，有研究者主张通过公共教育运动向公众提供适当的创作和使用建议，协助限制或防止深度伪造的伤害[40]。并在技术可以实现的前提下对自我分享的涉及肖像的图像与视频的传播生命周期进行可控性提供，保持对社会批判的必要批判意识与批判能力，以防止陷入深度伪造的批判性负面陷阱。已经出现的技术控制是，如 Snapchat应用中的所有照片都有一个1到10秒的生命期，发送给好友的照片会根据用户所设定的时间实现自动性销毁。

不过，社会性讽刺批判也有被操纵为意识形态化的可能性。操纵者往往使用夸张、变态和禁忌来吸引反政府的同情者，并把自己描绘成深层次国家阴谋的受害者，而实际则是以讽刺作为掩饰和证明厌恶女性、种族主义和仇外心理等有害言论的手段，它直接刺激了极端分子在网络上使用深度编码的讽刺，模糊并强化了仇恨修辞的传播[41]。即便是针对深度伪造色情现象，在批判者看来，那些看起来孤立性的、私人的和地方性的东西的伦理标志在于它发生的政治和社会制度，深度伪造是高度性别化的，它使得男性作为消费者、生产者和厌女症者成为可能，并在系统地减少妇女作为一个集体数量并仅仅成为性对象的机制中发挥了作用，显然这与系统地贬低妇女作为一个整体是分不开的。其结论是，在道德上似乎更不允许使用一个可以用来制作色情视频的深度伪造应用程序[42]。尽管这一结论明显地过于专断，但对于社会集体性地突破变态困境来说，对深度伪造色情现象进行不遗余力地批判以及进行技术上的必要限制，会更有利于两性文明的社会建设。同时，鉴于被意识形态化操纵的可能情形，在批判的意义上关于深度伪造传播的真相的追问需要明晰为这一具体的追问：它代表了谁的真相，是何种语境下的真相，驱动真相之问的动力究竟为何，以及所追问的真相本质何为等问题。

不过，倘若过于依赖社会批判治理与公众自我救济来实现深度伪造传播的秩序化会有些勉为其难，在传播的自由与限制之间毕竟很难自发地实现平衡。好消息是，作为社会性主体构成的一部分，媒介机构本身也在行动，以重建失去的媒体传播信任。来自杜克大学记者实验室的统计指出，2020年中期世界上超过60个国家共拥有近300个事实核查员，与2019年同一时期相比增加了100多个[43]。在美国2020年大选时，《华尔街日报》还专门成立了一个由21名记者组成的部门，他们的目标就是检测、标记和揭穿各种假信息，特别是深度伪造的传播。部分媒体机构开始与Facebook合作，以方便检测在平台上由用户生成但存在篡改的所有视频。如路透社用英语和西班牙语专门开设了一个博客，目的是验证大量被篡改的材料[44]。这些进行中的实践无疑为深度伪造的社会批判性传播治理奠定了更广泛的协同性行动基础，也在一定程度上预示着一个更好的深度伪造治理的未来。

由于深度伪造作为现象级的传播应用有不断向娱乐、社会与政治领域扩展的趋势，对深度伪造的恐惧源于深度学习下的智能技术能力对现实的传统传播秩序、社会信任秩序与认知秩序的颠覆。同任何复杂性的事物一样，对于深度伪造也不能陷入简单而机械的二元论。过于关注深度伪造之恶的观念，很难说不是落入了另外一种技术怀疑主义决定论的偏狭，从而也妨碍了让深度伪造向善性社会建构命题的实现。就具体的社会建构观念而言，至少有三个面向值得注意：

从深度“伪造”到“微笑的传播”观念。从技术的积极应用来说，除了前述列举的外，深度伪造过滤器也被应用在传播中，它可以适时地优化人际关系动态，如表现得更为温暖、微笑，从而更具人际吸引力，并促进特定场合中关系的积极互动[45]。借助深度伪造传播技术来实现特殊失能群体功能性补偿、具体场景化的应用、特定审美与社会批判，乃至于借此实现社会正义的历史复活、动态呈现等，这表征了深度伪造不断生产公共福利，摆脱制造社会伤害的“微笑的传播杀手”身份，更好地成为贡献于社会的“微笑的传播”的可能。值得注意的是，深度伪造一开始并非现象级的，其得以发展的动力主要源于深度伪造技术驱动带来的极具现实感的假内容体验，社交平台发展和扩张数据的动力需求而对深度伪造的孵化性应用，深度伪造的技术倾向性特征与公众的赋权社会心理适配，并同深度伪造传播的广泛性社会介入力有关。与在国际传播的热度相比，深度伪造在国内的传播仅仅是小试身手，且总体波澜不惊。这背后的深由并是非中国公众不偏好这项传播技术，而是在《网络音视频信息服务管理规定》规制下，平台基于安全逻辑与成本逻辑的资本的自我规训产物。带来的影响则是，深度伪造技术原本作为“微笑的传播”的静待花开的可能却陷入了技术的社会性死亡的沉寂。

从命名替代到风险社会的警示性治理观念。与国际社会火热地探讨深度伪造技术的“原罪”不同，国内有部分研究者不断主张以“合成媒体”的称谓取代“深度伪造”这一命名，强调这一技术带来的观念变革，并大有对后者撇开不谈之势。但这种对二者距离的刻意保持并不能否认合成媒体与伪造、与作假的复杂性关联，反而容易形成作为命名的社会话语政治的风险遮蔽性。作为技术传播+的时代产物，遵循风险社会的警示性治理原则是当代传播风险治理图景的应有之义。这需要发挥计算机、法律、人文与社会科学的跨学科整合性治理功能，以应对深度伪造给公益性传播实践前景带来的复杂化态势。作为对深度伪造传播治理秩序的需要，在正视深度伪造的伤害可能的同时，植根于技术发展文明与技术公益驯化的视野之下，综合应用技术的、规制的、公众的多元救济路径，既观照到每一路径的不足以避免单一路径依赖主义，也要让有操纵性企图的作假者无从增加说谎的红利，这才是传播技术治理主义应有的治理境界。

与风险共在的传播技术社会适应观念。面对深度伪造的激进传播带来的伤害问题，从社会传播心态与人的传播能力的角度来说，人们一定程度上需要接受令人不舒服的事实，即“为了在深度伪造的威胁下生存，人们要学会如何面对谎言[46]。”显然，这是一个从技术到心理、到能力，再到秩序的适应性过程。特别是考虑到算法作为社交平台传播的底层逻辑，它关注的是传播速度和广度，深度伪造与算法设计中的激励机制高度匹配，激进的、恶搞的、有趣的、非常规的内容在平台上往往能够获得更多的分享。而深度伪造作为新颖而廉价的人工制品，其开放性与易得性充分地体现了技术为我所用的接近性、易用性与亲近感，并与去中心化、去权威化、戏谑化的后现代社会心理取向共振。对公众来说，这就是一场可以“明星级”共享场景的活动盛宴。作为在模仿与戏谑中成长的互联网一代，很容易把深度伪造作为呈现自我个性、消解特殊性、削减现实重力、激发创造潜力的一种时代性技术道具与手段。但如果考虑到深度伪造作为“微笑的传播”潜力以及希望此技术能得以传播地存在，有效维持与包括此技术治下的“伪造”“作假”“谎言”共在，进而拥有一种进化的传播生态秩序，但不是绝对主义治理秩序的垄断，显然更有利于传播技术对于文明历史的铭刻，并增进人们凭藉技术而更好且透明地与周遭世界互动。