摘 要： 在后真相时代，客观事实对于形塑公共舆论的影响力不如诉诸个人的情感与信念。在此背景下，以生成对抗网络作为基本原理的深度伪造技术快速发展，其目的是利用基于人工智能的人体图像合成技术将已有的视频、音频或图片叠加至目标图像上，以实现高度真实性。深度伪造可能用于色情视频、虚假新闻以及虚假广告等方面，进而引发社会风险，危及个人合法权益、企业商业信誉以及社会公共安全。目前，欧盟、美国等国家（地区）均有通过立法对深度伪造予以规制的实践或趋势。我国应当完善因应深度伪造的规制框架，在规制模式上，应当采用“政府+企业+行业”的合作规制模式；在规制工具上，应当采用“技术+约谈+信用”的复合规制工具。
关键词： 深度伪造; 社会风险; 后真相; 人工智能; AI换脸;
一、问题的提出
人类发展的历史表明，任何一种划时代的技术都会对文明的演化产生深刻的乃至决定性的影响[1]。近年来，人工智能的发展已经对人们的生活、工作与思维产生了深刻的变革，尤其是与大数据的融合，使得人工智能应用领域的广度和深度不断拓展，其被广泛运用于模式识别、知识工程、机器人等众多领域[2]。人工智能的合理使用不仅可以节约成本和提高效率，而且还能更为精准地实现既定目标。
然而，人工智能也存在滥用风险，侵犯个人或组织的合法权益，并对现有法律系统提出挑战[3]。2017年12月，一位名为“DeepFakes”的用户在美国社交媒体平台Reddit上发布了一些“假视频”，其利用机器学习将色情电影中演员的脸换成美国众多知名女演员的脸，使其如同知名女演员本人拍摄的影片。2018年1月，一位名为“DeepFakeApp”的用户创建了“FakeApp”，并在“GitHub”开源，它允许任何人使用自己的数据集重新创建视频。“深度伪造”（Deepfake）一词也由此被创造出来，以此为代表的技术正在陷入恶意滥用的泥沼，如伪造明星、名人的色情视频；伪造政治人物的公开演讲（美国前总统奥巴马、美国国会众议院议长南希·佩洛西等人均深受其害）；伪造企业家的虚假新闻，等等[4]。2019年9月，一款名为“ZAO”的人工智能换脸App在我国引发热议，凭借“仅需一张照片，出演天下好戏”的广告词，“ZAO”在一夜之间“收割”了海量用户，并迅速成为App Store下载排行榜的前三甲。然而，由于涉嫌侵犯用户隐私，我国工业和信息化部对“ZAO”的负责人进行了问询约谈，并要求其自查整改，随后“ZAO”运营团队发布道歉声明，对相关用户协议进行修改，但最终依然惨遭下架[5]。
从文义上看，“Deepfake”（深度伪造）这一术语是由英文“deep learning”（深度学习）和“fake”（伪造）混合而成，其通常是指利用基于人工智能的人体图像合成技术将已有的视频、音频或图片叠加至目标图像或影片上[6]。事实上，对图片、视频进行修改或替换的技术已经存在多年，如Photoshop这样的工具已经可以实现对图像进行实质性修改。人工神经网络的快速发展，使得深度伪造也迎来了迭代，尤其是生成对抗网络（generative adversarial network,GAN）的提出，使得深度伪造技术不仅训练所需的数据量下降，而且“深度伪造物”的质量也比初代版本高[7]。深度伪造作为一种技术工具，它能让“伪造物”具有高度真实性，这种技术优势意味着它可以在很多领域发挥“从无到有”的创造性作用[8]。
深度伪造技术的快速发展与广泛使用（滥用），引起了政策制定者以及理论研究者的广泛关注。在我国，2019年4月，十三届全国人大常委会第十次会议二次审议民法典人格权编草案，其中肖像权章节明确规定：任何组织或者个人不得以利用信息技术手段伪造的方式侵害他人的肖像权。2019年5月，国家互联网信息办公室发布《数据安全管理办法（征求意见稿）》，其中第24条规定：“网络运营者利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息，应以明显方式标明‘合成’字样；不得以谋取利益或损害他人利益为目的自动合成信息。”2019年6月，美国众议院情报委员会召开关于人工智能深度伪造的听证会，公开讨论了深度伪造对国家、社会和个人的风险及防范措施，随后两党议员分别在众议院、参议院同时提出《2019年深度伪造报告法案》（Deepfakes Report Act of 2019)[9]。
目前，国内从法学角度对深度伪造进行研究的成果相对较少，相比较而言，国外学术界对于深度伪造的研究已经积累了一些重要研究成果[10]。2019年1月，美国《马里兰法律评论》专门召开了题为“真相终结者：深度伪造及其对隐私、国家安全和民主的影响”（Truth decay:Deep fakes and the implications for privacy,national Security,and democracy）的研讨会，各个学科的专家学者对深度伪造及其对隐私、公民自由、国家安全、社会信任等方面造成的威胁展开讨论[11]。
结合已有的研究成果，本文的目的主要是对深度伪造可能存在的社会风险进行系统梳理，并从规制治理的角度提出我国因应深度伪造的治理架构。本文主要分为三个部分：首先，对后真相时代信息传播的扭曲进行分析，在此基础上，对深度伪造可能引发的社会风险进行考察；其次，从比较法的视角对欧盟、美国等国家（地区）有关深度伪造的政策措施进行比较分析；最后，提出我国因应深度伪造的规制框架。
二、后真相时代深度伪造的社会风险
就深度伪造而言，后真相时代信息传播的扭曲，使其滥用的可能性得以提升，社会风险也随之增多。
（一）后真相时代信息传播的扭曲
互联网、新媒体的快速发展，改变了人类沟通和认知世界的方式与样态，尤其是社交媒体的快速发展。从社交媒体的角色及其与数字社会现状的关系中，我们可以捕捉到的主要观点是获取信息。使用社交媒体有很多益处，信息来源会变得非常丰富，信息传播超越了时空限制，它可能来自不同地区，甚至是不同国家。然而，使用社交媒体也存在诸多挑战。一方面，使用社交媒体增强了信息过载的趋势，使相关的、有用的信息更难被过滤掉，可能导致“社交碎片化”（social fragmentation）和“数字孤立”（digital isolation）；另一方面，信息是如此丰富，以至于人们很难区分什么是对的，什么是错的，什么是有用的。
此外，通过点击和点赞功能，社交媒体可以只根据用户的兴趣或喜好来呈现类似的信息，而不考虑事实[12]。美国互联网研究者伊莱·帕里泽（Eli Pariser)在《过滤气泡：互联网没有告诉你的事》（The filter bubble:What the Internet is hiding from you）一书中将上述现象称为“过滤气泡”（filter bubble），并进行了详细解释。帕里泽认为，互联网服务会根据个人的个人特征、行为和社会关系，创造出一种近乎虚构的量身定制的现实，这种现象对个人、社会以及民主制度都是有害的[13]。美国着名学者凯斯·桑斯坦（Cass Sunstein）在《#共和：社交媒体时代的民主分化》（#Republic:Divided democracy in the age of social media）一书中将上述现象称为“回声室”（echo chamber）或“同温层”（homophily）。桑斯坦认为，回声室容易滋生极端主义。当人们与志趣相投的人一起聊天，他们将变得更加自信、更加极端，从而使团队更加统一。很快，不同回声室中的人们便生活在不同的政治世界中，这使解决问题变得非常困难，并且使仇恨更容易激化[14]。
无论是过滤气泡，还是回声室，它们均导致人们更容易偏听偏信，只接触符合自己认知思维和政治立场的信息，更倾向于相信自己原本相信的，因此造成社会上特别是持不同价值观的人之间的矛盾更难弥合，对立更加激化。这种现象被称为“后真相”（post-truth）时代，牛津词典将其选为2016年的“年度词汇”，并将其定义为“客观事实对于形塑公共舆论的影响力，不如诉诸个人的情感与信念”[15]。按照学者总结，后真相时代具有两个典型特征：一是权威性与影响力的倒置[16]；二是客观性的“破产”[17]。正是基于前述原因，再加上深度伪造的高度真实性，使深度伪造具备了快速发展的条件，并出现滥用危机。
（二）滥用深度伪造可能引发的风险
深度伪造技术可以用于色情视频、虚假新闻、虚假广告等，再加上后真相时代信息传播的扭曲，这些有害应用将会产生极大的社会风险，主要体现在三个方面，即侵犯公民合法权益、损害企业商业信誉和威胁社会公共安全。
⒈侵犯公民合法权益
科学技术的发展必须坚持以人为本这一基本原则，一旦偏离这一主轴，则有可能陷入伦理危机，甚至是合法性危机。就深度伪造技术而言，其滥用将对公民个人的合法权益产生不利影响，主要体现在以下几个方面。
其一，侵犯公民的隐私权。隐私权虽然并非我国《宪法》所明文列举之权利，但其仍为不可或缺之基本权利，受到《宪法》第33条的保障。在司法实践中，通过个案裁决的方法使得一些具体的隐私利益逐渐得到保护，如个人的电话号码、性骚扰、个人生理缺陷、身体隐私等，以及曾经被公开的隐私仍可获得隐私保护。深度伪造技术的滥用，尤其是用于制作色情视频，将直接侵犯公民的性隐私（sexual privacy）。
其二，侵犯公民的名誉权。名誉权是一种非财产性权利，造成的损害不能用金钱直接衡量，同时受害人也可以主张精神损害赔偿。在我国司法实践中，侵害名誉权的构成要件主要包括：一是行为人行为违法，包括侮辱行为、诽谤行为及其他违法行为；二是受害人确有名誉被损害的事实，即受害人社会评价的降低；三是违法行为与损害后果之间有因果关系；四是行为人主观上有过错[18]。深度伪造的滥用，无论是用于伪造色情视频，还是用于伪造虚假新闻，都有可能造成个人的社会评价降低，对名誉权产生侵害。
其三，侵犯公民的肖像权。肖像权是一种重要的人格权，我国《民法总则》第110条、《妇女权益保障法》第42条、《侵权责任法》第2条等皆对肖像权保护作出了明文规定。深度伪造的滥用，主要就是将“人脸”进行“移花接木”，因此无论是色情视频，还是虚假新闻、虚假广告，都可能对公民的肖像权造成侵害。
其四，侵犯公民的声音权。声音权目前在我国尚未有法律明文规定，唯一涉及声音利益保护的是民法典人格权编草案第803条，即“其他人格权的许可使用和自然人声音的保护，参照适用本章的有关规定”。深度伪造技术的滥用，除了前文提到的“人脸”替换外，还有声音替换或合成，这已经明显妨害了个人对于其声音利益的支配，且有可能引发更多的风险。
⒉损害企业商业信誉
信用是市场经济得以正常运行的基础，企业要想在激烈的市场竞争中立于不败之地，就必须努力提高并维持自身的商业信誉。所谓的商业信誉，是指社会对企业之生产、产品、销售、服务等多方面的综合评价，反映的是企业的总体商业形象[19]。从法学的角度看，企业商业信誉保护往往关涉法人权利这一议题，理论界通常将其称为商誉权。
深度伪造技术所具备的高度真实性，让其成为个人或组织抹黑企业的重要工具。深度伪造视频可能描述企业的某一高管从事诸多违反法律、道德的行为或言论，如发表各种歧视言论、与他人发生不正当性关系、贿赂官员等。这些深度伪造视频可以在企业经营过程中一些关键时刻适时发布，如并购谈判、首次公开募股、政府招投标等。即使这些深度伪造视频最终被证实是假的，但是一旦企业的合作伙伴采取“宁可信其有，不可信其无”的审慎态度，那么对于企业而言不仅是商业信誉的损害，更是商业机会的流失，甚至是企业资产缩水。
⒊威胁社会公共安全
公共安全治理一直是社会治理的重要内容，也是对政府执政能力的重要考验。无论是推进国家治理能力和治理体系现代化，还是构建政治、自治、德治、法治、智治“五治融合”的社会治理格局，其重要目标均是全力推进平安中国建设。近年来，随着互联网、人工智能的快速发展，公共安全治理的历史方位已经发生了巨大的变化，网络这一平台和空间之上的安全对于公共安全和国家安全的碰撞和融合也越来越频繁，越来越重要[20]。深度伪造技术以互联网作为重要依托，将现实与虚拟融合在一起，其既是网络安全治理的重要内容，也是公共安全治理的重要对象。深度伪造具备高效率、低门槛、高质量的技术优势，使得普通人能够轻松地进行声音、图片、视频伪造，再加上互联网提供的高速传播通道，很容易引发公共安全风险，主要体现在以下几个方面。
其一，破坏社会信任。社会信任是公共安全的重要条件，一个社会要想平稳有序地运行，就必须建立起坚实的信任体系。任何体制的社会都存在各种各样的风险，风险来自经济活动、社会交换中的各种不确定性，也来自人性的各种弱点，信任一旦崩塌将会使社会生态更加恶化。深度伪造技术可以让虚假的信息以高度可信的方式呈现给社会公众，从而操纵观众的情绪反应，引发社会广泛的不信任。无论是色情视频，还是虚假新闻、虚假广告，深度伪造技术都有可能对人际信任和系统信任造成破坏。美国学者切斯尼等人认为，当网络信息环境与个人的认知偏见以有害的方式相互作用时，真相就会逐渐在思想市场中衰退，深度伪造技术将使这一问题更加严重。当社会公众意识到深度伪造被大范围滥用，而个人又无从辨别真假时，将可能形成对任何图像、视频的不信任，这无疑会极大地冲击新闻媒体、政府机构的公信力，引发严重的社会信任危机，进而危及公共安全[21]。
其二，加剧社会分化。社会分化是影响公共安全的重要因素。在我国现代化建设过程中，社会阶层分化成为一个重要问题，很多公共安全事件的发生是由于社会阶层之间的矛盾、冲突无法得到排解，并且被无端放大，最终形成严重的公共安全事件。深度伪造的滥用，将有可能加剧社会分化。一个深度伪造视频中可能描述富人与穷人之间的冲突、小摊贩与城管之间的冲突、法官与当事人之间的冲突，深度伪造的技术优势，让社会公众很难辨别这些视频或信息的真伪，再加上某些领域信任下降的现实以及“仇富”心理，原有的社会问题将被进一步扩大，最终危及社会公共安全。
三、比较法视角下深度伪造的规制实践
事实上，深度伪造与不实信息（disinformation）相似，其目的均是伪造不真实信息，并试图操纵信息，以获得经济、政治利益或造成损害，因此在规范面向上，国际社会多将其视同不实信息以拟定相关规制政策或措施[22]。
（一）欧盟的规制实践
在欧盟的规制实践中，目前尚未出台专门针对深度伪造的立法及其他规制标准。通过梳理欧盟规制实践发现，欧盟主要是从两个方面将深度伪造纳入规制框架，一方面，将深度伪造纳入已有的有关不实信息的规制框架中；另一方面，将深度伪造纳入有关人工智能的规制框架中。这意味着与不实信息、人工智能相关的规制标准、规制措施也适用于深度伪造。
⒈将深度伪造纳入不实信息的规制框架
2018年6月，欧盟理事会通过了《欧盟不实信息实践准则》，该准则的附件列出了应对不实信息的最佳做法。综观该准则的全部内容，欧盟在该准则中主要采取了如下措施[23]:
其一，积极推动行业自我规制。欧盟执行委员会虽然提出了一系列措施，但是尚未通过立法正式确认。欧盟委员会要求网络平台或社交媒体必须依照《欧盟不实信息的实践》签署相关承诺，除了要求Facebook等网络科技公司必须到欧洲议会接受听证，另外欧盟执行委员会与欧洲议会明确表示，如果自我规制效果不佳，将会考虑立法介入，这使得这些网络巨头公司必须在防止不实信息上采取必要措施。
其二，要求不同利害关系人进行合作，并建立评估审核机制。在《欧盟不实信息的实践》中，欧盟采取“多方利害关系人程序”（multi-stakeholders process），原因在于不实信息的传播有多种因素，且受到生态系统中广泛参与者的促进和影响，因此所有利害关系人都可以在消除不实信息传播上发挥作用。
其三，赋权消费者，提升公民媒体识读素养。欧盟认为，提升社会公众的媒体识读素养，让民众了解媒体与信息，进而协助判定及运用信息，是解决不实信息的根本之道。因此，《欧盟不实信息的实践》要求网络巨头公司应当为用户提供工具，帮助用户发现不同的新闻来源和接收不同的观点，同时也提供使用者易于获取的工具来报道不实信息，以提升社会公众媒体识读能力，让使用者可以主动选择内容及参与创造制作。
⒉将深度伪造纳入人工智能的规制框架
2019年4月，欧盟执行委员会人工智能高级专家工作小组（High-Level Expert Group on AI）提出了《可信赖人工智能伦理指引》（Ethics Guidelines for Trustworthy Artificial Intelligence），设立人工智能规制框架，以使人工智能具备可信赖性[24]。该指引指出，可信赖人工智能（trustworthy AI）应当具备三个关键特征：一是需要具备合法性（lawful），应当遵循所有适用于人工智能的法规；二是需要具备伦理性（ethical），确保人工智能符合伦理原则与价值；三是需要具备鲁棒性（robust），从技术与社会层面观之，避免人工智能于无意间造成伤害。
如前所述，深度伪造的核心技术生成对抗网络是一种无监督学习算法，因此，《可信赖人工智能伦理指引》对于深度伪造也适用，该伦理指引涵盖了人工智能的全生命周期，包括“数据管理”“算法开发”以及“商业运用”，这些要求对于深度伪造而言同样适用。例如，《可信赖人工智能伦理指引》对“隐私和数据管理”提出的要求是：必须尊重隐私并确保适当的数据管理机制，包括大众应可完全控制自己的个人数据，且相关应用不会对大众造成伤害或歧视；另外，在管理上必须预防他人对数据的盗取。深度伪造的目的是冒用他人的身份，因此会直接涉及隐私与个人数据保护，那么在检视深度伪造的合法性时，就必须经受下列问题的考验：一是所取得的脸部影像以及所建立的影像数据库是否经过当事人同意；二是是否建立适当的个人数据控制机制；三是在脸部数据的利用上是否符合特定目的等个人数据保护规范之要求；四是是否有落实数据保护措施等。
（二）美国的规制实践
与欧盟相比，美国对深度伪造技术的态度更为积极、明确，在应对措施上也更为细致，不仅在联邦层面已经有专门立法的趋势，而且一些州已经走在了前面，率先通过法律对深度伪造予以规制。此外，美国一些网络巨头公司也在通过自我规制积极应对深度伪造视频。
⒈联邦层面的规制实践
自2018年以来，深度伪造技术就引发了美国国会两党议员的高度关注，先后提交了各有侧重的法案，包括《恶意深度伪造禁止法案》（Malicious Deep Fake Prohibition Act of 2018）、《深度伪造问责法案》（Deep Fakes Accountability Act）和《2019年深度伪造报告法案》（Deepfakes Report Act of 2019）。尽管目前尚未有正式通过生效的法律，但从法案的内容也能大致管窥美国联邦层面对深度伪造的规制方向。本文以《深度伪造问责法案》为例，对美国联邦层面的规制实践进行概述。
2019年6月12日，美国民主党与共和党共同向国会提出《深度伪造问责法案》。该法案与《恶意深度伪造禁止法案》类似，目的也是在《美国法典》第47章增加一条，不过名称略有不同，《深度伪造问责法案》将1041条定义为“先进技术虚假个人记录”（advanced technological false personation record）。《深度伪造问责法案》并未准确定义“深度伪造”，而是对不同类型的虚假记录提出了法律要求，主要包括以下内容[25]:
其一，标识数字水印（digital watermark）。任何含有移动视觉元素的先进技术虚假个人记录，应当嵌入数字水印，明确标识该记录含有改变的视听元素。
其二，视听信息披露（audiovisual disclosure）。任何包含音频和视觉元素的先进技术虚假个人记录，应当包括以下内容：(1)不少于1条表达清晰的口头陈述，该陈述将明确该记录的影像及声音经过修改，并简要描述修改程度。(2)在影片播放过程中，必须在底部标识清楚可见的文字陈述，表明该记录的影像及声音经过修改，并简要描述修改程度。
其三，视觉信息披露（visual disclosure）。任何仅包含视觉元素的先进技术虚假个人记录，应当在视觉元素的整个持续时间内，在影像底部以清晰易读的文字表明该影像经过修改，并简要描述修改程度。
其四，音频信息披露（audio disclosure）。任何仅包含音频元素的先进技术虚假个人记录，应当在该等记录的开端以口头表述的方式明确表明该记录包含经过修改的音频元素，并简要描述修改程度。如果该记录的时长超过两分钟，则需要每间隔两分钟以口头陈述的方式明确表明该记录经过修改，并简要描述修改程度。
根据《深度伪造问责法案》的规定，违反上述规定，均须承担刑事责任或行政责任。
⒉州层面的规制实践
与联邦相比，美国很多州对于深度伪造的规制明显走在前列，目前已经有一些州通过了正式法律来对深度伪造进行规制，比较有代表性的州包括加利福尼亚州、弗吉尼亚州和德克萨斯州。以加利福尼亚州为例，该州的《AB-730号选举：欺骗性音频或视觉媒体》（AB-730 Elections:Deceptive Audio or Visual Media）规定，在2023年1月1日之前，禁止任何个人、委员会或其他组织在选举前60日内故意创建或散布任何意图损害候选人声誉或欺骗选民投票的实质上具有欺骗性的音频或视频。为了避免对公民的表达自由造成限制，该法律也规定了许多例外情形，具体包括如下内容：(1)广播电台或电视台，包括有线电视或卫星电视运营商、节目程序员或制片人，其付费播放实质上具有欺骗性的音频或视频；(2)构成讽刺或戏仿的实质上具有欺骗性的音频或视频；等等。[26]
⒊私营公司的自我规制
在美国，无论是联邦层面，还是州层面，通过立法对深度伪造进行规制已经是一种主流趋势。然而，面对立法者的积极作为，美国社会各界给予的回应却并不一致。一些理论界的学者认为，当立法者在考虑是否需要从刑事、民事及行政角度给深度伪造的受害者提供法律救济时，也应当思考深度伪造的实施者以及深度伪造物是否应当受到言论自由的保护[27]。产业界的部分观点则认为，现有的立法在不同程度上加重了网络服务提供商的法律责任，如要求网络平台对深度伪造视频进行事实审核或事后删除，这已经明显违反了《通信规范法》（Communications Decency Act）第230节赋予网络平台的“豁免权”，而且现有法案还存在诸多有待厘清的难题，如深度伪造与模仿、娱乐之间如何区分，因此，立法者不应当急于对深度伪造进行规制，而应当由业者先自主探索解决办法[28]。
为了减轻深度伪造引发的社会风险，也为了避免政府过多介入，课予更多责任，美国一些网络科技公司也在进行自我规制，探索解决深度伪造的办法。2019年9月，美国社交媒体巨头Facebook投入1000万美元与康奈尔大学技术学院、麻省理工学院、牛津大学等几所高校共同发起了“深度伪造检测挑战赛”（Deepfake Detection Challenge)[29]。在该项目中，Facebook公司委托研究人员开发出一些具备高度真实性的深度伪造视频，作为用于测试检测工具的数据集。Facebook公司希望通过该项目一方面可以征集识别深度伪造的最佳检测工具，另一方面也希望引起社会公众对深度伪造问题的关注，该项目获得了学术界的广泛支持。
（三）小结
综合欧盟及美国的规制经验，有的国家和地区专门针对深度伪造予以立法规制，有的则将其涵盖在不实信息或虚假新闻的规制空间内。不管是采取哪种模式，其目的都是为了最大限度地降低深度伪造技术对个人、社会及国家带来的危害。各国（地区）因应深度伪造的策略虽有不同，但也存在一些共性，这些经验或许值得关注：(1)通过立法对深度伪造进行规制，明确相关的权利义务及法律责任，包括刑事、民事和行政。(2)赋予个人法律救济的权利，允许个人在遭受损害后向法院提起诉讼。(3)加强网络平台的“看门人”责任，强化行业自我规制，要求网络平台积极履行监管义务。(4)鼓励公私合作，加强技术研发，利用技术“规制”技术。
四、完善我国因应深度伪造的规制框架
我国目前尚未有针对深度伪造的专门性立法，但如前所述，民法典人格权编以及《数据安全管理办法》这两份制定中的法律规范均已对此问题予以回应。在已有的立法中，很多关于“虚假信息”“不实信息”“虚假广告”的立法均可以扩大解释作为规制深度伪造的法律依据，如《治安管理处罚法》第25条、《广告法》第4条及第28条、《刑法》第291条“编造、故意传播虚假信息罪”等。此外，关于深度伪造技术在我国的发展水平以及实际危害等问题需要进行彻底评估，且深度伪造在理论上还存在诸多疑义，因此本文认为不能急于对深度伪造进行专门性立法，但需要立法者对该问题予以密切关注，可以适时在一些密切相关的法律中将此问题涵盖，如《个人信息保护法》《数据安全法》等。
需要指出的是，尽管本文主张不必急于对深度伪造进行统一的专门性立法，但并不妨碍监管部门对其采取规制措施。根据我国实际情况，参照国外经验，应当从以下两个方面完善我国因应深度伪造技术的规制框架。
（一）规制模式的选择：采用“政府+公司+行业”的合作规制模式
从规制空间的角度看，对深度伪造的规制本质上可以纳入广泛意义上的互联网规制。从历史沿革来看，互联网规制大致经历了三个阶段，分别是20世纪90年代的自我规制、21世纪初期的重新规制（re-regulation）以及自2005年开始的合作规制[30]。一般认为，合作规制是一种可执行的、严格的规制模式，它可以在强化政府规制的同时，提供自我规制的灵活性；可以在保护公民合法权益的同时，适应科学技术的不断发展[31]。因此，就深度伪造的规制模式而言，应当选择合作规制，共同发挥政府、公司和行业的作用。
⒈完善政府的算法监管职责
虽然深度伪造处于整个互联网大环境中，但是其运作原理和载体的核心却是算法。因此，本文认为，首先应当明确政府部门的算法监管职责。目前我国《电子商务法》第18条、第40条首次对网络平台的算法责任进行了规定，它体现了立法者对算法地位和作用的合理认知，也将风险预防原则融入到了网络平台治理中，转变事后监管为事前监管。然而，其依然存在措施过于具体、实践操作困难等难题[32]。换言之，对于违反算法责任的网络平台，执法部门并不能进行有效的监督，因此应当建立算法问责制。以此为鉴，在未来的《个人信息保护法》或《数据安全法》中应当明确政府部门的算法监管职责，作为行政机关对深度伪造等算法行为进行规制的一般性依据。
⒉强化网络平台的法律责任
社交媒体平台的快速发展，加剧了深度造假信息的传播。社交媒体具有的“匿名”或“杜撰身份”特征，对于计划利用互联网刻意散播深度造假信息的有心人来说，大幅降低了散播深度伪造信息的成本；而通过社交媒体平台的分享功能，信息得以快速且大量的流通，亦令迅速且有实效性的监督机制难以建立。因此，网络平台在深度伪造规制体系中的地位越发突出，然而关于政府是否应当或如何规制社交媒体平台的虚假信息问题，目前各界尚未形成共识[33]。
我国《网络安全法》第47条规定，网络运营者对其用户发布的信息负有监督管理责任，一旦发现法律、行政法规禁止发布或传输的信息，应当立即停止传输该信息，采取消除等措施。此外，《网络安全法》第49条还规定，网络运营者应当建立举报制度，公布投诉、举报方式等信息。我国《网络安全法》的规定为网络平台对深度造假信息的管理提供了依据。在此基础上，应当进一步细化网络平台的三项义务：一是“通知-删除”义务，网络平台接到受害人的举报后，应当在规定时间内对明显违法的深度伪造信息进行删除；二是“发现-删除”义务，网络平台应当主动对其平台的深度伪造信息进行核查，对于明显违法的，应当予以删除；三是“发现-标记”义务，网络平台应当主动对其平台的深度伪造信息进行核查，对于难以确定合法性的深度伪造信息，应当予以明确“标记”，提醒公众注意。
⒊发挥行业的自我规制
所谓的自我规制是国家利用社会私人主体的自律性行为间接达成规制目的，用以协助国家完成公共任务[34]。换言之，当一群公司或个人对自己的成员及其行为施加控制时，就会发生自我规制。一般认为，将自我规制的要素纳入政府规制框架的理由，主要取决于对专业知识和效率的考虑。纯粹的自我规制往往在授权、问责制和程序公平等相关问题上受到质疑。
有鉴于此，有学者提出了“强制性自我规制”（enforced self-regulation），即利用透明、责任、目标性、一致性、比例性等更好规制的因素来克服纯粹自我规制的不足，同时取代传统的命令和控制型规制（command and control regulation)[35]。欧盟近年来在个人数据保护、不实信息规制等领域都引入了强制性自我规制，如前文提到的，由行业制定的《欧盟不实信息实践准则》，经欧盟理事会通过，业者对该准则的遵守就视同对法律的遵守。本文认为，我国应当以此为借鉴，发挥行业在深度伪造规制框架中的作用，通过行业共识制定一些行为准则或倡议，约束技术人员及私营企业的行为，提高规制有效性及效率。例如，2019年5月25日多家高校、研究机构、企业联盟共同发布的《人工智能北京共识》，2019年6月17日国家新一代人工智能治理专业委员会发布的《新一代人工智能治理原则——发展负责任的人工智能》等都是行业在加强自我规制方面的努力和探索。
（二）规制工具的运用：采用“技术+约谈+信用”的复合规制工具
规制工具的多元化，是合作规制的重要特征之一。深度伪造影响深远，单纯依靠行政处罚等传统事后监管手段恐难以奏效，因此，在保留行政处罚等刚性手段外，适当引入技术性规制、行政约谈、信用规制等柔性手段，可以涵盖事前、事中和事后，实现对深度伪造的全生命周期规制。
⒈利用技术进行规制
就深度伪造的技术规制而言，目前可行的规制策略主要体现在两个方面：
其一，建立系统性的“事实核查机制”（factchecking）。所谓的“事实核查机制”是指通过媒体、独立机构等非政府组织，配合网络科技（算法、大数据、人工智能、云计算等）搜索公开信息与访查可靠信息来源，审视网络言论，特别是政治人物、公众人物、网红大V的公开发言，判断其言论内容是否为真实[36]。事实核查可能是在作品发布或是以其他方式公开之前进行核查（ante hoc），也可能是在作品发布后进行核查（post hoc）。目前，国际上比较有代表性的第三方事实核查机构有“PolitiFact”，该组织的记者对原始声明进行评估，并在PolitiFact.com网站上公布他们的调查结果。在PolitiFact.com网站上，每一份声明都会获得“Truth-O-Meter”评级。目前，一些社交媒体公司也建立了事实核查机制。例如，美国Facebook公司在应对虚假信息时建立了四种机制：FactCheck.org（通过第三方国际机构核查网站信息真实性）、News Literacy（不实报道的辨识诀窍10点原则）、Informed Sharing（若发现文不对题的新闻或贴文，会降低其在Facebook信息流上的排序）、Related Articles（阅读一则新闻时，提供至少两则相关新闻的链接）。我国应当以此为借鉴，在法治框架内，完善或建立不同类型的事实核查机制。
其二，开发专门的深度伪造辨识技术。深度伪造的辨识是规制框架中的核心部分，只有辨识出深度伪造内容，才能进一步采取相应的应对措施。目前，美国一些官方机构、民间组织、私营企业都在开发深度伪造辨识技术。我国未来也会面临深度伪造造成的威胁，相关技术的发展应当引起政府部门、私营企业、科研机构的高度重视。
⒉利用行政约谈进行规制
行政约谈作为一种柔性规制工具，近年来随着互联网技术的快速发展，逐渐成为互联网信息内容规制的重要工具[37]。一方面，行政约谈在制度理念上体现了“回应性规制”（responsive regulation），即按照规制工具的威慑效力，依循“执法金字塔”自下而上的次序逐级选择；另一方面，行政约谈成为政府规制机构传递规制信息的工具，并将部分规制责任“分包”给互联网平台。在实践中，我国政府规制机构已经开始将行政约谈引入到深度伪造的规制中，例如，在“ZAO”人工智能换脸APP在全社会引发热议之时，我国工业和信息化部网络安全管理局就对“ZAO”的运营公司进行了问询约谈，要求其开展自查整改，强化个人信息保护。未来，我国应当总结行政约谈的经验教训，完善行政约谈的程序机制、监督机制及救济机制，发挥其在深度伪造规制中的作用。
⒊利用信用工具进行规制
如前所述，深度伪造技术本身就涉及诚信问题，其不当使用很有可能加剧社会诚信危机。当前，我国正在进行社会信用体系建设，一方面，利用信用工具来应对社会诚信危机；另一方面，借助信用工具来规范和加强事中、事后监管。信用工具是政府规制机构在履行职责过程中，通过收集公民、法人或其他组织的公共信用信息，对信用状况进行评价，并将结果予以公开和使用以达到规制目标的规制工具[38]。未来，若个人、法人或其他组织滥用深度伪造技术，并引发较大法律风险的，政府规制机构在法治框架内可以考虑将其纳入信用评价范畴，利用信用工具对其予以规制。
五、结语
深度伪造同时涉及不实信息规制与人工智能治理问题，并被世界各国政府认定具有潜在的危害性。理论与实践表明，滥用深度伪造对个人、法人及社会均有极大的风险，诸多国家的立法者、执法机构、私营企业、行业协会都开始采取措施以应对深度伪造引发的威胁，我国亦不例外。为了能够最大限度地减少深度伪造引发的社会风险，我国应当建立并完善相应的规制框架，在遵守言论自由保护基本原则的前提下，充分发挥政府、企业、行业在规制中的合作规制作用，巧妙运用技术规制、行政约谈、信用工具等多元化规制工具。此外，还应当推动数字媒体素养教育，帮助社会公众识别深度伪造，避免被深度伪造误导，也避免有意无意间成为深度伪造扩散的“帮凶”。
参考文献
[1] 何哲.通向人工智能时代——兼论美国人工智能战略方向及对中国人工智能战略的借鉴[J].电子政务，2016(12):2-10.
[2] 李德毅.网络时代人工智能研究与发展[J].智能系统学报，2009, 4(01):1-6.
[3] 吴汉东.人工智能时代的制度安排与法律规制[J].法律科学（西北政法大学学报），2017,35(05):128-136.
[4]Cole S. We are truly fucked:Everyone is making AIgenerated fake porn now[EB/OL].[2019-06-14]. https://www.vice.com/en_us/article/bjye8a/reddit-fake-pornapp-daisy-ridley.
[5] 王四新.“ZAO”背后的社会管理难题[N].环球时报，2019-09-02(15).
[6]Brandon J. Terrifying high-tech porn:Creepy'deepfake'videos are on the rise[EB/OL].[2019-09-16]. https://www.foxnews.com/tech/terrifying-high-tech-porncreepy-deepfake-videos-are-on-the-rise.
[7]Shen T, Liu R, Bai J, et al.'Deep fakes'using generative adversarial networks(GAN)[EB/OL].[2019-09-12]. http://noiselab.ucsd.edu/ECE228_2018/Reports/Report16.pdf.
[8]Silbey J, Hartzog W. The upside of deep fakes[J].Maryland Law Review, 2019, 78(04):960-966.
[9]Kelly M. Congress grapples with how to regulate deepfakes[EB/OL].[2019-09-16]. https://www.theverge.com/2019/6/13/18677847/deep-fakes-regulationfacebook-adam-schiff-congress-artificial-intelligence.
[10]Hall H K. Deepfake videos:When seeing isn't believing[J]. Catholic University Journal of Law and Technology, 2018, 27(01):51-76.
[11]Chesney R, Citron D K. 21st Century-Style truth decay:Deep fakes and the challenge for privacy, free expression,and national security[J]. Maryland Law Review, 2019,78(04):882-891.
[12]Hidayah A R. Persecution act as filter bubble effect:Digital society and the shift of public sphere[J]. JSP:Jurnal Ilmu Sosial dan Ilmu Politik, 2019, 22(02):112-126.
[13]Pariser E. The filter bubble:What the Internet is hiding from you[M]. Penguin Books Limited, 2011:7-9.
[14]Sunstein C.#Republic:Divided democracy in the age of social media[M]. Princeton University Press, 2017:5.
[15]Wang A B.'Post-truth'named 2016 word of the year by Oxford Dictionaries[EB/OL].[2019-09-20]. https://www.washingtonpost.com/news/the-fix/wp/2016/11/16/posttruth-named-2016-word-of-the-year-by-oxforddictionaries/.
[16] 李希光，吴艳梅.“后真相”时代的事实核查新闻：发展与局限[J].全球传媒学刊，2018, 5(02):52-75.
[17] 蓝江.后真相时代意味着客观性的终结吗[J].探索与争鸣，2017(04):10-13.
[18] 江必新，何东宁，刘牧晗，等.最高人民法院指导性案例裁判规则理解与适用·侵权赔偿卷二[M].北京：中国法制出版社，2014:65-68.
[19] 梁上上.论商誉和商誉权[J].法学研究，1993(05):38-44.
[20] 于志刚.网络安全对公共安全、国家安全的嵌入态势和应对策略[J].法学论坛，2014, 29(06):5-19.
[21]Chesney R, Citron D K. Deep fakes:A looming challenge for privacy, democracy, and national security[N/OL]. 107 California Law Review(2019, Forthcoming); U of Texas Law, Public Law Research Paper No. 692; U of Maryland Legal Studies Research Paper No. 2018-21.[2019-11-25]. https://ssrn.com/abstract=3213954.
[22] 余和谦.人工智慧之治理——以深度伪造为例[J].科技法律透析，2019(08):52-72.
[23]European Commission. EU code of practice on disinformation[EB/OL].[2019-09-22]. https://www.hadopi.fr/sites/default/files/sites/default/files/ckeditor_file s/1Codeof Practiceon Disinformation.pdf.
[24]European Commission. Ethics guidelines for trustworthy artificial intelligence[EB/OL].[2019-09-22]. https://www.eu-nited.net/robotics/upload/pdf/2019-04-18_AIHLEG_Ethics Guidelinesfor TrustworthyAI-ENpdf.pdf.
[25]116th Congress(2019-2020). Defending each and every person from false appearances by keeping exploitation subject to Accountability Act of 2019[EB/OL].[2019-09-22]. https://www.congress.gov/bill/116th-congress/house-bill/3230/text.
[26]California State Assembly. AB-730 Elections:Deceptive audio or visual media[EB/OL].[2019-09-23]. http://leginfo.legislature.ca.gov/faces/bill Text Client.xhtml?bill_id=201920200AB730.
[27]Franks M A, Waldman A E. Sex, lies, and videotape:Deep fakes and free speech delusions[J]. Maryland Law Review, 2019, 78(04):892-898.
[28]Tsukayama H, Mc Kinney I, Williams J. Congress should not rush to regulate deepfakes[EB/OL].[2019-09-23]. https://www.eff.org/deeplinks/2019/06/congressshould-not-rush-regulate-deepfakes.
[29]Culliford E. Facebook, Microsoft launch contest to detect deepfake videos[EB/OL].[2019-09-23]. https://www.reuters.com/article/us-facebook-microsoft-deepfakes/facebook-microsoft-launch-contest-to-detectdeepfake-videos-id USKCN1VQ2T5.
[30]Marsden C T. Internet co-regulation:European law,regulatory governance and legitimacy in cyberspace[M].Cambridge University Press, 2011:9.
[31]Freeman J. Collaborative governance in the administrative state[J]. UCLA Law Review, 1997, 45(01):1-98.
[32] 张凌寒.《电子商务法》中的算法责任及其完善[J].北京航空航天大学学报：社会科学版，2018,31(06):16-21.
[33]Lobel O. The Law of the Platform[J]. Minnesota Law Review, 2016, 101(01):87-166.
[34] 高秦伟.社会自我规制与行政法的任务[J].中国法学，2015(05):73-98.
[35]Ayres I, Braithwaite J. Responsive regulation:Transcending the deregulation debate[M]. Oxford University Press, 1995:104.
[36] 黄铭辉.假新闻、社群媒体与网路时代的言论自由[J].月旦法学杂志，2019(292):5-29.
[37] 卢超.互联网信息内容监管约谈工具研究[J].中国行政管理，2019(02):41-46.
[38] 王瑞雪.政府规制中的信用工具研究[J].中国法学，2017(04):158-173.
