人工智能(“AI”)生成的内容不断改进，变得更有说服力。这些真实的图像、音频和视频被用于虚假陈述或虚假传播信息，通常被称为“深度造假”。世界各国政府都注意到了深度造假，并开始做出回应。据华尔街日报在美国，中国互联网监管机构上个月宣布了限制深度造假的规定，比如禁止利用深度造假传播“假新闻”或其他破坏经济或国家安全的信息。在欧盟，最近更新《虚假情报实务守则》现在涵盖深度造假，并要求平台对恶意行为者使用的虚假信息策略进行定期审查，还要求实施涵盖这些做法的政策。
然而，在美国，联邦政府尚未提出立法或法规来解决深度造假带来的普遍问题，限制深度造假的努力可能会面临第一修正案的挑战。虽然深度造假多年来一直是名人和政客的眼中钉，但大多数美国公司并不认为深度造假是一个严重的威胁。随着能够产生高质量的廉价软件的广泛可用性deepfakes在美国，这种情况可能即将改变。最近的扩散假推特账号模仿礼来和洛克希德·马丁这样的公司，以及每家公司因此遭受的损失，说明了深度造假可能带来的风险和可能造成的损害。
例如，假设X公司的首席执行官承诺做一些受欢迎的事情，但会损害公司的股价，就像礼来公司承诺免费提供胰岛素的假推文一样。有几个原因，一个坏演员可能会选择创建和发布这样的视频。他们可能希望交易该股票，因为他们知道他们的deepfake可能会暂时降低该公司的股价。如果该公司已经是勒索软件或数据勒索攻击的受害者，他们可能会向该公司施加压力，要求其付款。深度造假可能是一种企业激进主义行为或故意破坏行为，以回应公司或公司高管的某些不当行为。或者，这可能是一次国家支持的攻击，目的是伤害国内重要行业的竞争对手。
所有这些动机已经导致了针对公司的攻击;深度造假将创造一个全新的载体，企业将不得不对此做出回应。为了做好准备，企业应该考虑更新其网络安全计划和事件响应计划，以应对企业深度造假，并考虑运行桌面来测试这些新协议。
检测企业深度造假
随着深度造假变得更容易制造和部署，企业面临的风险也在增加。在这项技术的早期，创建一个deepfake需要定制的编码和大量的时间，但它是现在可能用廉价的现成软件制作出令人信服的深度赝品。像Open AI这样的工具Dall-E 2以及Stability AI的开源软件稳定的扩散扩大了对这种创造力的获取，并可能进一步增加深度造假的普遍性，同时使人们越来越难以区分合法和欺诈的人工智能生成内容。
这些新工具为不法分子瞄准企业提供了新的机会。对于现代公司来说，警惕是关键。企业应该积极监控社交媒体上的深度造假威胁，以便在恶意视频和声音剪辑传播开来之前捕捉并处理它们。尽管对于面临深度造假的组织来说，没有一种适用于所有人的方法，但公司应该有一个快速反应计划，以确保在深度造假出现时做出快速有效的反应。
这些计划应该根据每个公司的具体特点和情况进行调整。如果您的组织还没有人工智能事故应变计划(“AI IRP”)，也许是时候考虑一个了。虽然deepfake响应与AI IRP中通常考虑的事件具有不同的性质，但这个快速反应计划在该文件中有一个天然的家。在AI IRP中添加deepfake响应时，组织应考虑包括:
- 快速证明视频、图片、音频为虚假的手段;媒体声明草案已经准备就绪，宣布视频是假的，并附上分发计划;并起草下架通知，准备好针对托管深度造假作品的网站。
- 应该引入适当的人员来管理对deepfake的响应，以及明确的沟通渠道、升级和处理响应的批准。
- 确定需要做出的关键任务和决定。这包括对去除deepfake的适当途径的评估，我们将在下一节讨论这些选项。此外，如果下架通知或删除内容的请求不成功，应制定流程，考虑是否需要采取单独的法律行动。
企业也可以考虑投资深度造假检测工具。深度造假检测市场正在增长，使用这样的工具可以快速检测和记录，以支持撤下或删除请求。比如英特尔最近宣布其deepfake视频检测工具拥有96%的准确率，并实时识别此类人工智能生成的内容。
回应企业深度造假
一旦一家公司意识到有针对性的深度造假在社交媒体上传播，有什么法律机制可用?答案取决于上下文，需要考虑deepfake的确切性质。有许多补救手段，每一种都涉及不同的情况，我们将在下面描述情况。
可拆卸的政权
如果deepfake使用了一家公司拥有版权的版权材料，该公司可以根据《数字千年版权法》(DMCA)提交所谓的“撤下通知”。这样的通知必须发送到涉嫌侵权的deepfake所在的网站。DMCA下架制度为版权所有者提供了一种方法，可以在不诉诸正式法律行动的情况下，快速删除涉嫌侵权的材料。与此同时，DMCA制度为托管网站或平台提供了涉嫌侵权的诉讼豁免权，只要它迅速采取行动删除内容——鉴于《通信规范法》第230条提供的豁免权不适用于联邦版权索赔，可以说也不适用于州法律版权索赔，这是平台的首要考虑因素。
当然，要让下架通知成为删除深度造假的有效手段，必须有真正受版权保护的材料。DMCA下架制度并不适用于商标或诽谤性内容。
考虑一下我们之前的例子，一个假想的公司首席执行官发表了一个对公司股价有害的声明。撤下通知可能不是删除一段深度伪造的音频的合适途径，这段音频是根据公开的CEO过去的演讲片段进行训练的，因为这些内容没有版权问题。对于现实世界的模拟，请考虑移除请求失败Jay-Z背诵“生存，还是毁灭”的独白哈姆雷特．YouTube在恢复内容时表示，下架请求是“不完整的”，可能是因为它没有在使用Jay-Z的声音或行为举止方面识别出任何受版权保护的材料。
与此同时，如果deepfake使用了ceo的视频，比如公司拥有版权的公司宣传视频，这种下架请求可能会顺利得多。例如，2019年的一个视频deepfake金·卡戴珊的照片成功从YouTube上删除。下架请求来自Condé Nast，该网站拥有由时尚这是用来制造deepfake的。
虽然Condé Nast的例子说明了DMCA下架通知可以成功针对深度造假的一种情况，但由于“合理使用”的考虑，这片水域变得混乱，这可能会导致托管网站和平台停止删除一些内容。合理使用允许在未经版权所有者同意的情况下，将受版权保护的材料用于“变革性”目的。这些“变革性”目的通常包括评论、批评或模仿，如果深度造假跨越了这些界限，请求可能不会成功。此外，还担任美国最高法院法官认为为了公平使用而构成“变革性”目的的界限，在这个问题上的法律格局可能会发生变化。
服务条款
另一种消除深度造假的方法——在不涉及版权材料的情况下可能特别有用——依赖于托管网站或平台的服务条款。这些相关服务条款涵盖了两类可能适用的条款:涉及深度造假的条款和涉及商标侵权的条款。按顺序讨论:
deepfake的特定服务条款。平台元而且推特在他们的政策中分别具体处理“操纵媒体”和“合成和操纵媒体”。尽管每个平台对删除深度造假的要求各不相同，但重点是，人工智能生成并以欺骗性方式共享的经过大量编辑的媒体可以被报告和删除。回到我们假设的CEO deepfake，这就是解决deepfake响应的强大AI IRP可能具有特殊价值的地方。在涉及非版权材料的情况下，平台没有法律义务删除深度造假。一旦发现deepfake，就有一个团队准备好收集必要的信息——包括deepfake实际上是假货的明确证据——并向托管平台提出强有力的理由，这将有助于将企业置于最佳位置，以满足其要求。
商标侵权。由于没有DMCA等相应的法律制度来覆盖托管网站和平台上的商标侵权，防止滥用商标的服务条款可以帮助解决深度造假问题。然而，根据深度造假特定的服务条款，托管网站或平台将有权决定是否删除这些内容。平台有时会犹豫是否要干预商标纠纷，因此在提出下架请求时，突出深度造假产品中欺诈性和欺骗性混淆的商标使用将是关键。商标所有者也可以选择对商标侵权采取法律行动，但确定内容的创作者并提起联邦诉讼要昂贵得多，也耗时得多。同样的道理也适用于这个假设——强调公司要求的强度，证明背后有强有力的法律依据——这将使企业处于最佳位置，让CEO的深度造假被移除。
国家法律
虽然对于应对企业深度造假并不是必要的，但如果没有通过的针对深度造假的各种州法律的入门知识，我们关于深度造假取缔的讨论就不会完整。制作、分享或收藏深度造假作品并不一定是非法的。相反，各州禁止在特定的、有害的情况下进行深度造假。尽管这些法律在强调立法机构已经开始考虑深度造假监管方面是有用的，但当深度造假的产生影响到企业的声誉或经济利益时，它们不太可能为企业提供补救手段。
这些法律主要分为两类:监管非自愿亲密图像(“NCII”)背景下深度造假的法律——这类视频占现有深度造假视频的96%截至2019年以及在……背景下监管深度造假的法律选举错误信息．在这两类之外，监管的尝试很少，尽管纽约已经尝试过了通过一项法律该法案规定，对已故名人的深度造假是他们宣传权的一部分。到目前为止，还没有任何一个州通过法律全面禁止深度造假，也不太可能会有人这样做。如前所述，这样的立法将引起第一修正案的重大关切。
只有时间才能告诉我们深度造假的兴起会对企业产生什么样的影响。为了保护您的组织，认识到深度造假所代表的可能性和威胁是至关重要的第一步。此外，尽管对于面临深度造假的组织来说，没有一刀切的方法，但准备好计划将使公司处于成功对抗威胁的有利地位。
个人的补救措施
被企业深度造假攻击的个人也可以以个人身份采取法律行动。诽谤、宣传权和虚假背书是个人可以对实施深度造假欺诈的责任人提起诉讼的三种原因，前提是创作者能够被识别并被起诉。这些诉讼可以提供一种弥补deepfake造成的损失的手段，并根据司法管辖区和诉讼类型，为deepfake目标提供寻求禁令救济的机会。
诽谤．据称被操纵的媒体已经提出了诽谤指控，真正的深度造假对象可能也会随之而来。例如，前总统唐纳德·特朗普的竞选活动起诉威斯康星州一家电视台在2020年竞选期间发布了一则广告，据称该广告结合了特朗普的一些声音片段，以做出虚假和诽谤性声明。
然而，要使诽谤指控成功，虚假陈述必须声称是事实。如果deepfake的创造者打算以欺诈的方式操纵市场，或以其他方式导致个人以允许创造者获利的方式行事，法院很可能会认为deepfake的信息是事实。
尽管各州可能倾向于在诽谤案件中允许禁令救济，但通常情况下，这种救济并不适用于初步的基础上，而只是在诉讼得到全面裁决后的一种选择。诽谤方面的禁令也必须严格限定，以避免构成与第一修正案相冲突的“事先限制”。虽然诽谤诉讼对深度造假的目标来说可能是值得的，但它并不一定能对DMCA下架请求提供迅速和预防性的救济。
宣传权．个人形象权的范围因州而异，但通常是保护个人不因商业利益而盗用其姓名、肖像、声音或其他个性标志。虽然法院还没有就深度造假欺诈是否可以构成这样的“商业利益”发表意见，但回到我们的假设，如果一位著名的公司高管或他或她的组织能够识别肇事者，他可能会发现提出这样的主张是值得的。
这一诉讼理由可能会对寻求阻止深度造假传播的知名深度造假目标非常有吸引力，因为法院可以针对宣传权索赔发布初步禁令。在某些司法管辖区，法院可以利用其固有的禁令权力，而在纽约等其他司法管辖区，禁令救济是由成文法明确授权的。
虚假的支持。根据商标法，如果深度造假导致消费者错误地认为个人赞助或认可了产品或服务，个人也可以就虚假背书提出索赔。这种诉因要求显示出实际的欺骗，或至少有欺骗大部分预期受众的倾向，并有可能对原告造成损害。虽然大多数此类案件都是在名人的背景下发生的，但一些法院认为，名人身份并不是虚假背书索赔成功的必要先决条件。虽然证明虚假背书存在障碍，但这种诉因的好处是可以进入联邦法院，并立即获得禁令救济
要订阅我们的数据博客，请点击在这里．
作者要感谢Debevoise法律助理Abigail Liles为Debevoise数据博客文章所做的工作．
