简介
对于那些密切关注新兴人工智能(“AI”)法规和执法的人来说，一个非常感兴趣的问题是补救措施。特别是:在什么情况下(如果有的话)，监管机构或法院会发现有缺陷的机器学习或人工智能模型必须完全废弃?美国联邦贸易委员会(“FTC”)的一项热门决定表明，监管机构将毫不避讳地说“废除它”。
当使用模型所有者没有合法授权用于此目的的数据来训练复杂模型时，问题就出现了。随着时间的推移，可能会吸引监管或司法审查的例子包括人工智能工具:
- 通过参考来自有信誉来源的经过核实的新闻文章来识别虚构的新闻故事，但违反了版权法。
- 筛选简历，并决定哪个求职者能进入面试阶段——在他们不知情或不同意的情况下，通过使用表现不佳员工的简历训练出来的工具。
- 审查贷款申请，并决定谁是不可接受的信用风险，这在一定程度上是基于违反某些网站使用条款从互联网上抓取的数据。
如果确定AI模型从不应该使用的训练数据中学习，就会出现两个问题。第一个，是否可以从模型中完全去除受污染的数据，或者模型的性质排除了这种可能性?和第二个，模型是否可以完全清除受污染的数据，适当的补救措施是什么——模型所有者是否应该为滥用训练数据支付罚款或赔偿，数据被滥用的人是否应该在模型中拥有一些所有权利益，还是应该封存模型?
2021年1月11日，美国联邦贸易委员会采取了封存的方法，进入一个结算要求Everalbum, Inc.(“Everalbum”)这家使用人工智能进行面部识别的公司“放弃其欺骗的成果”。Everalbum有义务删除使用用户未经同意上传的照片或视频开发的任何面部识别模型和算法，这与Everalbum提供同意机会的承诺相反。联邦贸易委员会委员罗希特·乔普拉说在一份声明中称，委员们此前曾投票允许违反数据保护法的人保留大部分价值来自非法获取数据的算法和技术，Everalbum的和解标志着“一次重要的航向纠正”。
考虑到执法行动会增加失去有价值的模型和算法的风险，这项和解协议可能会对依赖消费者数据来训练和操作人工智能应用程序(或从第三方获得人工智能许可)的公司产生重大影响。
背景
Everalbum提供了一款名为“Ever”的免费应用程序，允许用户将照片和视频从他们的移动设备、电脑或社交媒体账户上传到云端进行存储和整理。2017年2月，Everalbum推出了一项名为“朋友”的面部识别功能，允许用户在照片中按名字“标记”人物。Everalbum同时使用从Ever用户的照片中提取的数百万张面部图像以及公开的面部图像来创建四个数据集，以进一步开发其面部识别技术。然后，它将面部识别技术出售给企业客户(尽管它没有直接与企业客户分享任何Ever用户的照片、视频或个人信息)。
根据和解协议，在2018年7月至2019年4月期间，Everalbum向用户表示，除非用户明确选择加入，否则它不会对用户的内容应用面部识别。但事实上，对于该公司的大多数用户来说，面部识别是自动激活的，无法关闭。据称，Everalbum还承诺，如果用户停用了他们的Ever账户，用户的照片和视频将被删除，但至少在2019年10月之前，Everalbum都没有这样做。
企业人工智能和基于算法的应用的五个关键要点
1.监管机构正在利用现有的法律工具对人工智能采取执法行动
正如我们所见前面提到的美国证券交易委员会、联邦贸易委员会和其他监管机构不会等待新的针对人工智能的法规来采取与复杂模型使用相关的执法行动。在这里，FTC指控Everalbum为开发和改进面部识别人工智能模型而使用客户照片的虚假陈述构成了不公平或欺骗性的行为或做法，违反了《联邦贸易委员会法》第5(a)条。
值得注意的是，美国联邦贸易委员会法案是在1917年通过的，当时人工智能还没有被任何人考虑到，它在消费者保护领域基本上只赋予了联邦贸易委员会两项法律权力:惩罚“不公平”和“欺骗性”的做法。但是，尽管各个立法机构都在酝酿各种针对人工智能的提案，但联邦贸易委员会毫不犹豫地使用其百年之久的反欺骗权力来惩罚现代科技实践。
2.考虑如何降低人工智能训练中滥用数据的风险
尽管Everalbum涉及面部识别技术，但和解协议的措辞和附带声明表明，FTC的“航向修正”可能更广泛地适用于人工智能应用。大量投资人工智能的公司应考虑实施政策、程序和培训，以确保公司完全授权为此目的使用人工智能培训数据。这些公司还应该采取措施，确保有足够的文件记录这些工作。
3.供应商和收购对人工智能调查的需求增加
企业越来越多地通过收购或第三方供应商安排来增强其人工智能能力。根据这项和解协议，公司应考虑对第三方人工智能应用实施强有力的人工智能调查和风险评估流程，包括:
- 确定人工智能应用程序是否使用敏感的消费者数据(包括生物特征信息或有关受保护阶层成员的数据)或其他可能受到未经授权使用指控的数据开发;
- 评估供应商或收购目标采取了哪些步骤，以确保获得所有适当的授权;而且
- 评估与这些授权相关的文档。
4.考虑降低与受污染模型相关的风险和成本的方法
如果公司已经收集和使用了在某种程度上可能被视为有问题的培训数据，则应努力确定是否可以通过以下方式进行补救:
- 就资料的使用提供适当的事后通知或取得必要的同意;
- 在可能的范围内，从模型中完全清除潜在的受污染的数据，并记录该过程，可能在第三方公司的帮助下提供一些测试或过程审计;
- 如果公司有义务暂时或永久停止使用模型，则计划可能导致的任何业务中断;
- 确保向董事会和投资者充分披露模型可能因受污染的培训数据而不得不被废弃的风险;而且
- 评估风险是否可以通过保险或其他方式进一步减轻。
5.随时了解联邦贸易委员会罚款权力和执法优先事项的潜在变化
值得注意的是，联邦贸易委员会对使有关模式失效的补救措施感兴趣，可能是受到联邦贸易委员会在这种情况下没有民事处罚权这一事实的影响。的确是乔普拉委员的声明对联邦贸易委员会未能寻求对初犯的民事处罚表示遗憾，因为它尚未根据《联邦贸易委员会法》第18条将对非法行为的限制纳入规则。
值得注意的是，与Everalbum达成和解之际，美国联邦贸易委员会寻求消费者赔偿的能力也受到了质疑。美国最高法院今年将决定联邦贸易委员会是否有权根据《联邦贸易委员会法案》第13(b)条在民事执法行动中获得金钱救济。虽然最高法院最初批准了关于这一问题的两个案件的调卷申请第七而且第九巡回上诉法院(得出相反的结论)撤回了前一个案件的判决，只留下第九巡回上诉法院的案件。最近在1月13日进行了口头辩论，一些法官认为，根据法律文本，没有证据表明国会打算授予联邦贸易委员会在第13(b)条提起的案件中获得金钱补救的权力。
如果最高法院做出不利于联邦贸易委员会的裁决，有可能在不久的将来引入立法，如果立法通过，将明确授予联邦贸易委员会根据第13(b)条获得金钱补救的权力。乔普拉委员也单独进行了调查提倡联邦贸易委员会使用额外的工具——包括根据联邦贸易委员会法案第5(m)(1)(b)条基本被放弃的处罚犯罪权——通过寻求对首次犯罪的民事处罚来更有力地阻止有害行为。
企业应及时了解有关FTC寻求赔偿和罚款能力的发展，以及即将上任的拜登政府对人工智能加强审查的可能性。我们将继续向大家通报这方面的最新进展。
订阅数据博客，请点击这里．
