2022年6月30日，加州保险局(以下简称“局”)发布公告2022 - 5(“公告”)，其中对保险业使用人工智能(“AI”)和替代数据集(“大数据”)提出了一些限制。公告指出，国土安全部注意到最近有关保险公司在营销、评级、承保和理赔业务方面存在种族歧视的指控，并提醒所有保险公司有义务“以一视同仁的方式对待所有处境相似的人”开展业务。该公告继续描述了最近由司法部调查的涉嫌不公平歧视的例子，包括(1)对来自某些内城邮政编码的索赔进行特别审查，(2)在索赔决定中使用面部识别，以及(3)收集与承保风险无关的个人信息。
《公报》最重要的六个方面是:
- 人工智能和大数据都有限制:公告规定，保险公司必须避免使用人工智能和大数据可能导致的歧视，大数据被描述为“分析以揭示模式和趋势的超大数据集”。
- 承保以外的限制:保险公司在使用人工智能或大数据进行承保、营销、评级、处理索赔以及调查与影响加州居民的任何保险交易有关的涉嫌欺诈时，必须避免歧视。
- 关注代理歧视:该部门注意到，人们越来越关注使用所谓中立的个人特征来代替被禁止的特征，这些特征包括性别、种族、肤色、宗教、血统、国籍、残疾、医疗状况、遗传信息、婚姻状况、性取向、公民身份、主要语言或移民身份。公告中列出的潜在代理包括邮政编码、生物识别、面部识别、地理数据、房屋所有权数据、信用信息、教育水平、民事判决、法庭记录、消费者零售购买历史、社交媒体、互联网使用、申请人电子设备的状况或类型，以及消费者在照片中的表现。这份清单中有许多与纽约金融服务部在其报告中所描述的在承保人寿保险方面存在潜在可疑的投入相同第一号传阅信(2019)。
- 对精算师缺乏联系的担忧:该部门可能认为上述可疑特征清单并不详尽，因为它继续指出，用于人工智能模型和大数据的任何输入如果缺乏与损失风险的充分精算联系，就有可能存在不公平的歧视。
- 透明度和可解释性要求:公告规定，当保险公司在退保、限制、增加保费或其他不利行动中使用复杂算法时，保险公司必须向消费者提供作出该决定的具体理由。
- 尽职调查要求公告指出，在使用任何数据收集方法、欺诈算法或评级/承保或营销工具之前，保险公司“必须进行自己的尽职调查，以确保完全遵守所有适用的法律”。
外卖．该公告是新兴的州法律和监管声明的一部分，这些法律和监管声明对保险公司使用人工智能应用程序和大数据规定了重大义务，其中包括在人工智能领域的最新发展康涅狄格，科罗拉多州,纽约，以及来自保险代理人而且NCOIL．保险公司如欲配合这些新发展，应考虑采取以下一些步骤:
- AI/大数据目录:收集一份可能受这些法规约束的人工智能模型和大数据使用清单，将有助于保险公司优先考虑哪些应用可能需要立即关注。
- 风险评级:创建人工智能风险管理框架，其中包括人工智能和大数据使用的高风险因素列表(例如，在承保算法中使用潜在的可疑输入)。然后，这些标准可以用来确定风险最高的人工智能和大数据应用程序，以进行审查和可能的缓解。
- 缓解:确定高风险人工智能应用程序的缓解方案，包括测试可疑输入、增加透明度、对决策的人为监督、确保数据质量，以及增加设计和操作人工智能/大数据应用程序的团队多样性。
- 培训:为参与设计和运营AI/大数据应用程序的员工和承包商，以及高级管理、法律、合规、风险和业务职能的某些成员进行人工智能和数据合规、治理和风险管理方面的培训。
- 治理:成立跨职能的人工智能监督委员会，审查某些高风险的人工智能/大数据应用，并提出缓解建议。委员会还可以实施人工智能/大数据政策，包括指导原则和行为准则。
- 供应商风险管理:许多人工智能/大数据应用程序至少部分是由第三方开发的。保险公司应考虑，对于提供《公告》可能涵盖的服务的供应商而言，他们的尽职调查和合同程序是否足够。
- 文档:随着保险公司使用人工智能和大数据所面临的监管审查和民事诉讼风险的增加，为履行监管合规义务所做的努力提供强有力的文件的需求也在增加。这可能包括审查数据输入、模型测试结果、精算风险评估、缓解措施的实施、谁接受了培训，以及如何解决对模型或特定决策的关切。
- 业务实践、算法和模型的考试公告还指出，加州保险部门可以使用市场行为检查或特别调查小组检查来审计和检查所有保险公司的业务实践，包括他们的营销、评级、索赔和承保标准、程序、算法和模型。
Debevoise开发了Debevoise AI监管跟踪器(“DART”)，这是一个在线工具，可以帮助我们的客户跟踪全球AI监管的发展。有关DART的演示，请通过agesser@debevoise.com和argressel@debevoise.com与我们联系。
订阅数据博客，请点击这里．如有任何问题，请随时与我们联系。
