2023年5月16日，周二，并购和私募股权集团的Andrew Bab、医疗保健和生命科学集团联合主席、数据战略与安全集团的Avi Gesser、医疗保健和生命科学集团联合主席、FDA监管实践主席Paul Rubin和企业合伙人Melissa Runsten发表了一篇题为《人工智能和生命科学行业:FDA和FTC监管更新》的文章。
关键外卖:
- 生命科学行业正在拥抱人工智能(“AI”)的使用，而监管框架也在不断发展。
- 2023年5月10日，FDA发布了一份关于在药物开发中使用人工智能和机器学习(ML)的讨论文件。FDA最近还发布了指导草案，以正式确定其规范AI/ML医疗设备的方法。该机构建议使用预先确定的变更控制计划(“pccp”)来解决人工智能的动态性。在拟议的框架下，根据PCCP对医疗器械进行修改将在FDA初始授权后被允许(无需随后提交)。
- 美国联邦贸易委员会也在密切关注人工智能日益增长的使用，并建议公司，该机构可能会对那些以虚假或未经证实的声明营销人工智能产品的公司采取执法行动。
* * *
人工智能(“AI”)有望改变生命科学行业，因为公司试图将人工智能纳入从药物发现到临床决策和诊断成像的所有领域。尽管人工智能的潜力现在已经被更广泛的公众所认识，但美国食品和药物管理局(FDA)在过去几年中一直在制定一个框架，以规范人工智能在FDA监管产品中的使用。
FDA最近发布了一份指导草案，以正式确定其监管纳入人工智能(特别是人工智能的子集，称为机器学习(ML))的医疗设备的方法。[1])。[2]FDA已经批准或清除了数百种人工智能医疗设备，该指南承诺通过对该机构未来如何处理人工智能/机器学习医疗设备的审查设定明确的期望，来提高创新速度(以及批准和许可的数量)。此外，上周，FDA发布了一份讨论文件，讨论了在药物和生物制品开发中使用AI/ML的问题。[3]
美国联邦贸易委员会也在密切关注人工智能越来越多的应用，并警告企业，有关人工智能产品的宣传必须真实，不得误导。鉴于人工智能的监管方法不断发展，生命科学和医疗保健公司必须跟上多个机构的发展，以充分了解适用的机会和风险。
FDA对AI/ML医疗设备监管框架的演变
人工智能的动态性给FDA制定适当的监管制度带来了重大障碍。FDA的传统监管框架是基于对静态、不变设备的批准或许可。然而，AI/ML的好处来自于基于新数据的学习和适应能力。因此，该机构必须实施一种监管方法，以确保安全性和有效性，同时允许医疗器械按预期灵活运行。
2019年，FDA发布了一份讨论文件，描述了一种潜在的“全产品生命周期”监管方法，用于对人工智能和机器学习驱动的软件修改进行上市前审查。[4]作为该框架的一部分，FDA考虑了预定变更控制计划(“PCCP”)的概念。PCCP将包括在上市前申报中，描述预期的修改和以可控方式实施修改的方法，以管理对患者的风险。PCCP将允许制造商在FDA初始授权后根据PCCP修改其医疗器械，而无需向FDA提交额外的材料。
2021年1月，FDA发布了基于人工智能/机器学习(AI/ML)的软件作为医疗器械(SaMD)行动计划(“行动计划”)，以回应利益相关者对2019年讨论文件的反馈。［５］在行动计划中，FDA表达了发布PCCPs指南草案的意图。FDA声称，该框架“将使FDA能够提供合理的安全性和有效性保证，同时将人工智能和基于机器学习的软件作为医疗设备进行迭代改进。”[6]
FDA关于开发AI/ML医疗器械公司的新PCCP指南
在《2022年食品和药物综合改革法案》中，国会在《联邦食品、药物和化妆品法案》中增加了第515C条，为FDA提供了对pccp的明确授权。[7]2023年3月30日，FDA发布了指南草案，“人工智能/机器学习(AI/ML)设备软件功能预定变更控制计划的营销提交建议”。该指南为该机构打算如何推进医疗器械中的人工智能监管提供了重要见解。FDA邀请利益相关者在2023年7月3日之前提交意见(即使在该日期之后也可以提交意见)。
FDA的新指导文件草案保留了FDA在2019年讨论文件和2021年行动计划中提出的产品全生命周期方法。根据该指南，FDA将允许医疗器械制造商将器械的PCCP作为提交给该机构的器械营销申请(例如510(k)申请)的一部分。如果成功，制造商可以进行PCCP预期的修改，而无需向FDA提交额外的上市申请;换句话说，FDA将预先授权PCCP所涵盖的修改。FDA建议PCCP包括有限数量的修改，这些修改可以被验证和确认，以确保有效的审核。
在指南中，FDA建议PCCP包括:(1)对器械的每个计划修改的详细描述，包括修改的基本原理和对器械特性和性能的预期更改;(2)修改方案，描述修改制定、验证和实施时将遵循的方法，包括如何将修改信息传达给用户，以及如何在实施后监控修改影响的真实数据;(3)实施PCCP的收益和风险评估。
PCCP可以处理在锁定模型上手动实施的修改或由软件自动实施的修改(即，持续学习/自适应模型)，尽管FDA承认其对自动实施的修改的审查将更加复杂，并涉及利益-风险评估。FDA还指出，pccp可以包括基于特定临床地点或个体患者的独特特征在单个设备上实施的修改。
AI/ML医疗设备已经上市
当利益相关者等待该机构最终确定监管框架时，许多公司已经推进开发人工智能/机器学习医疗设备并获得FDA的营销授权。事实上，FDA已经批准了500多个支持AI/ ml的医疗设备，其中大多数是在过去五年中批准的。由于新的指导草案、FDA审查申请的经验以及医疗器械公司开发将AI/ML纳入其产品的新方法，私营行业的创新，预计AI/ML医疗器械授权的步伐将会加快。
绝大多数授权的AI/ML设备都是通过510(k)许可途径授权的放射设备。超过95%的AI/ML设备具有510(k)许可，［8］其余已通过De Novo和上市前批准(“PMA”)途径获得批准。截至2022年10月，大约75%的授权AI/ML设备是放射设备，大约11%的AI/ML设备是心血管设备。许多此类设备协助医疗保健提供者进行临床诊断(例如，通过评估骨折的x线片或从ECG数据检测心房颤动)或患者监测(例如，通过算法运行测试数据来监测血糖水平)。某些临床决策支持工具也可能包含人工智能，并需要FDA授权作为医疗设备。［9］
到目前为止，大多数授权的AI/ML设备中的算法保持不变，因为任何更改都需要向FDA额外提交。2020年2月7日出现了一个例外，当时FDA宣布通过De Novo途径获得了Caption Guidance软件的上市授权，这是第一个使用人工智能帮助用户捕获患者心脏图像用于诊断目的的心脏超声软件。医疗人工智能公司Caption Health提交的营销申请值得注意，因为在FDA发布解决此类计划的指导草案的三年前，它就包含了PCCP。该产品的De Novo摘要指出，该计划包含“一项协议……为了降低算法变更导致设备技术规格变更或对与设备预期用途直接相关的临床功能或性能规格产生负面影响的风险，“包括”[a]评估指标、验收标准和统计方法……对提议的变更进行性能测试。”[10]请注意，标题指导软件包含一个锁定算法-即。，the algorithm is not adaptive, and changes must be implemented manually in accordance with the PCCP.
新的FDA指南预计将显著增加pccp在未来AI/ML设备应用中的使用。事实上，FDA在指南中承认，该机构“继续收到越来越多的利用ML技术的设备的营销提交和预提交，并且[]预计这将随着时间的推移而增加。”[11]FDA还表示，自FDA发布2019年讨论文件介绍PCCP概念以来，业界对将PCCP用于支持AI/ ml的医疗设备一直有浓厚的兴趣。［12］
FDA关于使用AI/ML开发药物和生物制品的讨论文件
2023年5月10日，FDA发布了一份关于在药物开发中使用AI和ML的讨论文件，包括用于药物的医疗器械的开发。FDA的目标是更好地了解监管清晰度可能在哪些方面有所帮助，以及如何确保在药物开发中负责任地使用AI/ML。值得注意的是，FDA承认公司正在探索或已经部署AI/ML在药物发现(例如，药物靶点识别、选择和优先排序)、非临床研究(例如，在活的有机体内预测模型)、临床研究(例如，数据分析和设计非传统试验，如分散的临床试验)、上市后安全监测(例如，不良事件的识别和验证)和药品生产(例如，早期发现偏差)。［13］
尽管在讨论文件中，FDA总体上支持人工智能/机器学习的这些新兴用途，但该机构警告说，人工智能/机器学习算法可能存在某些风险，例如可能放大潜在数据源中的错误和先前存在的偏见。FDA在讨论文件中向利益相关者提出了数十个问题，并邀请反馈，这些反馈可能会为未来的指导和其他监管行动提供信息。
联邦贸易委员会对人工智能索赔的监管
联邦贸易委员会(“FTC”)对人工智能产品的广告声明(包括大多数含有人工智能的医疗设备的声明)具有监管权力，该机构已表示打算积极监督这些声明。［１４］2023年4月25日，联邦贸易委员会主席莉娜·汗和其他三个联邦机构(包括消费者金融保护局)的官员[15])发表声明，强调联邦贸易委员会致力于监测人工智能产品的开发和使用。[16]Khan主席警告公司，“现行法律没有对人工智能的豁免，联邦贸易委员会将大力执行法律，打击不公平或欺诈行为或不公平的竞争方式。”[17]
在此之前，美国联邦贸易委员会于2023年2月27日发表了一篇题为《控制你的人工智能主张》的博客文章。[18]美国联邦贸易委员会建议公司，该机构可能会对那些对产品的能力或好处提出虚假或未经证实的宣传的人工智能产品进行执法。公平交易委员会在帖子中表示，它意识到人工智能是一个“热门营销术语”，并警告企业不要“过度使用和滥用”这个术语。
该机构提供的关于避免违反《联邦贸易委员会法》第5条(禁止不公平或欺诈行为或做法)的指导意见与联邦贸易委员会几十年来在其他情况下使用的原则一致。美国联邦贸易委员会建议营销人工智能产品的公司:(1)性能声明必须有科学支持，公司不应该声称产品可以做任何人工智能技术目前能力之外的事情;(2)比较主张(例如，声称人工智能产品比非人工智能产品做得更好)也必须有支持;(3)如果公司声称产品支持人工智能，则必须实际使用人工智能(“仅仅在开发过程中使用人工智能工具与在产品中使用人工智能并不相同”)。公司应该在传播之前仔细评估与人工智能相关的产品声明，因为很明显，联邦贸易委员会将对违规声明进行执法。[19]
[1]机器学习算法是数据驱动的人工智能系统，它从大型数据集(即训练集)中的示例中“学习”，而无需明确编程以获得特定的答案或结论。这些算法可以学习破译人类无法达到的规模的数据模式，以识别输入(例如放射图像)和输出(例如诊断/临床决策支持)之间的关系。例如，一种设备可以使用ML算法比大多数医生更早地识别CT扫描中的癌症迹象。
数据集可以是有监督的或无监督的。在监督式学习中，数据由人类标记，机器被编程来识别特定的模式。大多数FDA机器学习应用使用监督学习(这需要一个已知结果变量(例如疾病状态)的训练数据集)。无监督学习没有标记数据，因此算法可以找到人们没有明确寻找或意识到的模式或趋势。大多数机器学习算法使用三个数据集进行训练、验证和测试。
[2]FDA，指南草案:关于人工智能/机器学习(AI/ML)支持的设备软件功能的预定变更控制计划的营销提交建议(2023年4月3日)(“PCCP指南”)，可获得在这里。
[3]FDA，在药物和生物制品开发中使用人工智能和机器学习，讨论文件和反馈请求(2023)，可获得在这里。
[4]FDA，修改基于人工智能/机器学习(AI/ML)的软件作为医疗设备(SaMD)的拟议监管框架，讨论文件和反馈请求，可用在这里。
［５］基于人工智能/机器学习(AI/ML)的软件作为医疗设备(SaMD)行动计划(2021年1月)，可用在这里。
[6]Id。在1。同样在2021年，FDA发布了《医学发展的良好机器学习实践:指导原则》在这里)，并与加拿大及英国的监管机构合作。
[7]第515C节规定，如果更改与FDA先前批准或清除的PCCP一致，则不需要补充申请或新的上市前通知。
［8］510(k)申请是向FDA提交的上市前提交文件，以证明新设备实质上等同于合法销售的谓词设备。
［9］FDA，行业和FDA工作人员指南:临床决策支持软件(2022年9月28日)，可用在这里。一些临床决策支持工具可能免除FDA的许可或批准，部分基于21世纪医疗器械定义的法定变更圣2016年世纪治愈法案。
[11]PCCP指南4。
［12］Id。
［13］FDA于2023年3月1日发布了一份单独的讨论文件，讨论了人工智能在药品生产中的应用。FDA，药物制造中的人工智能(2023年3月)，可在此处获得。
［１４］公平交易委员会也在关注人工智能的潜在歧视或偏见以及人工智能的使用诈骗或影响人们的信仰、情绪和行为。
[15]有关金融领域人工智能监管的更多信息，请参见《深度欺诈:联邦监管机构更加关注金融领域的人工智能和消费者保护》(2021年11月10日)在这里。
[16]美国联邦贸易委员会主席Khan与司法部、CFPB和EEOC的官员发布了关于人工智能的联合声明(2023年4月25日)在这里。
[17]Id。
[18]联邦贸易委员会商业博客，保持你的人工智能索赔检查(2023年2月27日)，可用在这里。
[19]有关联邦贸易委员会执法趋势的更多信息，请参见《联邦贸易委员会隐私和网络安全监管:企业在评估联邦贸易委员会合规性和风险时应了解的十大事项》(2022年1月12日)在这里。
* * *
有关所有领域与人工智能相关的一系列法律和监管问题的更多信息，请订阅Debevoise数据博客，在这里。
