根据国际药品监管机构联盟(ICMRA)的一份新的前瞻扫描报告，人工智能(AI)的快速扩展的演变将挑战当前对药品和器械的监管。特设小组建立设立一个常设工作组以了解人工智能在医药产品开发和评价方面的监管情况。

ICMRA 于 8 月 6 日发布的一份报告详细介绍了两个案例研究的结果，这两个案例研究旨在作为成员机构的“压力测试”。ICMRA 写道，案例研究强调了在监管机构和制药行业增加对人工智能的使用时聘请伦理专家的必要性。报告还建议继续为人工智能建立一个监管框架，将人工智能算法的有效性、数据来源以及可靠性和透明度等因素考虑在内。

报告源自一个非正式的创新网络，该网络由来自意大利、丹麦、加拿大、爱尔兰、瑞士、欧洲药品管理局(EMA)和世界卫生组织(WHO)的 ICMRA 成员监管机构组成。美国 FDA 以观察员的身份参与其中。

报告指出，“应用人工智能的机会出现在药物生命周期的所有阶段：从目标验证和生物标志物的识别，到试验中临床数据的注释和分析、药物警戒和临床使用优化。”

AI 应用面临的一项重大挑战是，在采用机器学习技术时，管理 AI 的算法缺乏透明度。机器学习会造成“黑匣子”的情况，在这种情况下，产生结果的确切过程不再是直接可观察到的，有可能出现临床和监管方面的难题。

工作组给出的第一个假设案例研究是一款转为中枢神经系统相关数据捕获而设计的应用程序。假设的应用程序将通过记录和分析潜在参与者的基线疾病状态来帮助选择参与临床试验的患者。此外，该应用程序将跟踪对试验干预的依从性、对治疗的应答以及识别为疾病状态变化的终点;工作组还设想了该应用程序的批准后作用。

报告称，该案例研究具有充分的“复杂性和新颖性”，明确了监管机构在产品开发过程中早期建议的重要性。医疗器械监管者和学术专家可能会被拉入这一过程，因为科学、伦理和法律方面的考虑需要与监管决策一起权衡。

工作组意识到，对如此复杂的产品进行合规评估可能存在重大挑战，并且发现了“黑匣子”问题。即使监管机构可以访问用于人工智能开发的算法以及训练和验证数据集，也可能无法进行全面验证;“可能需要更复杂的方法，例如调查机器行为”。

应用程序需要更新，而桥接或验证研究可能会揭示产品的获益风险概况在更新后发生的变化，这可能会引发额外的监管申报需求。负责执行这些测试的开发人员“理想情况下”应拥有强大的治理结构，以监控人工智能算法随着使用的发展。

第二个案例研究设想在药物警戒环境中使用人工智能。报告称，“原则上，人工智能系统似乎适合安全信号的检测”，并有望减少信号检测工具通常仍需要使用的“繁重的手动操作部分”。但当人工智能在药物警戒活动中发挥更重要的作用时，“挑战主要是在 AI 和人类监督之间取得平衡”，持续计算每种治疗方式的获益和风险。

报告指出 , 人工智能扫描非常大的数据集和聚合不同信息的能力确实显示出有希望梳理出当前使用的方法可能遗漏的那些安全信号。其中一些包括药物-药物和药物-疾病相互作用、继发性恶性肿瘤、药物滥用以及药物使用模式和不良事件的变化。

上市许可持有人(MAH)需要确保数据质量和药物警戒信号检测专家与 AI 专家一起工作。如果第三方参与运行药物警戒计划的 AI 部分，则该第三方必须向 MAH 和监管机构保证，将在必要时维护和更新 AI , 并允许对 AI 工具的适当访问。

报告还概述了多个监管机构当前的人工智能活动和未来战略，包括加拿大卫生部、日本 PMDA、欧盟 EMA 和相关欧盟委员会机构、瑞士药品管理局以及澳大利亚 TGA。共同点包括认识到人工智能在促进药物开发和药物警戒以及简化监管机构工作方面的潜力。但报告显示 , 监管科学迫切需要跟上人工智能领域的快速发展，同时需要一个强大的伦理框架。