放射学中人工智能监管格局综述

随着人工智能（AI）继续革新放射学，其实施周围的监管格局正在发生重大变化。当前最大的趋势之一是如何确保AI不带有偏见，以及如何更好地理解和运行算法的质量保证测试。

放射学合作伙伴临床AI副首席医疗官、斯坦福医学和影像学中心（AIMI）副研究员Nina Kottler博士最近在2024年北美放射学会（RSNA）会议上讨论了这些变化。她在与《健康影像》的视频采访中揭示了美国AI监管及其对放射学实践和医院的影响。

Kottler解释说：“我们需要确保企业能够创新。因此，我们如何在最小化监管的同时不会抑制创新？另一方面，我们如何确保患者的安全？有些人非常害怕AI会变成终结者，所以我们如何平衡这一点？在特朗普政府下会发生什么将很有趣。”

她提到，目前有一系列州法律在管理AI，最近在《平价医疗法案》（ACA）第1557节中增加了防止偏见的规定。其中最大的趋势是确保AI按预期运作。

各州AI法律法规的拼凑

除了最初的美国食品药品监督管理局（FDA）对临床算法的审查和批准外，AI不同于传统医疗器械之处在于它可以随着时间的推移因数据输入的变化而改变。这被称为“AI漂移”，可能会引入或增强程序中的偏见。尽管联邦对医疗保健AI的监管仍在进行中，Kottler表示各州法律的涌现为AI供应商和医疗服务提供商创造了一个具有挑战性的监管环境。

“虽然有很多关于AI监管的担忧和讨论，但联邦法律尚未出台。因此，我们看到的是各州纷纷出台自己的法律——50个州各自有不同的法律，许多州有多个法律。实际上，每个州都有数百条不同的法规，它们的定义也各不相同。因此，我们面临的是一个复杂的马赛克式管理难题，”Kottler解释道。

她表示，目前大多数法规主要针对供应商，但医院和放射学实践等提供者也不能豁免。

ACA第1557节开启AI问责的新时代

影响使用AI的提供者的联邦法规中，《平价医疗法案》（ACA）第1557节是一个关键部分。虽然这项反歧视规则长期以来一直适用于医疗保健，但在2024年其范围扩大到包括AI。该法规规定，用于医疗保健的AI系统不得基于年龄、性别、种族、民族、残疾或国籍等因素进行歧视。Kottler强调，为了在2025年5月1日的截止日期前遵守第1557节，提供者必须采取三项关键行动：

• 评估偏见：了解所使用AI系统的训练数据，并评估其中是否存在固有的偏见。

• 减轻偏见：采取措施应对潜在的偏见，包括授权放射科医生在临床应用中作为最终决策者。

• 记录努力：建立并维护合规过程和减轻策略的详尽记录。

“虽然无法完全消除偏见，但我们可以在护理点减轻它，因此您需要确保评估和尝试减轻偏见，”她解释道。

她表示，AI的放射科医生终端用户需要接受培训，以便他们知道为什么自己应该做出最终决定。

“这些算法中存在固有的偏见。我们在实践中采取了几项额外步骤。我们在部署之前验证AI模型。当我们用我们自己的数据进行验证时，我们会确定它是否有偏见以及它倾向于在哪里犯错。我们将这些信息带给放射科医生。此外，所有事情都需要记录下来，”Kottler解释道。

她建议放射科医生或医院或实践中的AI倡导者在5月1日截止日期前了解相关要求。

放射学AI偏见缓解中的质量保证角色

就像需要对成像系统进行质量保证测试以确保其正常运行和校准一样，AI算法也需要进行类似的测试，因为它们可能会因数据输入的变化而发生变化。美国放射学会（ACR）和其他专业组织正在协助医疗服务提供商应对这些挑战。例如，ACR的“评估AI”计划提供了评估AI性能和理解训练数据细微差别的资源。

此外，北美放射学会（RSNA）发布了一份关于第1557节的全面FAQ，为医院和放射学实践提供指导。

“当谈到偏见时，我们不仅要考虑患者群体，还要考虑设备。任何改变数据分布使其偏离训练数据的情况都可能产生影响。例如，您可能会获得新的扫描仪，或者有不同的技术人员使用不同的协议，或者您的扫描仪刚刚进行了新的软件升级。这些因素可能比一些需要考虑的患者群体因素产生更大的影响，”Kottler解释道。

此外，放射学AI确实需要由放射科医生进行监控和测试，因为他们是最终用户，具有解读图像和报告的知识和经验，能够理解可能代表AI偏见或AI漂移的细微差别。

“如果您谈论的是放射学AI，那么需要由消费AI的放射科医生来审查，因为他们比其他类型的医生或执业护士更少偏见。然后AI需要透明和可解释。最后一点是持续监控，”Kottler说。

她表示，放射学合作伙伴支付她的时间来学习AI并思考评估AI模型的方法，将其整合到放射学工作流程中。她表示，实践和医疗系统也需要采取类似的方法。如果要求放射科医生在完成常规工作量的同时还要查看AI，她说人们不可能花足够的时间成为AI专家并获得所需的深刻理解，以帮助进行QA并确保组织满足监管要求。

她还提到，当AI集成到PACS工作流程中时，应有反馈机制，允许用户轻松点击AI是否正确，提供额外信息以更好地理解AI的工作方式及遇到的问题。

拜登政府通过行政命令和卫生与公众服务部（HHS）指令采取了积极措施来解决AI中的偏见问题。然而，未来几年在特朗普政府下，监管环境可能会发生变化。

(全文结束)