公民陪审团呼吁对医疗保健领域的人工智能进行监管

爱尔兰患者组织、科学和工业平台（IPPOSI）发布了一份关于在医疗保健中使用人工智能（AI）的报告，该报告基于一个由24名成员组成的公民陪审团的审议结果。从2024年9月到12月，陪审团提出了一系列针对卫生政策制定者的25项建议，旨在确保AI在医疗系统中的安全、伦理和包容性应用。

陪审团还向卫生部长和企业、旅游及就业部长写了一封公开信，强调需要设立独立的监管机构和专员来监督AI的应用，并制定一项为期五年的国家策略，以指导AI在医疗保健领域的未来发展。

陪审团支持高质量、受人类监控的AI工具的早期低风险部署，以帮助缓解医疗系统的压力，推动治疗和护理的进步，并赋予个人更多自主管理健康的权力。同时，他们也强调了强有力的监管、透明的监督和稳健的数据安全的重要性。

为了建立公众对AI的信任，陪审团一致同意建立法定监管机构，负责监督AI在医疗保健中的应用。该机构将制定和执行AI使用的标准，包括许可、数据治理和监测，并对违规行为施加处罚。此外，该机构还将发布合规报告，以促进安全、透明和负责任的AI技术发展。

陪审团还呼吁设立一个独立的AI医疗保健专员，作为公共利益的监督者，保护患者权利。该专员的任务包括提高公众对AI在医疗保健中应用的认识，就AI使用个人健康数据提出建议，并独立识别加强合规的机会。此外，专员还将处理公众的投诉。

陪审团强调了透明度、患者自主权和知情同意的重要性。尽管支持自动将个人健康数据用于训练AI，但陪审团认为必须明确告知公众并提供退出选项。陪审团还建议，当AI参与患者的医疗保健时，患者有权被告知并在可行的情况下选择不使用AI进行诊断或治疗。

HSE首席临床信息官、独立陪审团监督小组成员理查德·格林教授表示：“作为一名医疗保健专业人士，我欢迎陪审团强调将人类置于患者护理的核心地位。AI可以支持我们改进决策并提供更好的结果，但它只是医疗专业人员的辅助工具，而非替代品。为了避免意外后果，其使用需要持续监督、严格评估和明确责任，确保人类始终处于控制之中。”

IPPOSI主席乔安妮·约翰斯顿补充说：“公民陪审团是一个非常有趣的过程，这些个体在整个审议过程中展现了非凡的领导力、务实精神和创造力。一个由独立公共监督支持的法定监管机构，致力于保障健康数据的安全，是陪审团值得推荐的建议。IPPOSI呼吁政府立即开始制定反映陪审团优先事项的国家AI医疗保健战略。”

(全文结束)