公民陪审团呼吁设立法定监管机构监督医疗保健中的人工智能使用

爱尔兰政府正面临要求建立一个法定监管机构来监督医疗保健中人工智能（AI）使用的呼声。由IPPOSI（爱尔兰患者组织、科学和工业平台）组织的公民陪审团提出了25项建议，为政策制定者提供了关于在医疗保健系统中安全和道德使用AI的指导。

陪审团还呼吁提供更多资金和培训，以支持该领域的AI推广。陪审团向卫生部长珍妮弗·卡罗尔·麦克尼尔（Jennifer Carroll MacNeill）和企业部长彼得·伯克（Peter Burke）写了一封公开信，呼吁制定一项国家策略，在未来五年内规划AI在医疗保健中的发展路线。

陪审团由24名代表爱尔兰人口的个人组成，从2024年9月至12月召开会议，提供了公众对这一复杂主题的看法。陪审团支持“早期、低风险部署高质量”的人类监控AI工具，以帮助缓解医疗系统的压力，推动治疗和护理的进步，并赋予个人更多参与自身健康管理的权利。

然而，陪审团呼吁加强监管、透明监督和强大的数据安全措施。他们认为，建立法定监管机构将负责为使用AI的各方制定和执行标准，包括许可、数据治理和监控，并对违规行为实施处罚。该机构还将发布合规报告，以促进开发安全、透明和负责任的AI技术。

陪审团成员金·伦纳德（Kim Lennard）表示：“除了监管外，我们还呼吁制定明确的政策和法律，以保护患者权利，确保AI在医疗保健中的应用符合公众的需求、价值观和期望。”

陪审团建议设立一个独立的医疗保健AI专员，作为公共利益的监督者，保护患者权利。其职责包括提高公众对AI在医疗保健中应用的认识，就AI使用个人健康数据提出建议，并独立识别加强合规的机会。

虽然支持自动注册个人健康数据用于AI训练，但陪审团同意人们必须得到充分告知，并有权选择退出。陪审团还建议，当AI参与患者的医疗保健时，患者应有知情权，并在可行的情况下可以选择不使用AI进行诊断或治疗。

科克大学教授理查德·格林（Richard Greene），同时也是HSE首席临床信息官，表示：“作为一名医疗专业人员，我欢迎陪审团强调在患者护理中保持人类核心地位的重要性。AI可以辅助我们做出更好的决策并提供更好的结果，但它只是医疗专业人员的助手，而非替代品。为了避免意外后果，其使用需要持续监督、严格评估和明确的责任归属，确保人类始终处于循环中。”

IPPOSI主席琼·约翰斯顿（Joan Johnston）呼吁立即开始制定国家策略。她表示：“公民陪审团的过程非常引人入胜，这些个体在整个讨论过程中展现了非凡的领导力、务实精神和创造力。一个由独立公共监督支持的法定监管机构，致力于保障健康数据的安全，是一个值得推荐的举措，IPPOSI呼吁政府立即着手制定反映陪审团优先事项的未来AI在医疗保健中的使用策略。”

(全文结束)