人工智能风险加剧医疗不平等

人工智能（AI）正在迅速改变医疗保健，但一项新研究警告说，如果没有谨慎监督，它可能会强化现有的医疗资源获取不均、偏见和数字贫困问题。

凯文·加拉格尔（Kevin Gallagher）

2025年2月27日

人工智能（AI）和大型语言模型（LLMs）正日益塑造医疗保健的未来。支持者声称这些技术有潜力提高可及性、简化医疗决策并解决健康的社会决定因素（SDOH）。然而，最近发表在《细胞报告医学》（Cell Reports Medicine）上的一项研究指出，在将AI整合到数字健康系统中时伴随的风险。研究人员翁（Ong）、沈（Seng）、劳（Law）、罗（Low）、夸（Kwa）、贾科米尼（Giacomini）和丁（Ting）警告说，如果不努力减轻偏见并增加数字可及性，AI可能会加剧现有的医疗不平等，而不是解决它们。

“尽管技术进步迅速，但致力于解决数字健康障碍的努力仍然不足。低数字素养、不平等的数字健康获取途径和有偏见的AI算法引发了对健康公平的越来越多的担忧。随着AI应用程序和LLM模型的普及，我们希望了解AI在驱动健康不平等方面的潜在陷阱，并从全球视角确定AI在SDOH中的关键机会。”

这项研究揭示了新兴技术（通常被认为是中立或普遍有益的）实际上可能加深医疗系统内现有的权力不平衡。通过揭示AI和大型语言模型如何通过有偏见的数据、数字排斥和健康信息私有化来强化结构性不平等，它提出了关于谁控制着塑造身心健康工具的关键问题。随着AI驱动的健康解决方案加速推进，这项研究强调了对这些技术设计方式、服务对象以及是否真正赋权个人还是仅仅自动化和掩盖现有控制系统进行批判性审查的必要性。

世界卫生组织（WHO）定义的社会决定因素（SDOH）是指影响健康结果的非医疗因素，包括环境、经济和社会条件，如获得清洁水、稳定住房、教育和就业。研究表明，这些因素在健康结果中起着比医疗服务本身更大的作用。例如，水管中的铅会导致儿童铅相关疾病增加，空气污染会导致儿童哮喘发病率上升。这些例子，尤其是涉及儿童的，突显了超出个人控制范围的条件，往往超过个人通过“良好选择”克服这些决定因素的能力。另一个属于数字领域的例子是贫困地区对医疗从业者访问的限制。

SDOH倡议已经导致旨在减少健康差距的政策出台，例如美国的“健康人民2030”计划，旨在消除护理障碍。数字健康技术，包括远程医疗和AI驱动的诊断工具，被引入作为解决这些差距的潜在方案。然而，这些创新旨在帮助的人群——例如低收入或农村地区的人们——往往缺乏从中受益所需的数字接入。

数字健康工具的扩展凸显了新兴概念——数字健康决定因素（DDOH），即数字接入和素养如何影响健康结果。虽然数字健康工具可以改善护理接入，但也引入了新的障碍，特别是对于那些没有可靠互联网接入、智能手机或基本数字素养的人。英国的一份报告发现，1100万人缺乏充分参与数字经济的技能，包括数字医疗服务。老年人、残疾人和低收入人群受到的影响尤为严重。远程医疗通常被视为无法获得面对面医疗服务的人群的解决方案，但它需要高速互联网、数字素养和在许多情况下导航复杂医疗门户的能力——所有这些都可能成为障碍而非解决方案。

翁等人强调了与人工智能（AI）和大型语言模型（LLMs）相关的第一个社会决定因素（SDOH）因素：高收入国家（HICs）相对于低收入和中等收入国家（LMICs）具有固有的优势。HICs是技术的主要来源，这使它们在全球范围内具有竞争优势。此外，翁等人指出，健康AI开发面临的一个重大挑战是，许多所需数据来自非结构化、未编码的定性来源，如医生和从业者笔记。这种理解促使创建了能够分析这些笔记以有效聚合、综合和利用定性数据的模型。

深度学习（DL）算法，如卷积神经网络（CNNs）和双向编码器表示（BERT），已被应用于从临床非结构化数据中注释SDOH。BERT模型通过分析文本和音频信号来识别模式，从而执行各种指定任务。在此背景下，它们旨在代表医生和其他医疗专业人员的典型行为。

AI和大型语言模型（LLMs）可以在解决与社会决定因素（SDOH）相关的问题方面特别有用，特别是在心理健康和慢性健康状况的背景下。这些AI系统可以分析个体数据和预测模式，以识别潜在问题，如与糖尿病相关的问题。此外，这些模型可以提供关于心理健康状况及其相关问题的大规模概述。

AI和LLMs可以更好地预测与SDOH相关的条件变化，但这些预测基于现有数据模型，而这些模型本身可能存在问题。

将人工智能（AI）整合到医疗保健中面临重大挑战，专家指出数据收集、存储和建模缺乏标准化是最紧迫的问题之一。最近的研究表明，电子健康记录（EHR）和其他数据系统的差异造成了互操作性的主要障碍，使得有效分析和应用AI驱动的见解变得困难。一些举措试图解决这一问题，例如在美国，由美国医学会领导的“AMA综合健康模型倡议（IMHI）”和“引力项目”旨在为收集和传输社会决定因素（SDOH）数据制定标准化协议。他们的目标是将这些标准集成到医疗编码系统中，如当前程序术语（CPT）代码，这可能简化AI处理医疗信息的方式。

即使数据标准化有所改进，AI在可及性和基础设施方面仍面临重大障碍。物理平台、电信网络和数字素养都影响AI在不同地区的部署效果。研究人员警告说，互联网接入、语言障碍和技术技能的差异可能会进一步加剧不平等，而不是缓解它们。

除了物流挑战，AI在医疗保健中的整合还面临两个更大的问题：偏见和隐私。

AI模型的无偏性取决于其训练数据的质量，而在医疗保健中，这些数据往往反映了现有的种族和社会经济差异。研究人员警告说，如果不努力减轻偏见，AI可能会加剧健康不平等，而不是减少它们。

另一个悬而未决的问题是数据隐私。随着AI系统依赖大量患者信息，谁负责确保数据得到道德和安全处理的问题仍未解决。

该研究建议，如果AI开发和实施得当，它仍然可以成为解决社会决定因素（SDOH）的强大工具。作者认为，AI驱动的健康解决方案应以最脆弱的人群为中心，而不是由高收入国家开发并强加给低收入国家。

随着数字工具在医疗保健中的重要性日益增加，数字素养和互联网连接已成为“超级”社会决定因素（SDOH）。这些因素影响现代医疗保健的几乎每个方面，从远程医疗到数字健康记录。然而，数字接入的差异可能会加深现有的健康不平等，而不是缓解它们。

技术有可能缩小或扩大现有差距。如果AI驱动的医疗工具在设计时不考虑谁可以使用它们，它们可能会强化不平等，而不是成为更好护理的桥梁。例如，AI驱动的远程医疗服务可能使拥有稳定宽带接入的人受益，而农村或低收入社区中缺乏可靠互联网的人将被抛在后面。

受影响最大的人群通常被排除在AI驱动医疗解决方案的开发和实施之外。研究人员强调，历史上缺乏数字健康工具接入的人必须参与塑造AI模型，以确保这些技术满足他们的需求，而不是扩大健康差距。没有包容性设计，AI可能会强化社会决定因素研究所旨在拆除的不平等。

问题超出了国界。低收入和中等收入国家（LMICs）面临的障碍更大，因为高收入国家（HICs）主导AI开发。如果全球健康技术继续主要由富裕国家塑造，它可能会在国际层面上创造额外的SDOH障碍，进一步不利那些已经在护理接入方面挣扎的人群。

作者强调，克服这些挑战需要积极努力，包括基础设施改进、数字素养计划投资和无偏AI模型的开发。没有这些措施，AI改变医疗保健的潜力可能会成为另一种加剧不平等的力量。然而，通过全球合作和致力于公平设计，AI可以成为减少健康不平等的强大工具，而不是强化它们。

(全文结束)