医疗领域中的人工智能范围蔓延风险

医疗系统的高管们正在挑选合适的AI供应商合作伙伴和项目，以实现数字化转型。他们需要筛选数百个提案，这是一个耗时的过程。

一旦选定了供应商进行试点，并最终在整个系统中推广，IT高管的工作才刚刚开始。

“我非常担心AI的范围蔓延，”克利夫兰MetroHealth首席医疗AI官Yasir Tarabichi博士在接受《Becker's Healthcare播客》采访时说。“当我们为某个特定痛点选择解决方案时，或者即使它是一个更大平台的一部分，它的范围就会开始扩大。首先，它是总结笔记；接下来，它会监听你的对话。但等一下，我已经有了一个环境AI解决方案。这些东西会互相冲突，所以我担心整体支出。”

MetroHealth对新技术和试点项目采取了一种谨慎的态度，倾向于选择具有灵活性的合作伙伴。不断有新进入者和市场领导者的更迭意味着匆忙与第一个拥有严格协议的公司合作，会让医疗系统很快陷入过时的合作关系。

“我最大的担忧仍然是在错误的地方和错误的解决方案上花钱，”Tarabichi博士说。“我认为我们还在摸索中，所以我们行事谨慎。至少在我们承诺与该领域的合作伙伴合作时，我们希望留有余地。我们的电子健康记录供应商正在开发专门针对生成式AI的解决方案和机会，这些方案开始产生冲突。”

Tarabichi博士知道小规模试点的结果可能无法扩展到更大的组织。许多AI产品承诺使临床医生的生活更轻松，但很难量化它们是否真的减轻了医护人员的认知负担，还是只是改变了他们的工作内容；例如，从写笔记变成了审查AI生成的笔记并寻找错漏之处。

“这些解决方案都不完美，所以我们必须非常小心，不要给我们的护理团队增加更多的工作量，并且不要假设我们真正减轻了他们的工作负担，”他说。

为了防止范围蔓延和投资回报不佳，MetroHealth采取了强有力的治理策略，将不同领域的专家聚集在一起。他们还提升临床医生对技术能力和局限性的认识，并赋予医生在AI不正确时发言的权利。

系统还密切关注所有解决方案的生命周期，并淘汰那些不起作用的工具。

“有一种自然的假设认为更多的技术总是好的，所以我们必须保持平衡，确保我们真正得到了我们所支付的东西，并确保我们没有让事情变得更复杂，”Tarabichi博士说。

(全文结束)