当AI接管一切：技术进步背后的隐性成本

随着人工智能悄悄地在医学及其他领域中接手工作，曾经敏锐的技能可能在幕后悄悄生锈。如果人工智能负责思考，我们还在思考吗？

我们倾向于将进步视为一种收获——更高的效率、更准确的结果、更多的时间。但有时，进步会悄无声息地带走一些东西。随着人工智能越来越多地接管过去由人类手和脑完成的任务，一个逐渐显现的副作用出现了：去技能化。当机器处理诊断、决策树以及医疗保健中的“电子通信”时，那些曾经从事这些工作的专业人士会发生什么？心理学和认知科学的不断增长的研究表明，未使用的技能不会耐心地等待。它们会消退。更糟糕的是，我们很难察觉到这一点。当我们停止使用某些技能时，我们低估了这些能力消失的速度和程度，同时高估了重新获得这些能力的容易程度。这在医学等领域能产生深远的影响，在这些领域，即使是很小的判断或熟练度上的失误也可能带来严重的后果。如果人工智能是闪亮的新副驾，我们可能需要更认真地考虑当飞行员停止飞行时会发生什么。研究表明，“用进废退”不仅仅是一句俗语，而是一个警告。

为了了解这种情况在现实生活中的表现，研究人员在《社会科学研究网络》上发表了一篇文章，测试了我们对技能衰退的认识程度。他们的发现可能会让你重新思考自己“仍然具备”的能力。剧透警告：事实证明，我们不仅不擅长记忆，还不擅长记住自己有多不擅长记忆。

在三个实验中，研究人员测试了人们在休息后预测自己技能下降的能力。在线参与者学习了一项具有可测量技能的任务：翻译拉丁文、预测代码输出或用反转控制的鼠标在屏幕上追踪一条线。在一、二或三周的休息后，他们再次进行任务，但在开始之前，他们猜测自己的表现如何。

结果令人谦卑。人们知道自己的技能会衰退，但严重低估了衰退的程度。平均而言，他们预测的技能衰退只有实际衰退的一半。具体来说，他们在拉丁文翻译上估计了47%的衰退，在编程上估计了41%，在运动技能追踪任务上估计了72%。

无论是休息时间的长短、参与者的性别还是他们的初始技能水平，都没有可靠地改变他们预测的错误程度。

“……我们发现，年龄较大的参与者在两周间隔内表现出更陡峭的技能衰退，并且对这种衰退的意识较低。”

年长的参与者经历了更大幅度的表现下降，并且对此缺乏认识。数据表明，他们没有调整期望值以匹配更快的技能损失现实。换句话说，年龄越大，你越可能认为自己仍然擅长某件你很久没有练习的事情——实际上，你的技能可能已经悄悄溜走了。

在第四个研究中，参与者做了两次预测——一次是在学习技能后立即进行，另一次是在两周后的再次尝试前进行。第二次预测更准确——误差减少了42%，但仍然偏离目标36%。仅仅意识到技能衰退是不够的。“知道”自己变差了并不意味着你完全理解自己到底变差了多少。

第五个研究探讨了人们为什么会低估技能衰退的原因。研究人员引入了一组新的参与者（预测者），让他们根据他人的训练量（无、少量或大量）来预测该人（执行者）的技能会下降多少。目的是探索我们过度自信的三个可能原因：

• 投射偏见——如果人们无法想象自己比现在更不称职，那么随着任务经验和掌握感的增加，预测误差应该会增加。

• 自我偏见——如果过度自信来自于希望相信自己很优秀，那么没有个人利益关系的预测者应该比执行者做出更准确的预测。

• 有缺陷的心理模型——如果人们对导致技能衰退的原因有误解，那么无论经验或个人参与程度如何，预测者和执行者都应该犯类似的错误。

投射偏见并没有成立。预测误差并没有随着执行者的经验变化而变化，排除了人们难以从精通的角度想象失去技能的想法。不出所料，自我偏见是一个重要因素。预测者比执行者更准确，表明我们在未来表现上夸大了自己的能力，即使这并不准确。

预测者仍然表现出高估的情况，这表明我们对技能衰退的理解存在缺陷。

研究人员使用机器学习发现，实际表现最好由平均表现、峰值表现和年龄来预测。但当人们做出预测时，他们主要依赖于自己的最佳时刻——峰值表现——并且基本上忽略了年龄。有趣的是，即使是那些预测他人表现的人也犯了类似的错误。他们虽然不太依赖峰值表现，但仍未能充分考虑年龄的影响。

这些发现表明了一个共同的误解：人们过于强调自己的最佳时刻，同时低估了年龄对技能衰退的影响，自我偏见和有缺陷的心理模型是预测误差的主要原因。

人工智能时代的去技能化

人工智能系统越来越多地应用于医疗保健中，执行诊断任务、解释影像、建议治疗方案，甚至参与患者沟通，以提高生产力并减少错误。但随着时间的推移，对人工智能系统的依赖会导致日常动手经验的减少。正如这项研究所示，即使一两周不使用技能也会导致一定程度的损失。对于医生来说，这意味着批判性思维和解决问题能力的衰退。

医生像这项研究中的执行者一样，可能会大大低估重新回到日常批判性思维所需的时间和实践，尤其是在依赖人工智能工具的情况下。随着人工智能系统的进步，临床医生被要求从传统的诊断技能转向技术流利度——理解算法、管理人工智能输入/输出和解释模型不确定性。

当人工智能在技术人员所说的“边缘情况”或医生所说的“非典型表现”中失败，或者由于故障导致人工智能工具离线时，安全和责任后果的真实可能性就会出现，尤其是考虑到我们的自我偏见和对技能快速丧失的有缺陷心理模型。去技能化使系统更加脆弱，因为人类变得越来越依赖数字拐杖。

在我们将更多的认知负担交给机器之前，我们需要停下来问一问：我们以效率的名义在交换什么？人工智能的吸引力是真实的——更快的决策、更少的错误、简化的护理——但人类专业知识的缓慢侵蚀同样真实且远不那么显眼。技能丧失不会大张旗鼓地宣布，它会在我们舒适地滑行时悄悄潜入。更糟糕的是，我们倾向于高估自己恢复的能力。在我们自动化另一个任务或将另一个人类判断边缘化之前，让我们认真思考一下韧性意味着什么——以及当系统崩溃时，我们希望谁来做决定。

(全文结束)