地球上的和平：构想AI的角色

如果《时代》杂志有“2024年最热门话题”封面，人工智能（AI）无疑会是有力的竞争者。AI正在迅速改变我们的星球生活，当前的技术组合不仅为公共利益带来了巨大潜力（例如扩展科学研究、优化农业和能源网、改善公共卫生），在没有规则的情况下也带来了严重的共同损害风险。

恰好，联合国人工智能咨询委员会发布了一份长达100多页的报告《为人类治理AI》（Governing AI for Humanity），该报告仔细审视了复杂的问题，并提出了合理的国际AI治理建议。这份报告虽然不会登上任何畅销书榜单，但其内容引人深思，值得我们关注。以下是本人的“读者文摘”版本。

报告首先指出了值得关注的领域——其中最主要的是AI驱动的自主武器和增强型虚假信息的传播对世界和平与安全构成严重威胁。报告指出，今天的“快速、不透明和自主”的AI系统已经挑战了传统的监管体系，更强大的系统可能会颠覆我们所知的“工作”。

目前，全球范围内AI治理存在赤字，例如几乎没有问责制，合规基本上是自愿的。AI治理不仅是应对挑战和风险的必要条件，也是确保我们充分利用AI潜力的方式，不让任何人掉队。

作者认为全球AI治理至关重要。“本质上，技术本身的跨边界特性和应用决定了需要全球性的方法。”例如，AI的原材料（从关键矿物到训练数据）都是全球采购的。尽管通用AI跨越国界部署，但AI发展的加速往往在全球范围内集中权力和财富。作者指出，世界上许多地区（主要是全球南方）尚未参与国际AI治理对话。

AI治理体制必须覆盖全球，才能有效避免“AI军备竞赛”，促进学习和互操作性。他们表示，填补倡议和机构之间的协调差距将提高AI治理体制之间的连通性、兼容性和问责制——包括联合国系统。

报告还提出了实现共同理解的建议。作者认为，只有包容性和全面的AI治理方法才能应对全球范围内多方面和不断演变的挑战和机遇，从而促进国际稳定和公平发展。迫切需要及时、公正和可靠的AI科学知识和信息，以便各国能够在全球范围内建立共同的基础理解。在全球层面汇集科学知识将促进原本分散或重复努力的合作，并使全球公共产品进行联合投资。

作者提出的建议（在文件中有更详细的描述）可以总结如下：

• 创建国际AI科学小组。由多学科专家组成的多样化团队（由联合国AI官员和国际组织合作伙伴支持）负责进行调查并编写相关报告，如：AI相关能力、机会和风险；科学共识领域和需要进一步研究的领域；以及新风险或空白的新兴问题。

• 促进AI治理政策对话。设立每年两次的政府间和多方利益相关者论坛，分享最佳实践：考虑人权并促进可互操作的治理方法；制定国际合作框架；更好地协调行业和国家努力与全球规范和原则。

• 创建AI标准交换平台。代表来自国家和国际标准开发组织、科技公司、民间社会和国际科学小组的成员，该平台将：制定和维护定义和适用标准的登记册；评估标准/开发过程；确定新的标准需求。

• 创建能力建设网络。该网络将连接多个联合国附属能力建设中心，重点是建设公共官员的AI治理能力，并使AI培训数据和培训人员在多个中心之间可用。

• 创建全球AI基金。从公共和私人来源获得的资金将在网络中分配，以促进所有国家对AI的访问。

• 创建全球AI数据框架。建立AI培训数据、数据来源等的共同标准。

• 在联合国秘书处内创建AI办公室。AI办公室将支持所有全球AI工作，并促进各利益相关者之间的联系。

美国对AI标准的态度如何？2023年，拜登政府通过行政命令实施了AI安全和安保指南，旨在抓住AI的机会并管理其重大风险（例如潜在的劳动力市场中断、知识产权盗窃、虚假信息的传播、国家安全漏洞）。

即将上任的政府对AI的立场尚未明确。然而，当选总统特朗普的竞选言论表明：a) 对现任政府AI监管方式的普遍反对；b) 倾向于允许美国科技公司在开发AI工具方面拥有更多自由；c) 强调在与中国的技术竞争中获胜。

AI在医疗保健领域的应用如何？我密切关注像Robert Pearl和Tom Lawry这样的国家专家的工作，简短的回答是它仍在发展中。我的梦想是AI最终将提供更有效的工具来减少临床变异，从而降低我们系统以及全球医疗系统中不可接受的浪费和医疗错误水平。

(全文结束)