人类是制造工具的物种，但我们能控制自己创造的工具吗？当罗伯特·奥本海默（Robert Oppenheimer）等物理学家，在1940年代开发出第一种核裂变武器时，他们担心自己的发明可能会毁灭人类。虽说到目前为止，仍未发生这种状况，但管控核武器的挑战却一直存在。

如今，许多科学家将人工智能（AI），即能够让机器执行通常需要人类智能才能完成的任务的算法和软件，视为一种同样具有变革性的工具。像以往那些通用技术一样，AI具备巨大的行善与作恶潜力。在癌症研究中，它只需几分钟就能对一批研究案例进行梳理并总结，而同样的工作，人类团队却需要几个月才能完成。它还能可靠地预测蛋白质折叠的模式，而在这方面，人类研究人员则得耗费数年。

然而，AI也降低那些思想行为怪异者、恐怖分子和其他恶意行为者造成伤害的成本和门槛。正如兰德公司2024年发布的一项研究所警告的，“复活一种类似天花的危险病毒的边际成本，可能只需10万美元（约13万新元），而开发一种复杂对应疫苗或许要花费10亿美元以上”。

此外，一些专家担心，先进的AI将比人类聪明得多，以至于它将控制我们，而不是我们控制它。关于需要多长时间才能开发出这种超级智能机器（名为人工通用智能），各界的估算从几年到几十年不等。但无论如何，当今这个狭义AI所带来的不断增长风险，已经须要给予更多关注。

40年来，由前政府官员、学者、商界人士和记者组成的阿斯彭战略集团（Aspen Strategy Group），每年夏天都会集中研究一个重大国家安全问题。过往的会议讨论了核武器、网络攻击和中国崛起等主题，而去年我们则把焦点放在AI对国家安全的影响，检视益处和风险。

它能提供的其中一些益处，是可以更好地梳理海量情报数据，强化早期预警系统，改进复杂的物流体系，并检查电脑代码以提高网络安全。但它也会催生一些重大风险，比如自主武器的进步、算法编程中的意外错误，以及可能削弱网络安全的敌对AI。

中国一直大量投资在AI军备竞赛

中国一直在对更大范围的AI军备竞赛进行大量投资，而且还拥有一些结构性优势。AI的三个关键资源，是训练模型的数据、开发算法的高智商工程师，以及运行它们的计算能力。中国在数据获取方面，几乎没有法律或隐私限制（尽管意识形态限制某些数据集），并且拥有大量聪明的年轻工程师；它最为落后于美国的领域，则是为AI提供计算能力的先进微晶片。

美国的出口管制限制中国获取这些前沿晶片，以及制造它们的昂贵荷兰光刻机的渠道。阿斯彭的专家一致认为，中国在这方面落后美国一两年，但情况随时可能发生变化。尽管美国前总统拜登和中国国家主席习近平前年秋天会面时，同意就AI展开双边讨论，但专家对AI军控的前景并不感到乐观。

自主武器构成特别严重的威胁。经过联合国10多年的外交努力，各国仍未能就禁止自主式致命武器达成协议。国际人道法规定军队区别对待武装战斗人员和平民，而五角大楼长期以来规定在发射武器之前，必须有人参与决策环节。但在某些情况下，比如防御来袭导弹，根本没有时间进行人为干预。

由于情况千差万别，人类必须（在代码中）严格定义武器可以和不可以做什么。换句话说，应该有一个人在“决策环之上”，而不是在“决策环之中”。这并不是纯粹理论的问题。在乌克兰战争中，俄罗斯人干扰乌克兰军队的信号，迫使乌克兰人对他们的设备进行编程，使其能够自主决定何时开火。

AI最令人恐惧的危险之一，是在生物战争或恐怖主义方面的应用。当各国于1972年同意禁止生物武器时，各界普遍认为，此类武器是无用的，因为存在“反噬”己方的风险。但随着合成生物学的发展，也许有可能研发出一种只摧毁某一群体，而不影响另一群体的武器。或者，某个拥有实验室访问权限的恐怖分子，可能只想杀死尽可能多的人，正如1995年日本奥姆真理教所做的（尽管他们使用的是无传染性的沙林毒气，但当代那些与之类似的组织，可能会使用AI开发一种传染性病毒）。

在核技术方面，各国于1968年达成一项现有191个成员国的不扩散条约，国际原子能机构会定期检查各国能源项目，以确认仅被用于和平目的。尽管冷战期间竞争激烈，但在1978年，几个主要核国家同意限制那些最敏感设施和技术知识的出口。虽然两个技术之间存在明显差异，但这一先例为AI提供某些操作路径。

科技的发展速度要快于政策或外交，尤其是在私人领域激烈的市场竞争推动下。如果说阿斯彭战略集团会议有什么重要结论，那就是各国政府须要在这方面加快步伐。

（作者Joseph S. Nye, Jr.生前曾是阿斯彭战略集团联席主席、哈佛大学肯尼迪学院前院长、美国前助理国防部长。他在今年5月6日去世，享年88岁。本文是去年的作品，文内日期做了调整。）

（英文原题：AI and National Security，版权所有：Project Syndicate, 2024.）