AI战争已经来临

2017年11月，日内瓦联合国总部召开了《特定常规武器公约》会议，这是一个关注致命自主系统的国际论坛。当研究员Branka Marijan参加时，她原本以为这为期五天的会议会像往常一样，主要讨论假设性的未来战争场景。毕竟，当时有人认为这种技术可能永远不会被开发出来。然而，那年她很快意识到情况不同了。那个遥远的、想象中的未来突然变得比以往任何时候都更近、更真实。

会议第一天，一些与会者观看了由未来生命研究所制作的短片《杀戮机器人》。片中虚构的国防承包商推销一种由AI驱动的无人机，可以无需协助进行精确打击。CEO对观众说：“过去人们说枪不杀人，人杀人。但人不会杀人——他们会情绪化、违抗命令、瞄得太高。让武器来做决定吧。”Marijan回忆道，房间里的气氛突然变得紧张。最可怕的部分不是剧情设定，而是五角大楼已经在开发类似的技术。

那次会议是Project Maven启动后举行的第一次会议。Project Maven是美国国防部的一项计划，利用AI分析无人机监控视频。到2017年底，谷歌已经加入了该项目。Marijan说：“我们讨论的系统并非未来之物，它们是现存的平台，具有一定程度的自主性，或者能够根据传感器数据和输入选择和攻击目标。”世界已经见识过无人机战争——由人类操控的致命机器。而现在，人类可能完全被排除在决策循环之外。Marijan指出：“我们担心的不是终结者那样的形象，而是自主性被赋予能力后真正发生的事情。”

近十年过去了，军方尚未开发出完全自主的致命武器。但这些系统正处于美国政府与AI初创公司Anthropic之间一场高风险斗争的中心。Anthropic试图保留两条“红线”：禁止国内大规模监控，以及禁止开发无需人类参与即可识别、追踪和击杀目标的武器。自今年年初以来，它已成为唯一一家对专家所称的AI战争最后前沿施加有意义限制的军事AI承包商。

然而，在联盟变化、诉讼和戏剧性事件的背景下，人们很容易忽视更大的背景——AI早已深深嵌入军事领域。七十年前，新罕布什尔州的一次科学家夏季会议让国防部注意到了AI在战争中的潜力。此后，其影响每十年呈指数级增长。尤其是近年来，AI实现了比以往更多、更快的杀戮。

即便Anthropic似乎也认为其红线不会长久。毕竟，历史已经证明了这一点。美国军方几十年来一直支持AI发展，而AI也反过来改变了战争。在2000年代，该技术能够解析全球收集的前所未有的数据量，引发了一场监视革命。2010年代末，先进的面部识别和其他复杂的机器视觉系统相继问世。

Anthropic与五角大楼的斗争凸显了这些系统日益增长的威力。这场冲突始于2026年1月，当时国防部长Pete Hegseth要求重新谈判国防部现有的AI合同。新条款消除了任何灰色地带或先前商定的条款，允许五角大楼在“任何合法用途”这一模糊而宽泛的范围内使用这些公司的技术。Anthropic——当时唯一获准在五角大楼机密网络上部署其技术的AI公司——提出了反对。

像Anthropic这样的承包商对其技术的特定用途设置限制是不同寻常的。加州大学伯克利分校公共政策副教授Andrew Reddie说：“这不是政府创建的技术，不像曼哈顿计划，”也不是诺斯罗普·格鲁曼这样的传统军事供应商。“当这个创业生态系统直接与五角大楼接触时，这就是明确的痛点之一。”即使在硅谷内部，对于何时应设置限制也存在“很多分歧”。

也不清楚谁会赢。作为谈判策略，国防部在3月将Anthropic指定为军事供应链风险，总统唐纳德·特朗普宣布禁止所有政府机构使用其Claude系统。此后，随着Anthropic发布专注于网络安全的模型Mythos，双方关系似乎有所缓和，但一场法庭斗争仍在进行中。Anthropic拒绝就此事发表评论。

无论如何，这场辩论以新的方式将“完全自主武器”带入了公众词汇。但AI在军事行动中潜移默化的影响几十年来从未放缓。“我们有点像已经渡过了卢比孔河，却假装没有，”Reddie说。

辩论的核心是国防部指令3000.09，这是为数不多的管理致命自主武器使用的政策之一。该指令最初于2012年制定，将此类系统定义为“一旦激活，即可在无需操作员进一步干预的情况下选择和攻击目标”。它规定，完全自主和半自主武器的设计都应允许人类对武力的使用“行使适当程度的”判断。未来生命研究所AI与国家安全负责人Hamza Chaudhry表示，该指令设立了“首个关于在战争中使用自主性的政策”。

然而，根据对定义的不同解释，某些导弹防御计划可能几十年前就已越过了这条线。以“密集阵”近程防御系统为例，这是一种类似巨型火炮的自动化武器系统，用于防御舰艇免受来袭导弹攻击。如果有人在决策循环中，这种系统将无法工作，因为它必须在毫秒内做出反应。一些专家表示，区别在于这些系统仅在防御性、固定的环境中运行。按照这种解释，它们是在交战，但不是在决策——只是对来袭威胁做出反应。Reddie说：“‘和’这个字在那个法规中起了很大作用——我们有能够决策的系统，也有能够交战的系统，但不能有同时做到这两点的系统。”

“即使没有完全自主性，AI也将杀伤链压缩到几秒钟，以至于人类实际上并没有做出国际人道法所要求的防止平民伤害的评估，”Tech Justice Law法律研究员Maddy Batt说。“当人类未能做到这一点导致平民死亡时，那就是战争罪。”

进攻和防御之间的定义也很模糊。Reddie说：“我和学生们最喜欢的一个练习是展示一项军事技术，然后问‘这是防御性的还是进攻性的？’”他举了一个例子：导弹井中的核武器，有些人认为它是防御性的，因为它用于威慑；有些人认为它是进攻性的，因为它旨在打击外国目标。“仅仅因为其主要功能本质上是防御性的，并不意味着技术本身是防御性的。”普渡大学教授Sorin Adam Matei更直白地说：“你不可能仅仅靠防御来打仗。”

2023年，政府的首席数字与人工智能办公室（CDAO）——国防部所有AI运营的中心枢纽——发布了国防部指令3000.09的更新。但它没有解决文件的核心模糊性。2024年，拜登政府发布了一份关于AI和国家安全的备忘录，为AI在某些国家安全场景中的使用制定了规则——目前即使在特朗普执政下，这项政策仍然有效。但五角大楼经历了重大动荡。CDAO正在进行重大重组，使其与国防部其他部门更加隔离，该办公室现在向Emil Michael汇报，他同时担任国防部负责研究和工程的副部长以及该部门的CTO。

国际努力，如《特定常规武器公约》和“阻止杀人机器人运动”，也未能取得太大进展。Marijan告诉The Verge，尽管CCW极大地帮助了小国了解AI战争的格局，但总体进展“非常缓慢，我们没有看到具体的协议，特别是在主要国家和更先进的军队之间。”尽管一些国家表示有兴趣禁止致命自主武器，但甚至连该术语的官方国际定义都没有。加州大学伯克利分校高级研究员、OpenAI前地缘政治团队负责人Sarah Shoker说，这种情况“常常导致很多人各说各话……一些国家发现缺乏具有约束力的文书对他们有利。”

“我认为大多数人——政策制定者、公民社会成员……参加这些会议的人可能都累了，”Shoker补充道。“已经十多年了，确实没有任何协议。”

无论2017年之前自主武器的状况如何，Project Maven极大地加速了它们的时间表，并改变了辩论的条款。该项目标志着2010年代田园诗般的“不作恶”硅谷首次明显卷入战争，迫使谷歌员工和公众做出反应。Matei说：“那是我们就AI技术在军事行动中的作用进行的第一次全国性对话。”

Project Maven始于时任副国防部长Robert Work的一份备忘录。他成立了一个“算法战争跨职能团队”，负责训练可以部署到战区的AI算法，甚至可能在年底前完成。谷歌很快赢得了合同。内部抵制迅速增长。2018年4月，约4000名员工签署请愿书，要求谷歌退出“战争业务”。信中称，一位谷歌高管曾向员工保证，他们的技术“不会‘操作或驾驶无人机’，也不会‘被用来发射武器’”。但员工们表示：“虽然这消除了一小部分直接应用，但该技术是为军方建造的，一旦交付，很容易被用来协助这些任务。我们不能将我们技术的道德责任外包给第三方。”谷歌没有回应置评请求。

据报道，MSS近期在委内瑞拉总统尼古拉斯·马杜罗被捕和美国对伊朗的打击中发挥了关键作用，后者据称在该地区已造成数千人死亡。谷歌员工认为他们的公司应该表明立场——而它也这样做了，在争议中选择不续签合同，于2018年中期退出。但亚马逊和微软迅速介入，获得了数千万美元的合同以进行相同的工作。Palantir很快接手，Project Maven变成了Maven Smart System（MSS），它不仅能够进行目标检测和跟踪，还能大规模分析监控数据。

Claude也与MSS交织在一起，尽管能力有限。在Anthropic于2024年开始允许军事使用其技术后，其Claude聊天机器人被添加到用户界面中，帮助分析师……（由于AI成本控制，原文截断）