AI戰爭已經來臨

2017年11月，日內瓦聯合國總部召開了《特定常規武器公約》會議，這是一個關注致命自主系統的國際論壇。當研究員Branka Marijan參加時，她原本以為這為期五天的會議會像往常一樣，主要討論假設性的未來戰爭場景。畢竟，當時有人認為這種技術可能永遠不會被開發出來。然而，那年她很快意識到情況不同了。那個遙遠的、想象中的未來突然變得比以往任何時候都更近、更真實。

會議第一天，一些與會者觀看了由未來生命研究所製作的短片《殺戮機器人》。片中虛構的國防承包商推銷一種由AI驅動的無人機，可以無需協助進行精確打擊。CEO對觀眾説：“過去人們説槍不殺人，人殺人。但人不會殺人——他們會情緒化、違抗命令、瞄得太高。讓武器來做決定吧。”Marijan回憶道，房間裏的氣氛突然變得緊張。最可怕的部分不是劇情設定，而是五角大樓已經在開發類似的技術。

那次會議是Project Maven啓動後舉行的第一次會議。Project Maven是美國國防部的一項計劃，利用AI分析無人機監控視頻。到2017年底，谷歌已經加入了該項目。Marijan説：“我們討論的系統並非未來之物，它們是現存的平台，具有一定程度的自主性，或者能夠根據傳感器數據和輸入選擇和攻擊目標。”世界已經見識過無人機戰爭——由人類操控的致命機器。而現在，人類可能完全被排除在決策循環之外。Marijan指出：“我們擔心的不是終結者那樣的形象，而是自主性被賦予能力後真正發生的事情。”

近十年過去了，軍方尚未開發出完全自主的致命武器。但這些系統正處於美國政府與AI初創公司Anthropic之間一場高風險鬥爭的中心。Anthropic試圖保留兩條“紅線”：禁止國內大規模監控，以及禁止開發無需人類參與即可識別、追蹤和擊殺目標的武器。自今年年初以來，它已成為唯一一家對專家所稱的AI戰爭最後前沿施加有意義限制的軍事AI承包商。

然而，在聯盟變化、訴訟和戲劇性事件的背景下，人們很容易忽視更大的背景——AI早已深深嵌入軍事領域。七十年前，新罕布什爾州的一次科學家夏季會議讓國防部注意到了AI在戰爭中的潛力。此後，其影響每十年呈指數級增長。尤其是近年來，AI實現了比以往更多、更快的殺戮。

即便Anthropic似乎也認為其紅線不會長久。畢竟，歷史已經證明了這一點。美國軍方几十年來一直支持AI發展，而AI也反過來改變了戰爭。在2000年代，該技術能夠解析全球收集的前所未有的數據量，引發了一場監視革命。2010年代末，先進的面部識別和其他複雜的機器視覺系統相繼問世。

Anthropic與五角大樓的鬥爭凸顯了這些系統日益增長的威力。這場衝突始於2026年1月，當時國防部長Pete Hegseth要求重新談判國防部現有的AI合同。新條款消除了任何灰色地帶或先前商定的條款，允許五角大樓在“任何合法用途”這一模糊而寬泛的範圍內使用這些公司的技術。Anthropic——當時唯一獲准在五角大樓機密網絡上部署其技術的AI公司——提出了反對。

像Anthropic這樣的承包商對其技術的特定用途設置限制是不同尋常的。加州大學伯克利分校公共政策副教授Andrew Reddie説：“這不是政府創建的技術，不像曼哈頓計劃，”也不是諾斯羅普·格魯曼這樣的傳統軍事供應商。“當這個創業生態系統直接與五角大樓接觸時，這就是明確的痛點之一。”即使在硅谷內部，對於何時應設置限制也存在“很多分歧”。

也不清楚誰會贏。作為談判策略，國防部在3月將Anthropic指定為軍事供應鏈風險，總統唐納德·特朗普宣佈禁止所有政府機構使用其Claude系統。此後，隨着Anthropic發佈專注於網絡安全的模型Mythos，雙方關係似乎有所緩和，但一場法庭鬥爭仍在進行中。Anthropic拒絕就此事發表評論。

無論如何，這場辯論以新的方式將“完全自主武器”帶入了公眾詞彙。但AI在軍事行動中潛移默化的影響幾十年來從未放緩。“我們有點像已經渡過了盧比孔河，卻假裝沒有，”Reddie説。

辯論的核心是國防部指令3000.09，這是為數不多的管理致命自主武器使用的政策之一。該指令最初於2012年制定，將此類系統定義為“一旦激活，即可在無需操作員進一步干預的情況下選擇和攻擊目標”。它規定，完全自主和半自主武器的設計都應允許人類對武力的使用“行使適當程度的”判斷。未來生命研究所AI與國家安全負責人Hamza Chaudhry表示，該指令設立了“首個關於在戰爭中使用自主性的政策”。

然而，根據對定義的不同解釋，某些導彈防禦計劃可能幾十年前就已越過了這條線。以“密集陣”近程防禦系統為例，這是一種類似巨型火炮的自動化武器系統，用於防禦艦艇免受來襲導彈攻擊。如果有人在決策循環中，這種系統將無法工作，因為它必須在毫秒內做出反應。一些專家表示，區別在於這些系統僅在防禦性、固定的環境中運行。按照這種解釋，它們是在交戰，但不是在決策——只是對來襲威脅做出反應。Reddie説：“‘和’這個字在那個法規中起了很大作用——我們有能夠決策的系統，也有能夠交戰的系統，但不能有同時做到這兩點的系統。”

“即使沒有完全自主性，AI也將殺傷鏈壓縮到幾秒鐘，以至於人類實際上並沒有做出國際人道法所要求的防止平民傷害的評估，”Tech Justice Law法律研究員Maddy Batt説。“當人類未能做到這一點導致平民死亡時，那就是戰爭罪。”

進攻和防禦之間的定義也很模糊。Reddie説：“我和學生們最喜歡的一個練習是展示一項軍事技術，然後問‘這是防禦性的還是進攻性的？’”他舉了一個例子：導彈井中的核武器，有些人認為它是防禦性的，因為它用於威懾；有些人認為它是進攻性的，因為它旨在打擊外國目標。“僅僅因為其主要功能本質上是防禦性的，並不意味着技術本身是防禦性的。”普渡大學教授Sorin Adam Matei更直白地説：“你不可能僅僅靠防禦來打仗。”

2023年，政府的首席數字與人工智能辦公室（CDAO）——國防部所有AI運營的中心樞紐——發佈了國防部指令3000.09的更新。但它沒有解決文件的核心模糊性。2024年，拜登政府發佈了一份關於AI和國家安全的備忘錄，為AI在某些國家安全場景中的使用制定了規則——目前即使在特朗普執政下，這項政策仍然有效。但五角大樓經歷了重大動盪。CDAO正在進行重大重組，使其與國防部其他部門更加隔離，該辦公室現在向Emil Michael彙報，他同時擔任國防部負責研究和工程的副部長以及該部門的CTO。

國際努力，如《特定常規武器公約》和“阻止殺人機器人運動”，也未能取得太大進展。Marijan告訴The Verge，儘管CCW極大地幫助了小國瞭解AI戰爭的格局，但總體進展“非常緩慢，我們沒有看到具體的協議，特別是在主要國家和更先進的軍隊之間。”儘管一些國家表示有興趣禁止致命自主武器，但甚至連該術語的官方國際定義都沒有。加州大學伯克利分校高級研究員、OpenAI前地緣政治團隊負責人Sarah Shoker説，這種情況“常常導致很多人各説各話……一些國家發現缺乏具有約束力的文書對他們有利。”

“我認為大多數人——政策制定者、公民社會成員……參加這些會議的人可能都累了，”Shoker補充道。“已經十多年了，確實沒有任何協議。”

無論2017年之前自主武器的狀況如何，Project Maven極大地加速了它們的時間表，並改變了辯論的條款。該項目標誌着2010年代田園詩般的“不作惡”硅谷首次明顯捲入戰爭，迫使谷歌員工和公眾做出反應。Matei説：“那是我們就AI技術在軍事行動中的作用進行的第一次全國性對話。”

Project Maven始於時任副國防部長Robert Work的一份備忘錄。他成立了一個“算法戰爭跨職能團隊”，負責訓練可以部署到戰區的AI算法，甚至可能在年底前完成。谷歌很快贏得了合同。內部抵制迅速增長。2018年4月，約4000名員工簽署請願書，要求谷歌退出“戰爭業務”。信中稱，一位谷歌高管曾向員工保證，他們的技術“不會‘操作或駕駛無人機’，也不會‘被用來發射武器’”。但員工們表示：“雖然這消除了一小部分直接應用，但該技術是為軍方建造的，一旦交付，很容易被用來協助這些任務。我們不能將我們技術的道德責任外包給第三方。”谷歌沒有回應置評請求。

據報道，MSS近期在委內瑞拉總統尼古拉斯·馬杜羅被捕和美國對伊朗的打擊中發揮了關鍵作用，後者據稱在該地區已造成數千人死亡。谷歌員工認為他們的公司應該表明立場——而它也這樣做了，在爭議中選擇不續簽合同，於2018年中期退出。但亞馬遜和微軟迅速介入，獲得了數千萬美元的合同以進行相同的工作。Palantir很快接手，Project Maven變成了Maven Smart System（MSS），它不僅能夠進行目標檢測和跟蹤，還能大規模分析監控數據。

Claude也與MSS交織在一起，儘管能力有限。在Anthropic於2024年開始允許軍事使用其技術後，其Claude聊天機器人被添加到用户界面中，幫助分析師……（由於AI成本控制，原文截斷）