AI戦争はすでに始まっている

2017年11月、ジュネーブの国連で開催された「特定通常兵器使用禁止制限条約（CCW）」の会合は、致死性自律システムに焦点を当てた国際フォーラムであった。ブランカ・マリヤン研究員が参加したとき、彼女は5日間の会合が、主に仮定の話、殺人ロボットによる戦争の世界を推測するものであり、いつも通りのものになるだろうと考えていた。結局のところ、これは決して開発されず、配備されることもないと考えられていた技術だった。しかし、その年、彼女はすぐに状況が異なることに気づいた。遠い想像上の未来が、かつてなく近く、現実のものとなっていたのだ。

初日、一部の参加者は未来生命研究所が制作した短編映画『殺人ロボット』を視聴した。このビデオでは、架空の防衛請負業者が、無人で精密攻撃を行えるAI搭載ドローンを売り込んでいた。「かつては『銃は人を殺さない、人が殺すのだ』と言われていました」とCEOは聴衆に語る。「しかし、人は殺しません。感情に流され、命令に従わず、狙いが高すぎる。武器に判断をさせましょう。」マリヤンが回想するに、室内の雰囲気は突然不安に変わった。最も恐ろしい部分は前提ではなく、ペンタゴンがすでにこの技術のバージョンを開発していたことだった。

その会合は、米国防総省のイニシアチブであるProject Mavenが開始された後、初めて開催されたもので、AIを使用してドローンの監視映像を分析するものだった。2017年後半までに、Mavenには大手テクノロジー企業Googleが参加していた。「私たちが話していたシステムは未来的なものではありませんでした」と、平和に焦点を当てた独立研究機関プロジェクト・プローシャーズの上級研究員であるマリヤンは語る。「それらは、ある程度の自律性を備えた既存のプラットフォームか、センサーデータとセンサー入力に基づいて目標を選択し攻撃する能力を備えていました。」世界はすでに無人機戦争、すなわち人間が操縦する致命的な機械を目の当たりにしていた。今、人間が完全にループから外される未来が現実味を帯びてきた。「私たちが懸念していたのはターミネーターのような姿ではなく、自律性が可能になることで実際に何が起こっているかでした」とマリヤンは述べた。

それから約10年が経過したが、軍は完全自律型の致死兵器をまだ開発していない。しかし、これらのシステムは、米国政府とAIスタートアップAnthropicの間の最近の重大な対立の中心に位置している。Anthropicは2つの「レッドライン」を維持しようとしている。国内の大量監視の禁止と、人間の関与なしに目標を識別、追跡、殺害できる兵器の禁止である。年初以来、同社は専門家がAI戦争の最後のフロンティアと呼ぶものに対して意味のある制限を課した唯一の軍事AI請負業者として浮上している。

しかし、同盟関係の変化、訴訟、メロドラマの中で、より大きな文脈、すなわちAIが長年にわたって軍事に深く組み込まれていることを見失いがちである。70年前、ニューハンプシャー州での科学者の夏季会合が、国防総省にAIの戦争への可能性に注目させるきっかけとなった。それ以来、その影響は10年ごとに指数関数的に拡大している。特に近年では、AIはかつてないほど多くの、より迅速な殺戮を可能にしている。

Anthropic自身も、そのレッドラインが長くは続かないと考えているようだ。結局のところ、歴史はそうではないことを証明してきた。米軍は数十年にわたりAI開発を支援し、その見返りとしてAIは戦争を変革してきた。2000年代には、この技術は世界中で収集された前例のない量のデータを解析できるようになり、監視革命を引き起こした。2010年代後半には、高度な顔認識やその他の洗練されたマシンビジョンシステムが開発された。

Anthropicとペンタゴンの戦いは、これらのシステムの増大する威力に注目を集めている。それは2026年1月、国防長官ピート・ヘグセスが国防総省の既存のAI契約の再交渉を要求したことから始まった。新たな条件は、灰色の領域や以前に合意された条件を排除し、ペンタゴンが「合法的な使用」という曖昧で広範囲な制限のもとで企業の技術を使用することを可能にした。当時、ペンタゴンの機密ネットワークに技術を展開することを承認された唯一のAI企業であるAnthropicはこれに異議を唱えた。

Anthropicのように、特定の用途に制限を設ける請負業者は異例である。「それは政府がマンハッタン計画のように作り出した技術ではなく」、ノースロップ・グラマンのような従来の軍事サプライヤーでもないと、カリフォルニア大学バークレー校の公共政策准教授アンドリュー・レディは述べる。「これは、このスタートアップエコシステムがペンタゴンと直接関わる際に明確になる痛点の一つです。」シリコンバレー内部でも、いつ制限を設けるべきかについて「多くの意見の相違がある」と彼は語った。

誰が勝つかも不明である。交渉戦術として、国防総省は3月にAnthropicを軍事サプライチェーンリスクに指定し、ドナルド・トランプ大統領はすべての政府機関によるClaudeシステムの使用を禁止すると宣言した。その後、Anthropicがサイバーセキュリティに特化したモデルMythosをリリースしたことで関係はいくらか改善されたようだが、法廷闘争は続いている。Anthropicはこの記事へのコメントを拒否した。

いずれにせよ、この議論は「完全自律型兵器」を新たな形で公共の語彙に持ち込んだ。しかし、軍事作戦におけるAIの浸透の影響は数十年にわたって減速していない。「私たちはルビコン川を渡ってしまったのに、渡っていないふりをしているのです」とレディは語った。

議論の中心にあるのは、国防総省指令3000.09号である。これは致死性自律兵器の使用を管理する数少ない政策の一つである。2012年に起草されたこの指令は、そのようなシステムを「起動後、操作者のさらなる介入なしに目標を選択し攻撃できるもの」と定義している。また、完全自律型および半自律型兵器は、人間が武力行使について「適切なレベルの」判断を下せるように設計されるべきであると定めている。未来生命研究所のAIおよび国家安全保障担当責任者ハムザ・チョードリーは、この指令が「戦争における自律性の使用に関する最初の政策」を設定したと述べた。

しかし、定義の解釈によっては、特定のミサイル防衛プログラムが数十年前にこのラインを越えていた可能性がある。例えば、ファランクスCIWSは、大型の銃に似た自動化兵器システムであり、艦艇をミサイル攻撃から防御するために設計されている。この種のシステムは、人間がループにいると機能しない。なぜなら、ミリ秒単位で応答しなければならないからである。一部の専門家によれば、これらのシステムは防御専用の固定環境でのみ動作する点が異なる。この解釈では、それらは交戦しているが、判断しているわけではない——単に脅威に反応しているだけである。「その法令の中で『and（および）』が多くの役割を果たしています——判断できるシステムと交戦できるシステムはありますが、両方を同時に行うシステムはありません」とレディは述べた。

「完全な自律性がなくても、AIは殺傷チェーンをわずか数秒に圧縮し、人間が国際人道法が民間人の害を防ぐために要求する評価を実際に行わないようにします」とTech Justice Lawの法律フェロー、マディ・バットは述べる。「人間がそれを怠り、民間人の死亡につながった場合、それは戦争犯罪です。」

攻撃と防御の定義も曖昧である。「学生とのお気に入りの演習の一つは、軍事技術を提示して『これは防御的か攻撃的か？』と尋ねることです」とレディは語り、サイロ内の核兵器の例を挙げた。これは、抑止に使われるため防御的だと主張する人もいれば、外国の目標を攻撃するために設計されているため攻撃的だと主張する人もいる。「その主な機能が本質的に防御的であるからといって、技術自体が防御的であるとは限りません。」パーデュー大学の教授ソリン・アダム・マテイはさらに率直に「防御だけで戦争を戦うことはできない」と述べた。

2023年、政府の最高デジタル人工知能オフィス（CDAO）——国防総省の全AI運用の中核機関——は国防総省指令3000.09のアップデートを発行した。しかし、文書の核心的な曖昧さは解決されなかった。2024年、バイデン政権はAIと国家安全保障に関する覚書を発表し、特定の国家安全保障シナリオでAIがどのように使用されるかに関するルールを設定した。現在、トランプ政権下でもこの政策は有効である。しかし、ペンタゴンは大きな変動を経験している。CDAOは現在、国防総省の他の部分からより孤立するように大規模な再編成を受けており、同オフィスは現在、国防総省の研究工学担当次官兼CTOであるエミル・マイケルに報告している。

特定通常兵器使用禁止制限条約や「殺人ロボットを止めるキャンペーン」などの国際的な取り組みも、あまり進展していない。マリヤンはThe Vergeに対し、CCWは小国がAI戦争の状況を理解するのに大いに役立ったが、全体的な進展は「非常に遅く、主要国やより高度な軍隊の間で具体的な合意は見られていない」と語った。一部の国は致死性自律兵器の禁止に関心を示しているが、この用語の公式な国際定義すら存在しない。この状況は「しばしば多くの人々が互いにすれ違う結果をもたらし…一部の国は拘束力のある文書の欠如を有利に利用している」と、カリフォルニア大学バークレー校の上級研究員でOpenAIの地政学チーム元リーダーのサラ・ショーカーは述べた。

「ほとんどの人——政策立案者、市民社会のメンバー…これらの会合に参加する人々はおそらく疲れていると思います」とショーカーは付け加えた。「10年以上経っても、本当に合意はありません。」

2017年以前の自律型兵器の状況はともかく、Mavenはそのタイムラインを劇的に加速し、議論の条件を変えた。このプログラムは、2010年代の牧歌的で「悪を行うな」というシリコンバレーが初めて明らかに戦争に関与したことを示し、Googleの従業員と一般市民の反応を強いためである。「それが、軍事作戦におけるAI技術の役割についての最初の全国的な議論でした」とマテイは述べた。

Project Mavenは、当時のロバート・ワーク副国防長官のメモから始まった。彼は「アルゴリズム戦争クロスファンクショナルチーム」を設立し、年内にも戦地に展開可能なAIアルゴリズムの訓練を任務とした。Googleはすぐに契約を獲得した。内部の抵抗は急速に高まった。2018年4月、約4000人の従業員がGoogleに「戦争ビジネス」からの撤退を求める請願書に署名した。書簡には、Googleの幹部が従業員に対し、同社の技術は「ドローンを操作したり飛行させたりせず」、「武器の発射に使用されることはない」と保証したと記されていた。しかし、「これは狭い範囲の直接的な用途を排除するものの、技術は軍向けに構築されており、一度納入されれば、これらの任務を支援するために容易に使用される可能性がある」と従業員は述べた。「私たちは技術の道徳的責任を第三者に委託することはできません。」Googleはこの記事へのコメント要請に応じなかった。

最近、MSSはベネズエラのニコラス・マドゥロ大統領の逮捕と、同地域でこれまでに数千人の死亡が報告されている米国のイラン攻撃の両方に不可欠であったと報じられている。Googleの従業員は同社が立場を明確にすべきだと主張し、実際に同社は論争の中で2018年半ばに契約を更新しないことを選択した。しかし、AmazonとMicrosoftがすぐに介入し、同じ仕事で数千万ドルの契約を獲得した。Palantirがすぐに引き継ぎ、Project MavenはMaven Smart System（MSS）となり、物体検出と追跡だけでなく、大規模な監視データの分析も可能になった。

Claudeも、より限定的な能力ではあるが、MSSと結びついている。Anthropicが2024年に自社技術の軍事利用を許可し始めた後、そのClaudeチャットボットがユーザーインターフェースに追加され、アナリストを支援している。

（AIコスト管理のため、原文はここで途切れている）