ペンタゴンとOpenAIの驚くべき取引の解説

先週、OpenAIは国防総省と、AIモデルを完全自律型兵器や米国人の大量監視に使用しないことで合意した。しかし、このニュースはAI業界で論争を巻き起こし、批判者は合意の文言が曖昧で、政府の濫用の余地を残すと指摘している。一方、競合のAnthropicは同様の条項を拒否したため、トランプ政権から脅迫を受けた。

Anthropicと国防総省の決裂国防長官ピート・ヘグセスは、Anthropicに対し、Claudeを大量監視や完全自律型兵器に使用することを禁止する契約条項の削除を要求し、応じなければサプライチェーンリスクに指定すると脅した。トランプ大統領はTruth SocialでAnthropicを「過激な左翼、ウォークな企業」と非難し、全連邦機関に同社の技術使用停止を命じた。ヘグセスは脅しを実行し、Anthropicをサプライチェーンリスクと宣言したが、法律専門家はその法的根拠に疑問を呈している。

OpenAIの合意は実質的な制約に欠けるOpenAIの合意は、第四修正条や国家安全保障法などの遵守を謳っているが、批判者は、これらの法律はスノーデン事件以前から存在していたにもかかわらず、政府による大量の電話記録収集を防げなかったと指摘する。「無制限の監視」などの文言は、政府が商業的な位置情報データを購入するなどの抜け道を許す可能性がある。

歴史的先例が信頼の問題を浮き彫りに2013年のスノーデン事件は、当時の法律の下で政府が大規模監視を行っていたことを明らかにした。OpenAIの国家安全保障責任者カトリーナ・マリガンは、スノーデン事件への対応を主導した経歴を持ち、国防総省の職員を信頼しているようだが、専門家は、契約条項があっても政府は業務を分割したり、オープンウェイトモデルを利用して制限を回避できると警告する。

完全自律型兵器の問題は短期的には影響が限定的現在のフロンティアモデルは完全自律型兵器には適していないが、将来的には技術が進歩するにつれて、議会による立法が不可欠となる。AnthropicのCEOアモディも、契約は一時的な対策に過ぎず、最終的には議会の役割だと述べている。

結論として、OpenAIと国防総省の取引は、AIの倫理と政府の権限に関する広範な議論を引き起こした。短期的には契約は政府を効果的に制約できない可能性があり、長期的な解決には議会の関与が必要である。また、Anthropicの原則的な姿勢は賞賛に値するが、国防総省は既にxAIと制限の少ない契約を結んでおり、オープンウェイトモデルも監視活動に十分な性能を持っている。アモディが強調するように、契約は一時しのぎに過ぎず、最終的には議会が国内の大量監視を制限する法律を制定する必要がある。この戦いの最も重要な成果は、AIの危険な利用に国民と議員の注意を向けさせたことかもしれない。