AGI時代のAIガバナンスへようこそ
米国政府がAnthropicに対し、最新のClaude 5モデルへのアクセスを停止するよう強制し、AIガバナンスの新時代を告げた。著者は過激な対応を批判し、Anthropicのレトリックの役割と不安定性の警告を述べる。この出来事はChatGPT時代のガバナンスからAGI時代への移行を示す。
2026年6月14日、米国政府はAnthropicに対し、最新のClaude 5 Mythos/Fableモデルへの内部および外部アクセスを強制的に停止させました。これはAIガバナンスの新時代の始まりを示しています。この時代は、人間の労働者を効果的に補完するAIエージェントを定義し、新しい作業方法や既存ツールの適用領域を切り開きます。モデルは急速に改良され続け、さらなるガバナンスの課題を生み出すでしょう。
金曜日の市場終了直後、政府はAnthropicに連絡し、外国人や海外ユーザーへのモデル提供を停止するよう要求しました。本稿執筆時点では、この騒動はまだ続いています。Anthropicと政府が合意に達してモデルを再公開する可能性が高いですが、これは新しいタイプのAIガバナンスの混乱した指標です。ホワイトハウスは、Anthropicの最大の金融・技術パートナーであるAmazonからリスクを知らされました。
これらの動きは非常に複雑であり、状況は不完全ですが、著者はこの騒動について持続的な見解を提供します。モデル重みへの輸出禁止は永続的な悪影響を及ぼす政策となるでしょう。Fableモデルの脱獄に関する正当なサイバーセキュリティ上の懸念がありましたが、範囲は狭いものでした。著者は、この一連の出来事を引き起こすべきではなかったと考えています。なぜなら、完全に脱獄に免疫のあるモデルは存在せず、今後数年で同程度の能力を持つモデルに世界中のすべての企業がアクセスできるようになるインフラを準備すべきだからです。
Anthropicの過去数年にわたる絶え間ない恐怖煽りは、この瞬間を加速させました。モデルを核兵器に例えるようなメッセージがなければ、この種のガバナンスが現れるのはさらに6〜12か月後だったでしょう。人々は、米国の主要AI企業が繰り返し政治的な攻撃にさらされることを祝うべきではありません。これは経済的に非常に不安定であり、米国システムの経済的安定を損なうものです。十分な不安定性は景気後退を引き起こし、AIバブルをはじけさせる可能性があります。
ホワイトハウスの行動は過激であり、Anthropicに対する強い政治的傾向に影響されています。政府の要求と目標には深い矛盾があり、外国人が米国でフロンティアAIを構築できなければ、国内AI産業は成り立ちません。Amazonがなぜホワイトハウスに直接情報を提供する必要があったのか、このリリースと禁止に至るまでの経緯は不明です。これは、Anthropicが政府とどのように関わっているかの奇妙なダイナミクスを示しており、政治的に標的にされたことへの反応かもしれません。
原因が何であれ、これは悪いダイナミクスであり、Anthropicの関与方法に影を落としています。民間企業が政府をコントロールしようとすれば、政府はより強く反発します。著者は、ダリオ（Anthropic CEO）が実際にウェルネスリトリートにいたとは思わないが、電話に出るのに許容範囲以上の時間がかかったと考えています。
この状況は非常に複雑です。近い将来、モデルのリリースが、最小限の技術的才能しか持たない行政機関による雰囲気判断で評価され、政治的に判断された技術評価の曖昧な塊の後ろにゲートされる世界を指し示しています。
政府は、私たちがAGI時代にいることを内面化していますが、準備ができておらず、失った時間を取り戻すために迅速に行動しなければならないと感じています。政府が就任したとき、私たちはまだChatGPT時代のAIガバナンスの中にいました。彼らのAI行動計画はこの時代を反映していました。今、回答推論からエージェント推論への移行に伴い、著者はリスクが誇張されていると今でも考えていますが、最新AIシステムの実際のリスクとそれを説明するために使われる言葉の間のマージンは縮小しています。これは主要なAI研究室の外にある権力構造を怖がらせました。
AGI時代のAIガバナンスへの突入は、世界中の多くの主権国がAIを真剣に受け止め始めることを意味します。欧州、中東、そしておそらく中国も、フロンティアAIから取り残される可能性を認識しています。この変化は、オープンソースコミュニティが勝利として受け止めており、政府が主要プラットフォームに対して恣意的に判断できる場合、企業が自らの知能をコントロールしたいという長期的な軌道を見ています。
この時代を理解する鍵は、Anthropicと連邦政府の間のこれらの出来事が、AI政策の歴史における最大の出来事のうちの2つのように見えるが、これから起こることの単なる始まりに過ぎないことです。これが新しい常態であり、既存の権力構造が急速に台頭する技術に対する支配を主張する必要を感じています。これは混乱し、紛争が多く、時には危険ですらあります。
これらの出来事を追うとき、著者は恐怖を感じています。なぜなら、さらに多くのことが起こることを知っているからです。世界的に広く拡散され、安全で、安価な超強力なAIというポジティブなビジョンを達成するためには、デエスカレーションの道をたどる決意が必要です。
オープンソースのAI擁護者がこの一連の出来事を大いに祝っていますが、彼らは高速応答のAI政策のスポットライトが自分たちに向けられたときに備えていません。オープンモデルに対して同様に攻撃的な行動が取られる可能性は非常に高いです。それが3ヶ月後か2年後かはわかりません。