Anthropicは禁止ではなくテストを要求、OpenAIとGoogleはオープンウェイトを支持

AnthropicのCEOであるDario Amodeiは本日、同社がオープンウェイトAIモデルの禁止を求めているわけではないと明確に述べた。これは1週間にわたる批判を受けての声明である。その代わりに、十分な能力を持つすべてのモデルについて、リリース前に強制的な安全性テストを実施することを提案している。問題は、「十分な能力」の線引きが誰も定義していないことであり、それが明日のオープンウェイトモデルの可用性を左右することになる。

Amodeiは公開書簡で「Anthropicはオープンウェイトモデルの禁止を主張したことは一度もない」と述べ、危険な能力を持たないモデルを「公共財」と呼び、そのコストは実行に必要な計算リソースのみだとしている。

彼の提案は3つの部分からなる。先端チップおよびチップ製造装置の輸出規制強化、産業規模のモデル蒸留への取り締まり、そして十分な能力を持つすべてのモデルに対するリリース前の安全性評価の義務化である。最初の2つはワシントンに向けたものであり、3つ目はモデルをリリースする開発者に影響を与える。

Amodeiは、テストのアイデアはコンセンサスに近いと述べ、トランプ政権がその方向に動いていること、最近の業界提案ではモデルの起源やライセンスに関係なくテストを適用し、「スタートアップや学界からの能力の低いモデルは完全に免除する」としていることを指摘する。この免除は重要だが、やはり「スタートアップ」の定義は難しい。一部のモデルが免除され、他が免除されない場合、その政策は能力の閾値に他ならない。

では、線はどこにあるのか？誰も言及していない。書簡では、誰が基準を設定し、誰がテストを実施するのかについても触れられていない。モデルの能力は、ベンチマーク結果、訓練計算量、または定義されたリスクカテゴリに対して評価されたスコアなどの指標で測定できる。そして、選択された指標がモデルタイプを決定する。指標を選ぶ者は、重みを公開するすべてのラボのリリース時期も設定することになる。

これは急速に進展しているストーリーである。「オープンウェイトとアメリカのAIリーダーシップ」と題された書簡には現在50の署名者がおり、OpenAIとGoogleが参加し、マイクロソフト、Nvidia、Meta、AMD、Cisco、Cloudflare、GitHub、Ollamaも名を連ねている。AnthropicとAmazonは目立った未参加者である。

月曜日、Nvidiaは35以上の創設メンバー（マイクロソフト、IBM、Hugging Face、Palantir、Red Hat、CrowdStrike、Linux Foundationを含む）とともに「Open Secure AI Alliance」を立ち上げた。Anthropicはその中にいない。Nvidiaの主張は、防御側がインシデントを調査するためにオープンなフロンティアモデルを必要としており、最近の事例では、閉じたツールがHugging Faceのインシデントに関するフォレンジック作業を妨げ、Hugging Faceが代わりにオープンウェイトモデルで分析を行ったことを挙げている。

Amodeiは当然の批判にも直接答えた。米国の禁止措置は、主に国内のAI企業を競争から守ることになり、悪意ある行為者を阻止する効果はほとんどないと述べた。「それは米国のAI企業を競争から守るだろうが、それは私の目標では決してなかった。」それは公正な指摘だが、Anthropicがオープンウェイトモデルをリリースしていないことも事実であり、その声明はやや空虚に感じられる。

Amodeiは、テストは「グローバルである必要があり、つまりCCP（中国共産党）も参加する必要がある」と認め、それが可能かもしれないと考えている。これはこのストーリーにおける最大の未解決問題かもしれない。輸出規制とアンチ蒸留措置はワシントンが単独で課せる政策だが、グローバルな能力テスト制度は異なる。オープンウェイトモデルに最も直接影響する提案は、まだ存在せず（永遠に存在しないかもしれない）広範な国際合意に依存している。