オープンウェイトモデルに関する当社の立場

AnthropicのCEOであるDario Amodeiは、2026年7月27日に公開した詳細な記事で、オープンウェイトモデルに関する同社の明確な立場を説明しました。この記事は、米国政府が中国のオープンウェイトモデルの使用禁止を検討しているとの報道がなされ、多くのテック企業がオープンウェイトモデルを支持する公開書簡に署名し、一部ではAnthropicが自社ビジネスを保護するために禁止を望んでいると誤って非難されたことを受けて発表されました。Amodeiはこれらの誤解に直接応え、Anthropicがオープンウェイトモデルの禁止を決して主張したことがないと強調しています。

Amodeiは、危険な能力を持たないオープンウェイトモデルは公共財であり、実行に必要な計算コスト以外は不要で、企業、開発者、研究者に価値を提供すると述べています。しかし、彼は国家安全保障上の最も深刻な2つの悪夢のシナリオを指摘しています。第一の懸念は、権威主義政府（特に中国共産党が最も強力な脅威ですが、それだけではありません）が米国よりも強力なAIモデルを構築し、恒久的な軍事優位を達成したり、自国民への極度の抑圧を行うリスクです。この懸念は米国政府内でも広く共有されており、バンス副大統領は昨年パリで「権威主義政権はAIを盗用し、軍事情報および監視能力を強化している」と警告し、情報コミュニティの2026年年次脅威評価では「他の大国のAIにおける堅調な進歩が米国の経済競争力と国家安全保障上の優位性に挑戦している」と結論づけています。これらのモデルがオープンウェイトでリリースされるかどうか、また米国企業が使用するかどうかは重要ではありません。実際、最も危険なモデルは秘密裏に訓練され、人民解放軍がドローンに使用したり、国家安全部が監視と抑圧に使用するためにのみ提供されるものかもしれません。

第二の懸念は、強力なAIモデルがサイバー攻撃や生物攻撃に悪用され、深刻なアライメント問題を引き起こすリスクです。オープンウェイトモデルは、中国産かどうかに関係なく、クローズドモデルよりも高いリスクをもたらす可能性があります。なぜなら、ガードレールの適用や使用状況の監視が非常に難しく、一度ウェイトをリリースすると撤回できないからです。しかし、米国企業による使用を禁止しても、悪意のある行為者は合法的な米国企業ではないため、このリスクには対処できません。それは米国AI企業を競争から守るだけであり、彼の目標ではありません。

これらの懸念に対処するために、Amodeiは3つの措置を支持しています。第一に、強力なチップやチップ製造装置を中国に販売すべきではなく、密輸や回避策を取り締まるべきです。中国の国内生産能力は限られており、スケーリング則により、米国チップなしでは米国より強力なモデルを構築できません。これは脅威#1を阻止する最も効率的かつ直接的な方法であり、米国の法律の手の届かないモデルの訓練を妨げることで、間接的に脅威#2にも役立ちます。

第二に、産業規模の蒸留操作を取り締まるべきです。蒸留はゼロからモデルを訓練するよりもはるかに計算効率の高いプロセスであり、中国がチップ数から通常可能なよりもはるかに優れたモデルを構築することを可能にし、チップ禁止を部分的に回避します。蒸留により中共が米国と同等またはそれ以上のAI能力を得ることはできませんが、中国のフロンティアを米国フロンティアの数ヶ月以内に近づけることができます。これらの操作を行う企業の多くがオープンウェイトモデルをリリースしているのは事実ですが、オープンウェイトよりも、これらの操作がフロンティアで米国を追い越そうとする権威主義国家によって支援されているという事実の方がはるかに重要です。この行動を抑止するための政策介入が必要です。オープンウェイトモデルの全面禁止は正しい解決策ではなく、私たちが求めているものでもありません。

第三に、すべての十分に強力なモデル（オープンおよびクローズドの両方）は、リリース前に強制的な安全性テストを受けるべきです。脅威#2に対処する最善の方法は、リリース前にモデルをサイバー、生物、アライメントリスクについて直接テストすることです。このアイデアは実際にコンセンサスに近いと考えています。トランプ政権がここ数月でこの方向に動き、最近の業界提案が最も強力なモデルにそのようなテストを適用すること（スタートアップや学界からの能力の低いモデルを完全に免除する一方で）を提案していることに勇気づけられています。オープンモデルがリスクを増大させるかどうか、またそのリスクが軽減可能かどうかは、事前に決めるのではなく、テストから明らかになるべきです。また、オープンウェイトモデルの安全性を向上させる有望な方法として、Anthropicのモジュール型トレーニング戦略に関する最近の研究があります。効果を上げるためには、テストはグローバルである必要があり、中国共産党も参加する必要があります。これは実際に可能かもしれません。私が『テクノロジーの思春期』で書いたように、AI生物兵器の防止に関する限定的な協力は、中国の利益にもなるため可能かもしれません。

Amodeiは公開書簡についても言及しています。彼はその多くに同意しています。オープンウェイトはAI経済へのアクセスを拡大し、少なくとも一部のユースケースで競争を強化し、顧客により大きなコントロールを与えます。蒸留に関する懸念は、上記で説明したのと同じように、対象を絞った法的および商業的枠組みで対処すべきです。しかし、オープンウェイトモデルが必ずしもセーフガードの開発を容易にする、または能力への広範なアクセスが攻撃者よりも防御者を助けるという書簡の主張には同意しません。彼には、その逆が起こる可能性が少なくとも同じくらいあるように思えます。例えば、生物学には強い攻撃者-防御者の非対称性があり、十分に能力の高いモデルが広く入手可能な材料を使用してパンデミックレベルのウイルスを迅速に兵器化できる一方、これらの病原体に対する防御は最善の場合でも複数年にわたる運用タスクである（オペレーション・ワープ・スピードで見られたように）と彼は懸念しています。このような問題は、事前に想定するのではなく、厳格なリリース前テストによって経験的に答えられるべきです。

Anthropicの立場を要約すると、私たちはオープンウェイトモデルをカテゴリとして禁止することを主張したことはなく、現在も主張していません。代わりに、強力なチップを権威主義者の手に渡さないようにし、産業規模の蒸留を阻止し、すべての十分に強力なモデル（オープンおよびクローズド）に安全性テストを要求することに焦点を当てるべきです。