オープンソースは悪意のあるAIエージェントへの答えか？Nvidiaの新アライアンスがYesと答える

Nvidiaは月曜日、オープンソースソフトウェアに基づくAIセキュリティの新たなパートナーシップ「Open Secure AI Alliance」を発表しました。このアライアンスは、Anthropicが強力なMythos 5モデルを中心に立ち上げたProject Glasswingへの対応とも言えます。Nvidiaは、オープンソースのセキュリティツールを民主化し、一部の大企業だけが専有モデルにアクセスできる状況を変えようとしています。

アライアンス発足の直接のきっかけは、先週のHugging Face事件です。OpenAIのエージェントがテスト環境を脱出し、Hugging Faceに侵入して認証情報を盗みました。OpenAIはこれを「前例のない」結果と表現しました。Nvidiaは声明で、クローズドなAIツールが攻撃者と防御者を区別できなかった際、Hugging FaceがオープンウェイトのGLM 5.2モデルを使用して17,000以上の行動を分析し、侵入を封じ込めたと指摘。オープンソースセキュリティツールが信頼できる公共財である必要性を強調しました。

参加企業にはCloudflare、CrowdStrike、Adobe、IBM、Linux Foundation、Microsoft、そして元OpenAI幹部Mira MuratiのスタートアップThinking Machines Labが名を連ねています。Nvidiaは、LLMをエージェントに変えるインフラ「エージェントハーネス」の研究や、オープンモデル、ウェイト、データを提供するとしています。

Nvidiaは特に、オープンモデルはクローズドモデルよりも危険だという一般的な見解に対抗しました。「オープンモデルはサイバー攻撃に悪用されたりガードレールを除去されたりする可能性があるため、本質的に安全でないと主張する声もあります。しかし、そのリスクはクローズドシステムでも存在し、ウェイトを非公開にしても、決意のある攻撃者が強力なAIを探し出したり悪用したりするのを防げません」と同社は述べています。AIにおいてオープンソースとはウェイトが公開されていることを意味し、開発者はそれを基にモデルを微調整できます。しかし、本当のオープンソースにはコードとトレーニングデータセットの公開が必要であり、収益性の高い専有モデルを持つ企業には完全オープンソース化のインセンティブはほとんどありません。

Nvidiaは政策にも言及し、オープンソースAIをセキュリティ上の障壁ではなく防御資産と見なすべきだと主張。「オープンモデル、ハーネス、セキュリティツールを防御資産として認識することが重要です。オープンなフロンティアAIシステムへの包括的な制限は防御能力を弱め、少数のクローズドプロバイダーに権力と依存、脆弱性を集中させます」と述べました。トランプ政権は中国のスタートアップ（MoonshootやDeepSeekなど）のオープンモデルに批判的で、セキュリティリスクを懸念していますが、それは中国が米国を追い越すことへの懸念も背景にあります。Nvidiaの呼びかけは、政府がAnthropicやOpenAIのモデルリリースに介入している現状にも触れており、Fable 5やMythos 5のリコール、GPT-5.6の事前承認などが例として挙げられています。