Nvidia、Palantir、Hugging Faceなど33社が参加し、オープンウェイトAIをサイバー脅威から守るためのレースに
Nvidia、Palantir、Hugging Faceなど33のパートナーが月曜日に新たなOpen Secure AI Allianceを結成し、脆弱性を迅速に特定して修正することでオープンウェイトAIモデルを保護する技術とツールの開発を目指します。このアライアンスは、オープンソースAIのセキュリティ問題に取り組む一方で、現在の規制枠組みが分散型オープンモデルに対応できていないことを浮き彫りにしています。
オープンソースソフトウェアとオープンウェイトAIモデルの使用をめぐる現在の激しい議論は、何が正当な開放性であり、何が盗難に当たり、新たなサイバーセキュリティの脆弱性を生み出す可能性があるかについて意見を分けています。
こうした業界全体の懸念に直接対処するため、33のパートナーが月曜日に新たなOpen Secure AI Allianceの設立を発表し、この新組織が脆弱性を迅速に特定して修正することでソフトウェアを保護する技術とツールを開発する方法について説明しました。
Open Secure AI Allianceの設立パートナーは、Nvidia、Adobe、Cadence、Capital One、Cisco、Cloudera、Cloudflare、Cognition、CrowdStrike、Databricks、Dell Technologies、DoorDash、Elastic、HPE、Hugging Face、IBM、LangChain、Linux Foundation、Microsoft、NetApp、Nous Research、OpenClaw、Palantir、Palo Alto Networks、Salesforce、ServiceNow、Snowflake、Synopsys、Thinking Machines Lab、TrendAI、Red Hat、Reflection AI、SpaceXAIです。
これはテクノロジー界で最も影響力のある名前の集まりですが、注目すべき2つの例外があります。それは、クローズドな専有AIラボであるOpenAIとAnthropicです。彼らの欠席は理解できます。彼らは閉鎖されたラボを運営しており、オープンウェイトAIモデルは事実上の競合相手だからです。
Nvidiaのエンタープライズプラットフォーム担当バイスプレジデント、Justin Boitanoは声明を発表し、オープンウェイトモデルは米国のAIリーダーシップとサイバーセキュリティの基盤であると述べました。
「米国のAI産業革命におけるリーダーシップを維持するためには、経済を支えるインフラがクローズドモデルとオープンモデルの両方に安全かつ確実にアクセスできる必要があります」とBoitanoは書いています。「サイバーセキュリティにとって、オープンモデルとオープンハーネスは不可欠です。なぜなら、それらは防御能力を広げ、防御者に透明性を高め、カスタマイズ可能でローカライズされた制御でフロンティアクローズドモデルを補完するからです。」
規制当局がAIの安全性に取り組む中、Boitanoは「オープンモデルとオープンツーリングを防御資産として認識する」ことが重要になり、それによって透明性、独立した評価、共有による修復が可能になると予測しています。
テクノロジーコンサルティング会社The Enterprise Edgeの創業者兼CEO、Mark VigorosoはThe New Stackに対し、AI規制当局は伝統的に「少数のクローズドラボの監査を中心にAI安全装置全体を構築してきた」と述べています。そして今、そのアプローチは時代遅れです。
「オープンウェイトモデルは数ヶ月前にそのクローズドモデルアプローチを追い越しました」とVigorosoは言います。「このアライアンスは、実際の安全作業が今やインフラ層で行われなければならないという認識です。パッチサイクル、来歴、誰が何を展開しているかというアイデンティティです。なぜなら、誰もダウンロードされたウェイトファイルを召喚できないからです。」
Vigorosoは、AI安全論争は「モデルレベルのコントロールに固執している」のに対し、実際の規制上のギャップはインフラとアイデンティティの来歴、つまりモデルがどこから来たのか、誰がモデルを展開し、何に触れたのかを知ることであり、モデル自体が安全かどうかだけではないと主張しています。
「EU AI Office、NISTのAI標準化イノベーションセンター（CAISI）、英国のAI Security Institute（AISI）などのグループは、ほぼ完全にフロンティアクローズドモデルに焦点を当てています。オープンウェイトモデル（Mistral、DeepSeekなど）は規制の盲点に落ちます。ウェイトがリリースされると、下流の安全義務を強制する方法はありません。」
現在のAIモデル規制枠組みは単一の責任あるデプロイヤーを想定していますが、オープンソースにはそれがありません。それが本当の話です。規制当局は中央集権的な世界に向けてルールを書いていますが、エコシステムは分散化しているとVigorosoは言います。
このアライアンスの意図する行動についての詳細な運用情報は現在ほとんどありませんが、NvidiaはOpen Secure AI Allianceに確かな研究を提供し、新しいサイバーセキュリティツールと技術の開発を加速すると強調しています。
オープンソースのNvidia Labs Object-Oriented Agent（NOOA）プロジェクトが現在GitHubで利用可能になり、エージェントハーネス向けの高度なAI安全機能をよりアクセスしやすくしています。この研究フレームワークにより、ハーネスはモデルと統合し、エージェントの動作をより簡単にテスト、トレース、監査、ガバナンスできるようになります。
本人確認とエンドツーエンド暗号化企業AtsignのCEO、Aparna RayasamはThe New Stackに対し、「AI電撃戦の議論は重大な転換点に達した」と述べています。この瞬間、私たちはRayasamが「レガシーでスイスチーズのようなインフラ」と呼ぶものの上に、次の時代のオープンな認知イノベーションを構築することはできません。
Rayasamは「Open Secure AI Allianceの設立は、AI安全性が単なるアルゴリズムの数学問題ではなく、基本的なネットワーキング問題であることを証明しています」と述べています。「最新のAIを訓練し実行するために必要な大規模で分散されたパイプラインは、まったく新しい信頼のパラダイムを要求します。真の安全性とは、これらのモデルにデータを供給するデータパイプラインが本質的に不可視で、攻撃不可能で、オープンネットワーク境界を完全に排除されていることを保証することを意味します。」
ここでの重要な概念は、データを静止状態で保護する世界から、AIの結合組織が設計上安全でなければならない世界に移行しているということです。
エージェント型アイデンティティおよびパーミッションセキュリティ企業Recoの創業者兼CPO、Gal NakashはThe New Stackに対し、Open Secure AI Allianceの立ち上げは「重要なシグナル」であり、AIセキュリティが単一のベンダーや単一のクローズドフレームワークで解決できない理由を強調していると述べています。
「Jensen Huangの、すべてのSaaS企業がGaaS企業になるという指摘は、これが今重要である理由を捉えています。ソフトウェアは、人々がログインする受動的なツールから、データにアクセスし、アクションを起こし、ワークフローを実行するAIエージェントへと移行しています」とNakashは言います。「オープンソースツールと共有標準は業界のスピードアップに役立ちますが、それらはアイデンティティ、パーミッション、データアクセス、行動にわたる実際のエンタープライズコンテキストに根ざしている必要があります。」
自動化されたアイデンティティ駆動型マイクロセグメンテーション企業Zero NetworksのフィールドCTO、Chris BoehmはThe New Stackに対し、Open Secure AI Allianceのニュースは以前どこかで見たことがあるような気がすると述べています。
「これはMicrosoftのTrusted Platform Module（TPM）の話の再現のように見えます」とBoehmは言います。「業界団体が信頼できるハードウェアの意味を定義し、プラットフォームベンダーがそれを採用し、数年以内に調達要件になるというケースです。」彼は「Windows 11はTPM 2.0とSecure Bootでまさにそれを行った」と説明し、LinuxとAppleも適応したと述べています。「AIインフラでも同じことが起こると予想します。認定されたシリコンが規制対象ワークロードの最低要件となり、ベンダーリストはそれを満たせる者だけに絞られるでしょう」とBoehmは予測しています。
オープンテクノロジー団体OpenUKのCEO、Amanda BrockはThe New Stackに対し、Open AI Allianceは間違いなく素晴らしい出発点であり、特に先週OpenAIがセキュリティ問題を明らかにしたことを考えると、そうだと言います。
「しかし、オープンウェイトに関する米国のリーダーシップに関する公開書簡と同様に、これは米国の課題に対する米国の対応です」とBrockは言います。「大統領令によるオープンモデルの閉鎖の噂は数週間前から流れており、トランプ政権が中国のKimi K3をめぐって混乱に陥っていることでさらに悪化しています。」
このアライアンスが成功するためには、Brockは米国中心の創設メンバーを超えた、より「グローバルで地理的に包括的なアプローチ」を取る必要があると主張しています。
「また、AIのインフラ、エージェント型ハーネス機能、開発者ツールを構築している個人やイノベーターのオープンソースエコシステムを巻き込む必要があります。オープンなAIインフラ開発は、イノベーションを多数の手に委ね、フロンティアモデルの少数の企業作成者に直接対抗するものであることを認識することが重要です」とBrockは付け加えています。
NvidiaのBoitanoはBrockの見解に同調しています。The New Stackが草稿をレビューしたブログ記事で、彼は「オープンモデルはより多くのAIユーザーをAIビルダーに変える」と書き、機会を拡大し、イノベーションを加速し、進歩が少数の組織や地域に集中するのを防ぐと述べています。
Boitanoは、オープンモデルはAIシステムの動作に関する独立した科学研究を可能にし、研究者がそれらを理解、評価、改善できるようにすると述べて締めくくっています。それはすべて、彼が広範で継続的な防御を可能にすると呼ぶものに関するものです。
今後、AI安全団体、運動、アライアンスの次の波は、単なるモデル監査人ではなく、アイデンティティ確認、コンテンツの来歴、信頼性などを含む信頼インフラ基準団体になり、ガバナンスとコンプライアンスに借用されたアプローチを使用するでしょう。最終的に、これはオープンウェイトの拡散を生き残る唯一の執行層かもしれません。