業界リーダーが集結、AIの安全性とセキュリティのためのオープンセキュアAIアライアンスを発足

オープンソースソフトウェアは世界経済の重要な柱であり、クラウドコンピューティング、金融サービス、製造、通信、政府、インターネットサービスを支えています。サイバーセキュリティはオープンソースソフトウェアの主要な受益者の一つです。オープンセキュアAIアライアンスは、Linux FoundationのAkritesイニシアチブとOpenSSFコミュニティの活動に基づき、オープンテクノロジーを使用して脆弱性の修復と開示に取り組みます。

オープンソースがソフトウェアの共有基盤を築いたように、米国とそのパートナーは現在、AIセキュリティにおいて選択を迫られています。それは、インフラを保護する防御が少数の不透明なシステム内に留まるのか、それとも防御者が研究、適応、展開できるオープンモデル、ハーネス、ツールの上に構築されるのかという選択です。

世界はクローズドモデルとオープンモデルの両方を必要としています。サイバーセキュリティにとって、オープンモデルとオープンハーネスは不可欠です。なぜなら、それらは防御能力を民主化し、防御者の透明性を高め、データを保護しながらサイバー防御を可能にし、カスタマイズ可能でローカライズされた制御でフロンティアクローズドモデルを補完するからです。オープンソースは、大規模に分散されたコミュニティ駆動の自己制御防御を実現し、単一障害点を持ちません。

オープンモデルは、他の強力な技術と同様に、保護の弱体化やサイバー攻撃への転用など、悪用される可能性があります。しかし、これらのリスクはオープンシステムに固有のものではなく、高度なAIが展開される場所ではどこでも管理されなければなりません。

最近のHugging Faceセキュリティインシデントは明確な警告を発しました。サイバー防御者には、自己防御のためのオープンでフロンティアなエージェントシステムが必要です。クローズドAIツールが攻撃者と防御者を区別できず、重要なフォレンジック分析を妨げたとき、Hugging Faceは自社インフラ上でオープンウェイトのGLM 5.2モデルを実行し、17,000以上のアクションを分析して侵入を封じ込めました。

このインシデントは実際の真理を示しました。防御者が自社インフラ上で高度なAIを検査、適応、実行できない場合、最もスピードが求められる瞬間にその対応能力が制限されるのです。企業や国々は、重要な産業がマルチベンダーエコシステム全体でセキュリティシステムを構築し、単一障害点を回避できるように、オープンなフロンティア防御ツールと技術を必要としています。

それがオープンセキュアAIアライアンスの使命です。つまり、世界中の防御者が信頼し制御できるオープンなフロンティアツールを確保することです。

クラウドコンピューティング、サイバーセキュリティ、エンタープライズソフトウェア、オープンソース財団、AI研究のリーダーたち——NVIDIA、Adobe、Cadence、Capital One、Cisco、Cloudera、Cloudflare、Cognition、CrowdStrike、Databricks、Dell Technologies、DoorDash、Elastic、HPE、Hugging Face、IBM、LangChain、Linux Foundation、Microsoft、NAVER、NetApp、Nous Research、OpenClaw、Palantir、Palo Alto Networks、Red Hat、Reflection AI、Salesforce、SAP、SK Telecom、ServiceNow、Siemens、Snowflake、SpacexAI、Synopsys、Thinking Machines Lab、TrendAI——がオープンセキュアAIアライアンスの創設パートナーとして参加しています。このアライアンスは、AI時代のソフトウェアとエージェントを保護するためのオープンテクノロジー、技術、ツールを開発し共有する運動です。

オープンモデルは、サイバー攻撃に悪用されたり、ガードレールを削除するために変更されたりする可能性があるため、本質的に安全性が低いと主張する人もいます。これらのリスクは現実のものですが、クローズドシステムでも消えるものではなく、単にウェイトを閉じても、決意のある攻撃者が強力なAIを求めたり悪用したりすることを防げません。

正しい対応は、防御者から有能なオープンシステムへのアクセスを拒否することではありません。それは、開放性と強力な保護、悪意のある誤用に対する明確なルール、厳格な評価、迅速な修復を組み合わせることです。サイバーセキュリティにおいて、より安全な道は、より多くの防御者が社会が依存するシステムをテスト、検証、強化できるようにするものです。

防御者には、フロンティアクローズドモデルとフロンティアオープンモデルの両方が連携して機能し、ジョブに適したシステムを選択でき、透明性、適応、主権的制御がセキュリティによって要求される場所で利用可能であることが必要です。

AIエージェントは単なる言語モデルではありません。それは、モデル、ハーネス、ガードレールから構築された複雑なシステムです。真のAI安全性とセキュリティは、モデルウェイトがオープンかクローズドかだけでなく、エージェントスタック全体（アイデンティティ、権限、ハーネス、ガードレール、ログ、評価）に依存します。オープンハーネスとツールは、多くの防御者がこれらの制御を検査、テスト、改善することを容易にします。

NVIDIAは、新しいサイバーセキュリティツールと技術の開発を加速するために、オープンモデル、モデルウェイト、データ、新しいエージェントハーネス研究をオープンセキュアAIアライアンスに提供しています。新しいオープンソースのNVIDIA Labs Object-Oriented Agent (NOOA) プロジェクトがGitHubで利用可能になり、エージェントハーネスのための高度なAIセキュリティ機能をよりアクセスしやすくします。NOOA研究フレームワークにより、ハーネスはモデルとより良く統合し、エージェントの動作をテスト、トレース、監査、ガバナンスすることが容易になります。

アライアンス全体で、貢献者はエージェントのためのオープン防御スタックを構築しています——アイデンティティと分離から、安全なモデル形式、マルチモデルスキャン、セキュアコーディングワークフローまで。

HPEはSPIFFE/SPIREに貢献し、AIエージェントとサービスを暗号的に検証し、許可されたワークロードのみが通信しエンタープライズリソースにアクセスすることを保証するゼロトラストアイデンティティフレームワークの標準と手法を作成しています。

Hugging FaceはSafetensors——AIモデルウェイトを保存する安全な形式で、透明性とリモートコード実行がないことを保証——をPyTorch Foundationに提供しました。

IBMとRed HatのLightwellは、デジタル署名されたパッチでオープンソースサプライチェーン全体のセキュリティを拡張します。

MicrosoftのMDASHマルチモデルエージェントスキャンハーネスは、専門のAIエージェントを組織化して、悪用可能なバグを発見、議論、証明します。

SpaceXAIは、信頼、透明性、新しい能力を促進するために、Grok BuildターミナルベースのAIコーディングエージェントをオープンソース化し、開発者と研究コミュニティをサポートするためにGrokシリーズのモデルウェイトをオープンソース化する計画です。

政策立案者と規制当局への呼びかけ：AI安全性に取り組む中で、AIとサイバーセキュリティ政策において、オープンモデル、ハーネス、セキュリティツールを防御資産として認識し、負債として扱わないことが重要です。オープンフロンティアAIシステムへの包括的な制限は、防御能力を弱め、少数のクローズドプロバイダーに権力、依存、脆弱性を集中させるリスクがあります。

企業と政府は、過去の世代がオープンソースソフトウェアに投資したように、AI防御のための共有オープンインフラ——データセット、評価フレームワーク、攻撃シミュレータ、レッドチーミングツール——に投資すべきです。

私たちが構築すべき未来：AIエージェントの時代は、レジリエンスと共有セキュリティの時代になり得ます。正しい選択をすることで、オープンセキュアなAIシステムは防御者に必要なツールを提供し、競争を強化し、技術的リーダーシップを拡大し、この驚くべき技術の安全性とセキュリティが誰に対してもオープンに構築されることを保証できます。

その未来は、秘密が安全であると仮定することによってではなく、精査に耐えるほど強固で、改善できるほど柔軟で、防御者のコミュニティ全体を動員できるほどオープンなシステムを構築することによって確保されます。

その未来は構築する価値があります——オープンセキュアAIアライアンスは、政府、産業界、研究者が共にAI時代を守る取り組みに参加することを歓迎します。