Open Secure AI Alliance、AIセキュリティ対策をオープンソース化へ

Nvidia、Hugging Face、IBM、Red Hat、Microsoft、xAIなどが参加するOpen Secure AI Allianceは、AIセキュリティ防御のためのオープンソースツールとフレームワークを提供することで業界全体のセキュリティ強化を目指す。この連合の結成は、クローズドなモデルのセーフティフィルターがインシデント対応者と侵入者を区別できず、特定ベンダーに固定された防御側が修正を待つか速度が重要なタイミングで可視性を失うしかなかったという具体的な事件に端を発する。Hugging Faceは独自の代替手段を持っていたが、すべての企業が研究ラボのように予備のモデルウェイトを持つわけではない。このギャップを埋めることが、オープンフロンティアモデルを趣味の開発者向けのニッチな選択肢ではなく、インフラストラクチャとして扱うべきとするメンバーの主張である。

ただし、アライアンスはオープンモデルのリスクを否定しない。防御側が検査できるウェイトは、攻撃側も検査し、保護を剥奪したり悪用にファインチューンしたりできる。しかし、クローズドなウェイトもリスクを排除するわけではなく、ベンダーのアクセス制御の背後に隠すだけだとする。アライアンスは、開放性と評価、監視、迅速なパッチ適用を組み合わせることで、アクセス制限よりも防御側に大きな能力を与えると主張する。

貢献はモデル層より下のガバナンス層に集中している。NvidiaはNOOAプロジェクトを公開。これはエージェントのハーネス層に特化し、モデルが許可されたアクションの間のソフトウェアを対象とし、エージェントの行動を追跡・テスト・監査・ガバナンスしやすくする。HPEはSPIFFE/SPIRE IDフレームワークを提供し、ワークロードに暗号IDを付与してエンタープライズリソースへのアクセスを検証する。Hugging FaceはSafetensors形式をPyTorch Foundationに寄贈し、古いファイル形式におけるリモートコード実行の経路に対処。IBMとRed HatのLightwellプロジェクトはオープンソースサプライチェーンにデジタル署名パッチを適用。MicrosoftはMDASHスキャンハーネスを提供し、複数の専門エージェントがコードを分析して悪用可能なバグを証明する。xAIはGrok Buildコーディングエージェントをオープンソース化し、Grokモデルラインのウェイトを研究者に公開する計画を発表した。

アライアンスの主張は政策立案者に向けられている。オープンウェイト、ハーネス、セキュリティツールを防御側が依存する資産とみなし、デフォルトで制限するカテゴリーとしないよう求める。オープンフロンティアモデルへの一律規制は、AI防御能力を少数のクローズドベンダーに集中させ、Hugging Faceがインシデントで利用した選択肢を排除すると主張する。しかし、この論拠はさらなる事例に依存する。設立文書は単一の文書化されたインシデントと、今週リリースされたばかりで実戦経験のないいくつかのコントリビューションに依存している。NOOAはまだGitHub上の研究フレームワークであり、メンテナンス契約のあるサポート製品ではない。メンバーは、オープンエージェントスタックがデフォルトの選択肢となる前に、Hugging Faceのような回復事例をさらに必要とするだろう。