Fable 5禁止後、Anthropicと19の組織がオープンソースセキュリティ組織を立ち上げ

フロンティアAIモデルが主要なオープンソースプロジェクトを一度にスキャンし、複数の脆弱性を発見できるようになったことで、防御側は驚くべきツールを手に入れましたが、攻撃者も同様にアクセスできます。現在、テクノロジーおよび業界の大手企業は、先行する唯一の方法は協力することだと賭けています。その結果がAkritesであり、木曜日にLinux Foundationによって立ち上げられ、重要なオープンソースソフトウェアの脆弱性発見、修正、開示を調整する組織です。創設メンバーは約20の組織に及び、AWS、Anthropic、Google、Microsoftおよびその子会社GitHub、OpenAI、Cisco、Red Hat、NVIDIA、Chainguard、Sonatype、Ericsson、Vodafone、Citi、JPMorganChaseが含まれます。この取り組みの名称は、ビザンツ帝国の最辺境を守った兵士であるアクリタイに由来し、最も露出が多く、最も頻繁に攻撃され、防御に現れる者に最も依存する場所を象徴しています。

この発表は、AIセキュリティの状況が不安定な時期に行われました。4月、AnthropicはProject Glasswingを通じてClaude Mythosをリリースし、最も高性能なモデルを少数の信頼できるパートナーにサイバーセキュリティ防御専用として提供しました。その後6月初め、AnthropicはFable 5とMythos 5をリリースしました。これは初の一般利用可能なMythosクラスのモデルで、悪用を防ぐためのガードレールが組み込まれていました。3日後、研究者がこれらを使用してサイバー攻撃を支援する方法を発見したため、米国政府は両方を停止しました。注目すべきは、AnthropicがAkritesの創設メンバーの一つであることです。

オープンソースのセキュリティモデルは長い間、緩やかで分散されたメンテナー、研究者、組織のネットワークに依存しており、問題をスキャンして報告していました。深刻な欠陥を見つけるのに数週間の専門作業が必要だった時代には、防御側は先手を打つ時間がありましたが、AIはそのギャップを縮めました。複数の組織が同じ広く使われているライブラリを独立してスキャンし、それぞれが報告書を提出すると、メンテナーは重複の壁に直面し、実際の悪用可能な発見がノイズに埋もれてしまいます。さらに悪いことに、未修正の脆弱性を知る関係者が増えるごとに、修正が存在する前に情報が漏れる可能性が高まります。

ソフトウェアサプライチェーンセキュリティ企業Endor LabsのCEO Varun Badhwar氏は、AIツールがここ数ヶ月で数千の検証済みオープンソース脆弱性を発見し、そのうち修正されたのは5%未満であると述べています（このデータは同社のもので、独立した検証はされていません）。難しいのは発見自体ではないと彼は言います。「何年もの間、脆弱性の発見が難しい部分ではないと信じてきました。修正が難しい部分でした。AIはそのギャップを無視できないものにしました。」

既存のモデル——各組織が独立して作業し、独自の報告書を提出する——こそが、Akritesが解決しようとしている問題です。Anthropicの副最高情報セキュリティ責任者Jason Clinton氏は、このモデルは単に時代遅れになったと主張します。「オープンソースプロジェクトはインターネットの多くを支えており、既存の協調開示モデルはAIが脆弱性を発見する速度に追いついていません。それに先んじるためには、業界が発見を調整し、開示され悪用される前に修正を上流に届ける必要があります。」

Akritesの核心は、業界の単一の調整ポイントとして機能する共有セキュリティインシデント対応チームです。メンテナーが同じ欠陥について複数の組織から数十の別々の報告を受け取る代わりに、SIRTが発見を統合し、どれが本物で悪用可能かを検証し、単一の調整された修正と開示プロセスを管理します。業界標準（CVE、CVSSなど）を使用し、報告が入った瞬間から厳格な機密ルールの下で運営されます。修正の準備ができたら、メンテナーの条件で元のプロジェクトに戻されます。アクティブなメンテナーがいないプロジェクトについては、Akritesがフォールバックとして介入し、コードに依存するすべての人が修正を受け取れるようにします。

JPMorgan ChaseのCISO Pat Opet氏は、成功はパッチが公開されることではなく、修正が本番システムに届くことで測定されるべきだと説明します。「AIは脆弱性の発見から悪用までの時間をほぼリアルタイムに圧縮しました。つまり、修正から展開までの時間を圧縮しなければなりません。メンテナーには、単一の信頼できるシグナル——確認された脆弱性、十分にテストされた修正案、信頼できる予測可能なパートナー——を提供する義務があります。重複し矛盾する報告の洪水ではありません。」

Akritesは、3つの階層で新しいメンバーに開かれています。Premier（重要インフラ事業者とその依存先ベンダー向け）、General（大規模なエンジニアリングリソースをコミットせずに貢献したい組織向け）、Associate（オープンソース財団とプロジェクト向け、無料）です。シード資金はAlpha-Omegaから提供されます。Alpha-OmegaはLinux Foundation傘下のOpen Source Security Foundation（OpenSSF）のプロジェクトで、Anthropic、AWS、Google、Microsoft、OpenAIなどが支援し、年間予算は700万ドルを超えます。MicrosoftのAzure CTO Mark Russinovich氏は、Alpha-Omegaが業界の協調行動が達成できることの証拠であると指摘しました。「OpenSSFとAlpha-Omegaは、業界が団結してオープンソースのセキュリティを強化するときに何が可能かを示しました。これらの組織の共同設立の経験を基に、AkritesはAIによる脆弱性発見と防御の新たな転換点に対処するために作られました。」