Anthropic、AIを活用した脆弱性発見のためのオープンソースフレームワークを公開

Anthropicは、Claudeを活用した自律的な脆弱性発見と修正のためのオープンソースリファレンス実装を公開しました。このフレームワークは、Claude Mythos Previewのローンチ以降、複数の組織のセキュリティチームとの連携から得た知見に基づいています。リポジトリには、対話型スキルと自動化パイプラインが含まれており、開発者は自身のコードベースに合わせた脆弱性発見パイプラインを迅速に構築できます。

Claude Codeスキルには、/quickstart、/threat-model、/vuln-scan、/triage、/patch、/customizeがあり、ユーザーはClaude Code内でインタラクティブに実行できます。これらのスキルはファイルの読み書きのみを行い、対話モードでは比較的安全です。また、フレームワークには自律リファレンスパイプライン（harness）が含まれており、偵察、発見、検証、報告、修正の5段階で構成されています。現在はC/C++メモリ脆弱性の検出に最適化されており、DockerとASANを使用します。パイプラインはgVisorサンドボックス内で実行され、実行環境を分離して安全性を確保します。

Anthropicは管理型製品Claude Securityも提供しており、複数プロジェクトにわたる脆弱性のスキャンと修正、多段階検証パイプラインを備えています。自社でパイプラインを構築したいチームにとって、このオープンソースフレームワークは良い出発点となります。

フレームワークは4段階のガイドを提供しています。第1日目に脅威モデルを構築し初回の静的スキャンとトリアージを実行、第2日目にC/C++ライブラリでリファレンスパイプラインを実行、第3～5日目に自身のターゲット向けにカスタマイズ、第2週目に自律スキャン、トリアージ、パッチ適用を開始します。

パイプラインは7つの段階で構成されます。ビルド（ASAN対応Dockerイメージのコンパイル）、偵察（入力パースサブシステムの分析）、発見（並行して不正な入力を生成しクラッシュを誘発）、検証（新しいコンテナでクラッシュを再現）、重複排除（比較と重複除去）、レポート（構造化された悪用可能性分析の作成）、修正（修正の生成と検証）です。パイプラインはさまざまな脆弱性タイプや言語に対応可能で、/customizeスキルで適応できます。

Anthropicは、このリポジトリはメンテナンスされておらず、コントリビューションは受け付けていないと明記しています。ユーザーはサンドボックスの設定とAPIキーの設定に注意する必要があります。また、パイプラインをカスタマイズする際には、脆弱性のシグナル（例：ASANクラッシュシグネチャ）、概念実証の形式（例：クラッシュ入力ファイル）、ターゲットのビルド方法（例：Dockerfile）などの質問に答える必要があります。これにより、チームは2週間で自律的な脆弱性スキャン能力を構築できます。