Anthropic 發佈開源框架，利用 AI 進行漏洞發現

Anthropic 近日發佈了一個開源參考實現框架，旨在利用其 AI 助手 Claude 實現自主漏洞發現與修復。該框架基於 Anthropic 與多個組織的安全團隊合作的實踐經驗，特別是在 Claude Mythos 預覽版發佈後的合作成果。框架包含一套交互式技能和自動化流水線，幫助開發者快速構建針對自身代碼庫的漏洞查找管道。

倉庫中提供了多種 Claude Code 交互式技能，包括 /quickstart、/threat-model、/vuln-scan、/triage、/patch 和 /customize。用户可以在 Claude Code 中交互式地執行這些技能，它們僅涉及讀寫文件，在交互模式下相對安全。此外，框架還包含一個自主參考流水線（harness），該流水線包含偵察、發現、驗證、報告和修補五個階段，目前默認針對 C/C++ 內存漏洞進行檢測，並使用 Docker 和 ASAN 構建。該流水線在 gVisor 沙箱中運行，以隔離執行環境，確保安全。

為了進一步提高安全性和減少誤報，Anthropic 還提供了託管產品 Claude Security，該產品可以跨多個項目掃描和修復漏洞，幷包含多階段驗證管道。對於希望自建管道的團隊，該開源框架是一個很好的起點。

框架提供了一個四步指南，幫助團隊逐步上手：第一步（第1天）構建威脅模型並運行首次靜態掃描和分類；第二步（第2天）在 C/C++ 庫上運行參考流水線；第三步（第3-5天）為自身目標定製流水線；第四步（第2周）開始自主掃描、分類和修補。

該框架的流水線包含七個階段：構建（編譯目標為帶 ASAN 的 Docker 鏡像）、偵察（分析輸入解析子系統）、發現（並行生成畸形輸入觸發崩潰）、驗證（在新容器中復現崩潰）、去重（比較並去重）、報告（生成結構化可利用性分析）和修補（生成並驗證修復）。整個流水線適用於多種漏洞類型和語言，用户可通過 /customize 技能進行適配。

Anthropic 特別強調，該倉庫並非維護狀態且不接受貢獻，僅供學習和參考。用户在使用時需注意沙箱配置和 API 密鑰設置。此外，團隊在定製流水線時，需要回答幾個關鍵問題：什麼信號表明發現了漏洞（例如 ASAN 崩潰簽名）、漏洞利用的概念驗證是什麼樣子的（例如崩潰輸入文件）、以及目標如何構建和運行（例如使用 Dockerfile）。通過這些步驟，團隊可以在兩週內建立自己的自主漏洞掃描能力。