Anthropic 釋出開源框架，利用 AI 進行漏洞發現

Anthropic 近日釋出了一個開源參考實現框架，旨在利用其 AI 助手 Claude 實現自主漏洞發現與修復。該框架基於 Anthropic 與多個組織的安全團隊合作的實踐經驗，特別是在 Claude Mythos 預覽版釋出後的合作成果。框架包含一套互動式技能和自動化流水線，幫助開發者快速構建針對自身程式碼庫的漏洞查詢管道。

倉庫中提供了多種 Claude Code 互動式技能，包括 /quickstart、/threat-model、/vuln-scan、/triage、/patch 和 /customize。使用者可以在 Claude Code 中互動式地執行這些技能，它們僅涉及讀寫檔案，在互動模式下相對安全。此外，框架還包含一個自主參考流水線（harness），該流水線包含偵察、發現、驗證、報告和修補五個階段，目前預設針對 C/C++ 記憶體漏洞進行檢測，並使用 Docker 和 ASAN 構建。該流水線在 gVisor 沙箱中執行，以隔離執行環境，確保安全。

為了進一步提高安全性和減少誤報，Anthropic 還提供了託管產品 Claude Security，該產品可以跨多個專案掃描和修復漏洞，幷包含多階段驗證管道。對於希望自建管道的團隊，該開源框架是一個很好的起點。

框架提供了一個四步指南，幫助團隊逐步上手：第一步（第1天）構建威脅模型並執行首次靜態掃描和分類；第二步（第2天）在 C/C++ 庫上執行參考流水線；第三步（第3-5天）為自身目標定製流水線；第四步（第2周）開始自主掃描、分類和修補。

該框架的流水線包含七個階段：構建（編譯目標為帶 ASAN 的 Docker 映象）、偵察（分析輸入解析子系統）、發現（並行生成畸形輸入觸發崩潰）、驗證（在新容器中復現崩潰）、去重（比較並去重）、報告（生成結構化可利用性分析）和修補（生成並驗證修復）。整個流水線適用於多種漏洞型別和語言，使用者可透過 /customize 技能進行適配。

Anthropic 特別強調，該倉庫並非維護狀態且不接受貢獻，僅供學習和參考。使用者在使用時需注意沙箱配置和 API 金鑰設定。此外，團隊在定製流水線時，需要回答幾個關鍵問題：什麼訊號表明發現了漏洞（例如 ASAN 崩潰簽名）、漏洞利用的概念驗證是什麼樣子的（例如崩潰輸入檔案）、以及目標如何構建和執行（例如使用 Dockerfile）。透過這些步驟，團隊可以在兩週內建立自己的自主漏洞掃描能力。