SafeAI：面向AI代理的開源靜態風險分析工具

SafeAI 是一個專為AI代理系統設計的開源靜態風險分析工具，旨在幫助開發者在部署前發現原始碼中的安全風險、能力暴露和治理缺口。與傳統的應用安全工具（如SAST、SCA）不同，SafeAI 專注於AI代理特有的風險面，包括提示注入、代理工具濫用、能力擴散、MCP暴露以及治理缺失等。

該工具完全離線執行，不執行代理程式碼也不呼叫大型語言模型，確保分析過程安全可控。它能夠解析八種主流AI代理框架，包括LangGraph、CrewAI、LangChain、Semantic Kernel、OpenAI Agents SDK、Microsoft Agent Framework、Azure AI Foundry和Bedrock Agent，並從中提取框架特定資訊，如節點、工具、模型等。

SafeAI 的核心功能包括框架檢測、能力發現、AI風險分析、提示風險分析、工具分析、記憶體分析、MCP分析、資料洩露檢測以及CI/CD整合。它透過AST解析、能力模式匹配和依賴掃描，將發現的框架物件對映到風險類別，並透過規則引擎生成信任評分（0-100）。支援的能力涵蓋shell執行、檔案系統訪問、瀏覽器自動化、規劃編排、代理委託、記憶體/檢查點、RAG檢索、GitHub/Slack/Email整合、資料庫訪問、雲服務、外部API以及MCP服務等。

在輸出方面，SafeAI 支援終端摘要、JSON、SARIF 2.1.0和HTML報告，並可直接整合到GitHub Actions、GitLab CI和Azure DevOps等CI/CD管道中。其SARIF輸出相容GitHub Advanced Security和Azure DevOps等平臺。

安裝SafeAI需要Python 3.11或3.12以及PyYAML。使用者可以從原始碼安裝，然後透過命令列執行掃描。SafeAI提供豐富的選項，如指定輸出格式和失敗閾值。示例輸出顯示了風險評分和發現的詳細資訊。

SafeAI目前處於早期預覽階段，遵循Apache 2.0許可證釋出，並鼓勵社群貢獻。專案路線圖規劃了從靜態風險掃描到企業級解決方案的多個階段，旨在成為AI能力和風險分析的開源基礎。