Guard-AI：AI生成代碼的安全檢查工具

大語言模型（LLM）在生成代碼方面表現出色，但同時也引入了獨特的安全風險。Guard-AI 是一款專門針對這些風險設計的自動化安全檢查工具，它能夠在代碼投產前捕捉由AI生成的漏洞、幻覺依賴項以及代碼截斷問題，從而避免潛在的安全隱患。

該工具的核心功能之一是檢測“幻覺依賴包”（即slopsquatting）。LLM經常捏造不存在的PyPI或NPM包名，攻擊者隨後註冊這些名稱，發動供應鏈攻擊。Guard-AI 能夠識別這些偽造的包名，並通知開發者。此外，工具還能檢測硬編碼的密鑰佔位符，例如“openai_key = your_openai_key_here”，防止開發者意外將這些敏感信息提交到代碼庫中。另一個重要功能是識別被截斷的代碼註釋，避免不完整的代碼片段進入生產環境。

Guard-AI 支持多種編程語言，包括Python、JavaScript/TypeScript以及package.json文件。為了實現高效的查詢，它使用SQLite作為本地註冊表查找引擎，並具有24小時緩存，避免了API速率限制。工具採用智能過濾技術，能夠識別Python標準庫、Node內置模塊和本地模塊結構，從而做到零誤報。

對於CI/CD集成，Guard-AI 提供了自定義退出閾值（例如 --fail-on HIGH）和結構化JSON輸出，便於自動化流水線處理。此外，它還具備忽略規則引擎，默認忽略 .venv、node_modules 等目錄，並支持 .gitignore 和 .guardignore。

快速開始非常簡單：通過 pip install . 即可安裝。如果需要將Guard-AI集成到預提交鈎子中，只需在項目中的 .pre-commit-config.yaml 添加相關配置，即可在每次提交前自動運行檢查。