SafeAI：AIエージェント向けオープンソースの静的リスク分析ツール

SafeAIは、AIエージェントシステム向けに設計されたオープンソースの静的リスク分析ツールであり、開発者がデプロイ前にソースコード中のセキュリティリスク、機能露出、ガバナンスのギャップを発見できるようにします。従来のアプリケーションセキュリティツール（SAST、SCAなど）とは異なり、SafeAIはプロンプトインジェクション、エージェントツールの悪用、機能の蔓延、MCP露出、ガバナンスの欠如など、AIエージェント固有のリスク面に焦点を当てています。

このツールは完全にオフラインで動作し、エージェントコードを実行したり大規模言語モデルを呼び出したりしないため、分析プロセスは安全で制御可能です。LangGraph、CrewAI、LangChain、Semantic Kernel、OpenAI Agents SDK、Microsoft Agent Framework、Azure AI Foundry、Bedrock Agentの8つの主要AIフレームワークを解析し、ノード、ツール、モデルなどのフレームワーク固有情報を抽出します。

SafeAIの中核機能には、フレームワーク検出、機能発見、AIリスク分析、プロンプトリスク分析、ツール分析、メモリ分析、MCP分析、データ漏洩検出、CI/CD統合が含まれます。AST解析、機能パターンマッチング、依存関係スキャンにより、発見されたフレームワークオブジェクトをリスクカテゴリにマッピングし、ルールエンジンを介して信頼スコア（0～100）を生成します。サポートされる機能は、シェル実行、ファイルシステムアクセス、ブラウザ自動化、計画/オーケストレーション、エージェント委任、メモリ/チェックポイント、RAG検索、GitHub/Slack/Email統合、データベースアクセス、クラウドサービス、外部API、MCPサービスなど多岐にわたります。

出力面では、SafeAIはターミナルサマリー、JSON、SARIF 2.1.0、HTMLレポートをサポートし、GitHub Actions、GitLab CI、Azure DevOpsなどのCI/CDパイプラインに直接統合できます。SARIF出力はGitHub Advanced SecurityやAzure DevOpsなどのプラットフォームと互換性があります。

SafeAIのインストールにはPython 3.11または3.12とPyYAMLが必要です。ソースからインストールした後、コマンドラインでスキャンを実行できます。出力形式や失敗しきい値などのオプションが豊富に用意されています。サンプル出力にはリスクスコアと検出結果の詳細が表示されます。

SafeAIは現在初期プレビュー段階にあり、Apache 2.0ライセンスで公開され、コミュニティの貢献を歓迎しています。プロジェクトロードマップは、静的リスクスキャンからエンタープライズソリューションまでの複数フェーズを計画しており、AI能力とリスク分析のためのオープンな基盤となることを目指しています。