Show HN: OpenCode用静的検証ツールを構築し、安全でないAIツール呼び出しを防止

最近、開発者のAlbert Joseph氏は、OpenCodeプロジェクト向けの静的フォーマル検証プラグインGuardiansをオープンソースとして公開しました。このプラグインは、AIがツール呼び出しを実行する際の安全でない動作を防止することを目的としています。Erik Meijer氏がCACMに発表した論文「Guardians of the Agents」のアイデアに基づき、コードとデータの分離、Z3を使用したパス包含分析、秘密汚染分析、およびセキュリティオートマトン状態機械を実装しています。

Guardiansの動作原理は、OpenCodeのAIループに検証ステップを挿入することです。AIがツール呼び出し（bash、read、edit、writeなど）を提案すると、OpenCodeはフックをトリガーし、リクエストをローカルのGuardians Python検証サイドカーデーモンに送信します。このデーモンはZ3ソルバーを使用してパス包含チェックを行い、パストラバーサル攻撃（../../../../etc/passwdなど）を防止します。同時に、機密ファイル（.env、credentials.json、id_rsaなど）の読み取り要求を検出し、これらの機密情報が他のファイルやコマンド文字列に漏洩するのを防ぎます。さらに、セキュリティオートマトンは操作の順序を強制し、ファイル編集を許可する前にファイル読み取りまたはリスト操作を要求します。

検証が失敗した場合、ツールの実行は中断され、違反情報がAIにフィードバックされ、AIが動作を調整できるようになります。検証が成功した場合、ツールは正常に実行されます。この設計により、ファイルシステムへのアクセスを制御する必要がある自動化シナリオにおいて、AIツール呼び出しのセキュリティを大幅に強化できます。

インストールは比較的簡単で、ユーザーはopencode.jsonにプラグインを登録し、プロジェクトをクローンしてPython検証サイドカーデーモンを起動するだけです。本プロジェクトはMITライセンスで公開されており、検証コアは上流のGuardiansリポジトリをgitサブモジュールとして利用しています。

このプラグインの登場により、OpenCodeユーザーは効果的なセキュリティ防御線を手に入れ、AI駆動の自動化タスクにおける誤操作や悪意ある攻撃のリスクを低減できることが期待されます。