AIエージェントのランタイムガバナンス：パス上のポリシー

論文「AIエージェントのランタイムガバナンス：パス上のポリシー」は、Maurits Kapteinら3名の著者によって執筆され、2026年3月17日にarXivに提出されました。本論文は、大規模言語モデルを使用して計画、推論、行動するAIエージェントが、非決定的でパスに依存した振る舞いを生成し、設計時に完全にガバナンスできない問題に取り組んでいます。著者らは「ガバナンス」を、可能な限り高いタスク完了率と、エージェントの実行に伴う法的、データ漏洩、評判、その他のコストとの間の適切なバランスを取ることと定義しています。

重要なのは、実行パスが効果的なランタイムガバナンスの中心的な対象であるという主張です。著者らは、コンプライアンスポリシーを、エージェントID、部分パス、提案された次のアクション、組織状態を入力としてポリシー違反確率を出力する決定論的関数として形式化しました。さらに、プロンプトレベルの指示（システムプロンプト）と静的アクセス制御は、このフレームワークの特殊ケースであることを示しています。前者はパスを実際に評価せずに分布を形成し、後者はパスを無視する決定論的ポリシーを評価するため、可能なパスの一部しかカバーできません。

著者らは、ランタイム評価がパス依存ポリシーを扱うための一般的なケースであり、必要不可欠であると結論付けています。本論文では、AI Actに触発された具体的なポリシー例を提示し、参照実装について議論し、リスクキャリブレーションや強制コンプライアンスの限界などの未解決問題を特定しています。このフレームワークは、動的な適応とコンプライアンスが求められる複雑な環境において、AIエージェントの責任ある展開のための理論的基盤を提供します。