エージェンティックAIシステムの実行時ガバナンスのための義務ポリシー

大規模言語モデル（LLM）によって駆動される自律エージェンティックAIシステムの台頭により、企業は新たなセキュリティ、プライバシー、コンプライアンスの課題に直面しています。これらのエージェントはツールの呼び出し、データの操作、ソフトウェアのインストール、組織境界を越えたピアエージェントとの連携が可能であり、認証やアクセス制御だけでなく、企業ガバナンスの全構造によって制約される必要があります。これには、エージェントが許可・禁止される行動、特定の行動後に義務付けられる行動（例：CISOへの通知）、義務が免除される条件、ポリシー競合時の優先順位などが含まれます。

現在のポリシーエンジン（XACML、Rego、Cedarなど）は、このガバナンス構造のうち許可/禁止のサブセットのみを扱います。これらは義務ライフサイクル管理、メタポリシー競合解決、特定状況における義務の免除、および医療、サイバーセキュリティ、データプライバシーなどで一般的なドメインクラス階層に対するオントロジー推論を提供しません。このギャップを埋めるため、研究者らはAgenticReiを提案しました。AgenticReiは、Reiフレームワークに基づく義務ポリシー言語を採用し、OWL（Web Ontology Language）で表現され、LLM外部の高性能論理エンジンによって実行時に評価されます。同一パイプラインがエージェントのツール呼び出しとエージェント間メッセージの両方を統治します。

論文では、義務ポリシーが現在のプロダクションエンジンでは表現できないセキュリティとプライバシーに関するガバナンス制約を捉えられることを例示しています。たとえば、エージェントが機密データにアクセスした後は監査ログを記録しなければならない、異常なアクティビティを検出した場合はセキュリティチームに通知しなければならない、といった義務です。これらの義務は緊急時などの状況に応じて免除されることもあります。さらに、AgenticReiはA2ASなどの業界標準フレームワークと自然に統合でき、既存システムへの導入が容易です。

著者ら（Anupam Joshi他）による本論文は、2026年のIEEE Symposium on Agentic Services（IEEE Conference on Web Servicesの一部）で発表予定です。この研究は、AIの安全なガバナンスに新たな理論的基盤と実用的ツールを提供し、特に金融、医療、重要インフラなど、細粒度のポリシー制御が必要な分野での応用が期待されます。