本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

エージェント型AIシステムの実行時ガバナンスのための義務論的政策

記事の要約

本論文は、Reiフレームワークに基づきOWLで表現され、LLMの外部にある高性能論理エンジンで実行時に評価される義務論的政策手法AgenticReiを提案し、既存のポリシーエンジンが扱えない義務、免除、競合解決、オントロジー推論といった企業ガバナンス要件を補完する。

ソースarXiv AI著者: Anupam Joshi, Tim Finin, Karuna Pande Joshi, Lalana Kagal
エージェント型AIシステムの実行時ガバナンスのための義務論的政策
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

大規模言語モデルに駆動される自律型エージェントは、ツールの呼び出し、データの操作、ソフトウェアのインストール、さらには組織境界を越えた他のエージェントとの連携まで行えるようになっている。これにより、セキュリティ、プライバシー、コンプライアンスに関する新たな種類の課題が生じている。認証やアクセス制御だけではこうしたシステムを拘束できず、企業はガバナンスの全体構造をエージェントに適用する必要がある。具体的には、エージェントが何を許され何を禁じられるか、特定の行為の後にどのような義務を負うか(例えばCISOへの通知)、既存の義務がどのような条件で免除されるか、そして規則が衝突した際にどれが優先されるかを規定しなければならない。

論文は、この問題が現在のポリシーエンジンの能力を超えていると指摘する。XACML、Rego、Cedarといったシステムはガバナンス構造のうち許可と禁止の部分集合しか扱わず、義務のライフサイクル管理、メタポリシーにおける競合解決、特定の状況で義務を免除する仕組み、そして医療・サイバーセキュリティ・データプライバシーなどの応用で一般的なドメインクラス階層に対するオントロジー推論を提供しない。

そこで著者らはAgenticReiを提案する。これは義務、免除、ポリシー競合の解決、ポリシーに関する推論といった主要なガバナンス要件を、基本的な許可・禁止の制約とともに実現する。技術的には、Reiフレームワーク上に構築された義務論的ポリシー言語を用い、ポリシーをOWL(Webオントロジー言語)で表現し、実行時にLLMの外部にある高性能論理エンジンで評価する。これによりガバナンスの判断をモデル自体から切り離している。

注目すべき点は、同一のパイプラインがエージェントによるツール呼び出しとエージェント間のメッセージングの両方を統治し、双方のやり取りに一貫したポリシー制約を課すことである。著者らは具体例を通じて、義務論的ポリシーが現在の製品グレードのエンジンではほとんど表現できないセキュリティとプライバシーに関するガバナンス制約を捉えられることを示し、またこの手法がA2ASなどの業界標準フレームワークと自然に組み合わせられることを示している。

本論文はAnupam Joshiら4名による全10ページ・図1点の成果で、2026年IEEEサービスコンピューティング会議の一部であるIEEEエージェントサービスシンポジウムでの発表が予定されている。cs.AIおよびcs.MAに分類され、2026年6月17日にarXivへ投稿された。

要点と分析を開く

記事インテリジェンス

エンジニア中級

要点

  • XACML、Rego、Cedarは許可・禁止のみを扱い、義務のライフサイクル管理やメタポリシーの競合解決を欠く
  • AgenticReiは義務論的政策をOWLで表現し、LLMの外部で実行時に評価する
  • 同一のパイプラインがエージェントのツール呼び出しとエージェント間メッセージの双方を統治する
  • A2ASなどの業界標準フレームワークと自然に組み合わせられる

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。