面向執行時Agentic AI系統治理的義務政策
一篇新論文提出了AgenticRei，這是一個義務政策框架，用於治理LLM驅動的自主智慧體，解決了當前訪問控制引擎無法處理的義務、豁免和策略衝突問題。
隨著大語言模型（LLM）驅動的自主AI智慧體（Agentic AI）的興起，企業面臨著一系列新的安全、隱私和合規挑戰。這些智慧體能夠呼叫工具、運算元據、安裝軟體，甚至跨組織邊界與同伴智慧體協調，因此僅靠身份驗證和訪問控制已不足以約束它們。企業需要一套完整的治理結構，明確智慧體被允許和禁止的行為、在特定操作後必須履行的義務（如通知CISO）、在何種條件下可以豁免義務，以及當策略衝突時哪些規則優先。
當前的政策引擎，如XACML、Rego和Cedar，只處理了治理結構中的允許/禁止子集。它們缺乏義務生命週期管理、元策略衝突解決、針對特定情況的豁免（dispensations）以及對領域類層次（如醫療、網路安全、資料隱私）的本體推理能力。為了填補這一空白，研究人員提出了AgenticRei框架。AgenticRei基於Rei框架，使用OWL（Web本體語言）表達義務策略，並在LLM外部透過高效能邏輯引擎進行執行時評估。同一管道同時管理智慧體的工具呼叫和智慧體間的訊息傳遞。
透過多個示例，論文展示了義務策略能夠捕捉當前生產引擎無法表達的安全和隱私治理約束。例如，當智慧體訪問敏感資料後，必須記錄審計日誌；或者當檢測到異常活動時，必須通知安全團隊。這些義務還可以根據上下文被豁免，例如在緊急情況下。此外，AgenticRei能夠自然與行業標準框架（如A2AS）整合，使其易於部署在現有系統中。
論文作者包括Anupam Joshi等人，將於2026年IEEE服務型代理研討會（IEEE Symposium on Agentic Services）上發表。該研究為AI安全治理提供了新的理論基礎和實用工具，尤其適用於需要細粒度策略控制的場景，如金融、醫療和關鍵基礎設施。