自主智能體系統在執行任務時,不僅會因做出錯誤決策而失敗,還可能因為執行了一個在運行時其權限已不再有效的決策而失敗。先前的研究將“重構權限”(Reconstructive Authority, RAM)定義為有效執行的條件:僅當能夠從當前系統狀態中構造出權限時,才允許執行動作。然而,如何在實際運行的系統中強制執行這一條件,一直是一個開放問題。近日,一篇發表於arXiv的論文(編號:2605.23935)提出了一個運行時執行模型,旨在解決這一難題。
該模型的核心在於,在動作執行時評估權限,並將執行動作的條件限定為權限的可構造性。傳統系統的執行狀態空間通常只有“允許”和“拒絕”兩種狀態,而新模型引入了第三種狀態——“暫停”。當系統觀測不完整或存在不確定性,導致權限無法被明確界定時,系統會進入暫停狀態,等待進一步信息。
論文定義了一個具體的執行協議,該協議包含動態依賴解析、權限重構以及顯式的決策語義。動態依賴解析確保系統在執行前能正確識別並獲取所有必要的權限依賴項。權限重構則是根據當前狀態重新構建出授權依據。顯式的決策語義則明確了在何種條件下系統應選擇允許、拒絕或暫停。
進一步地,研究團隊引入了一個“恢復循環”,將漂移檢測(IML)與執行控制(ACP)相結合。當系統檢測到環境或內部狀態發生漂移,可能導致權限失效時,恢復循環會自動觸發:系統暫停執行、主動獲取缺失的信息,然後重新嘗試權限重構。這個過程可以反覆進行,直到權限變得可構造或最終失敗。
論文通過形式化證明展示了該模型的安全性:沒有任何動作會在沒有可構造權限的情況下被執行。同時,模型還保證了有條件的活性:一旦那些定義權限的變量變得可觀測,執行將恢復。這一工作將重構權限從一個理論概念落實為一種運行時強制機制,為在實際系統中應用RAM提供了所需的執行語義。
該論文屬於“Agent治理系列”的第六篇(P6),相關先序工作已發佈於arXiv(P0-P2),P3/4和P5同步提交。配套代碼和數據可通過Zenodo獲取。感興趣的讀者可在arXiv上查閲完整論文。