跳到主要內容
AI News HubLIVE
站內改寫2 分鐘閱讀

操作化重構權限:自主智能體系統中的運行時構造、依賴解析與執行門控

文章摘要

本文提出一種運行時執行模型,在自主智能體系統中強制執行重構權限(RAM)條件:僅當能從當前狀態構造出權限時,才允許執行動作。該模型擴展了傳統“允許/拒絕”二元狀態,引入“暫停”狀態以處理因觀測不完整或不確定而權限未定義的情況。具體執行協議包括動態依賴解析、權限重構和顯式決策語義。此外,通過集成漂移檢測(IML)與執行控制(ACP)的恢復循環,系統可暫停執行、獲取缺失信息並重新嘗試權限重構。實驗證明該模型保證了安全性(無動作在無構造權限時執行)和有條件的活性(當權限定義變量可觀測時恢復執行)。

來源arXiv AI作者: Marcelo Fernandez - TraslaIA
操作化重構權限:自主智能體系統中的運行時構造、依賴解析與執行門控
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

自主智能體系統在執行任務時,不僅會因做出錯誤決策而失敗,還可能因為執行了一個在運行時其權限已不再有效的決策而失敗。先前的研究將“重構權限”(Reconstructive Authority, RAM)定義為有效執行的條件:僅當能夠從當前系統狀態中構造出權限時,才允許執行動作。然而,如何在實際運行的系統中強制執行這一條件,一直是一個開放問題。近日,一篇發表於arXiv的論文(編號:2605.23935)提出了一個運行時執行模型,旨在解決這一難題。

該模型的核心在於,在動作執行時評估權限,並將執行動作的條件限定為權限的可構造性。傳統系統的執行狀態空間通常只有“允許”和“拒絕”兩種狀態,而新模型引入了第三種狀態——“暫停”。當系統觀測不完整或存在不確定性,導致權限無法被明確界定時,系統會進入暫停狀態,等待進一步信息。

論文定義了一個具體的執行協議,該協議包含動態依賴解析、權限重構以及顯式的決策語義。動態依賴解析確保系統在執行前能正確識別並獲取所有必要的權限依賴項。權限重構則是根據當前狀態重新構建出授權依據。顯式的決策語義則明確了在何種條件下系統應選擇允許、拒絕或暫停。

進一步地,研究團隊引入了一個“恢復循環”,將漂移檢測(IML)與執行控制(ACP)相結合。當系統檢測到環境或內部狀態發生漂移,可能導致權限失效時,恢復循環會自動觸發:系統暫停執行、主動獲取缺失的信息,然後重新嘗試權限重構。這個過程可以反覆進行,直到權限變得可構造或最終失敗。

論文通過形式化證明展示了該模型的安全性:沒有任何動作會在沒有可構造權限的情況下被執行。同時,模型還保證了有條件的活性:一旦那些定義權限的變量變得可觀測,執行將恢復。這一工作將重構權限從一個理論概念落實為一種運行時強制機制,為在實際系統中應用RAM提供了所需的執行語義。

該論文屬於“Agent治理系列”的第六篇(P6),相關先序工作已發佈於arXiv(P0-P2),P3/4和P5同步提交。配套代碼和數據可通過Zenodo獲取。感興趣的讀者可在arXiv上查閲完整論文。

展開要點與分析

文章情報

工程師中級

要點

  • 自主智能體系統失敗不僅源於錯誤決策,還因執行了運行時權限已失效的決策。
  • 新模型引入第三狀態“暫停”,應對權限因觀測不確定性而無法定義的情況。
  • 恢復循環結合漂移檢測與執行控制,在權限缺失時暫停執行、獲取信息並重試。
  • 形式化證明該協議保證安全性與有條件的活性。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。