可驗證的自主基礎設施：面向主權AI系統的證明派生授權

自主AI代理的興起正在顛覆傳統的授權正規化。現代雲和企業系統普遍採用基於身份的授權模型——只要呼叫者持有有效憑證，就假定其操作是安全的。然而，自主AI代理能夠生成語法上有效但在語義上不安全的操作，這使得靜態許可權成為重大的運營風險，尤其是在主權AI系統中，自主代理可能與雲基礎設施、受監管資料、金融工作流以及國家級數字服務進行互動。

為了應對這一挑戰，研究人員提出了一種名為“分散式信任框架”（Distributed Trust Framework, DTF）的驗證框架，用於治理突變系統。DTF透過結構化、可驗證的工件來推導執行許可權，從根本上改變了授權的基礎。該框架引入了四個關鍵元件：正當性證明（Justification Proof），用於編碼操作的可接受性依據；共識模型，支援獨立評估；臨時執行身份（Execution Identity），由已批准的證明派生而來；以及僅追加證據鏈（Evidence Chain），用於儲存授權生命週期。在這些元件的作用下，DTF實施了一個緊湊的授權不變性：沒有證明物件，不得執行高風險操作；沒有達成共識，不得派生許可權；沒有證據關聯，不得進行有效突變。

論文進一步將DTF例項化在基於OpenKedge的治理突變基板上，並展示了其如何對映到雲原生環境。透過將授權從靜態身份轉向證明派生的許可權，DTF為主權AI部署中代理執行的可治理性、可審計性和邊界性提供了基礎設施基礎。該研究由Jun He等人完成，論文發表在arXiv上，共19頁，包含2張圖和4張表，主題涵蓋人工智慧（cs.AI）和機器學習（cs.LG）。

DTF的設計特別關注了主權AI場景下的信任邊界問題。在傳統系統中，授權決策通常基於呼叫者的身份，但自主代理的行為具有不可預測性，使得身份不再可靠。DTF透過引入共識機制和證據鏈，使得每一次授權決策都可驗證、可追溯。例如，當代理提出意圖時，基礎設施首先收集上下文資訊和策略，然後透過共識模型評估該意圖是否合理，只有經過多個獨立驗證者確認後，才會生成臨時的執行身份。這種機制確保了即使代理被攻破，也無法在無授權的情況下執行危險操作。

此外，DTF的僅追加證據鏈為事後審計提供了完整記錄。所有授權生命週期中的事件都被不可篡改地儲存，這滿足了監管合規的要求。在金融工作流或國家數字服務中，這種可審計性至關重要。研究者還展示了DTF在Kubernetes等雲原生環境中的對映方案，表明其具有實際部署的可行性。總之，DTF為構建可信的自主AI基礎設施提供了一種創新的思路，有望成為未來主權AI系統的關鍵元件。