AI代理系統確定性重放框架agrepl

AI代理系統結合大語言模型（LLM）與外部工具和API，其執行因LLM取樣方差、外部API狀態、CDN基礎架構頭部和執行環境噪聲等非確定性因素而難以復現。arXiv近期發表的一篇論文提出了agrepl框架，旨在透過記錄和重放機制解決這一問題。

agrepl是一個面向開發者的CLI框架，透過在傳輸層使用中間人（MITM）代理攔截所有外部互動，將其序列化為結構化執行軌跡，然後在嚴格隔離的環境中重放，不允許任何出站網路訪問。該框架形式化了代理執行模型，定義了請求鍵匹配函式K(s)，並證明了確定性的不變性。

為了處理重放過程中HTTP頭部的差異，agrepl引入了噪聲感知的差異演算法，將頭部變化分為訊號和噪聲兩類。實證評估在五個工作負載上進行，共250次重放例項，結果顯示重放保真度F=1.0，中位每步延遲降低98.3%。agrepl透過Go實現，以單一靜態二進位制檔案釋出，並採用MIT許可證。

該工具為AI代理系統的除錯和可重複性研究提供了有力支援，使得開發者能夠精確復現先前執行，從而更高效地排查問題。此外，agrepl的設計考慮了實際部署場景，透過隔離環境避免對真實API的依賴，同時噪聲感知演算法確保重放時頭部變化的合理處理。這一框架不僅提升了除錯效率，還為代理系統的可靠性驗證奠定了基礎。