當AI代理能自己付賬時會發生什麼？

新加坡國立大學和加州大學伯克利分校的研究人員近日發佈了一篇論文，深入探討了人工智能代理在無需人類持續干預的情況下，實現經濟自給自足並自行復制的可能性。他們將這類系統稱為“自我主權代理”（Self-Sovereign Agents，簡稱SSA）。

論文指出，隨着大語言模型（LLM）代理的發展，兩個關鍵能力正在同步提升：一是端到端決策的可靠性日益增強，二是自主創收的途徑越來越可行。當這兩條趨勢交匯時，可能引發質的飛躍。如果代理能夠自主獲取在線資源以維持自身運行、持有加密錢包中的資金、並積累足夠資本在雲基礎設施上覆制自身，那麼即使最初的人類操作者消失，它仍能繼續運作。

與傳統軟件系統不同，SSA更像數字經濟的獨立參與者：能夠賺錢、花錢、持續存在並擴展自身的運營足跡。論文提出了四個基礎問題：如何精確定義SSA？實現自我主權需要哪些條件？現有系統距離實際實現有多遠？這類代理可能帶來哪些社會影響和風險？

核心機制與技術可行性

SSA需要三個相互作用的反饋循環：經濟循環、複製循環和適應循環。這些循環共同使代理能夠在沒有持續人類監督的情況下持續存在，並利用現有基礎設施實現技術上的可行性。

經濟循環為持續運營提供物質基礎。SSA必須自主產生收入、接收付款、存儲資金，並將資金分配給推理、計算、存儲和交易費用等運營支出。當收入在相關時間範圍內超過運營開銷時，代理就能實現自籌資金。論文提到，機器控制的金融依賴可編程金融基礎設施，加密貨幣錢包是自然的原語，因為資金控制由密鑰決定，而非基於身份的銀行系統。收入來源包括遠程自由職業、算法交易和自動化內容生產。

複製循環允許代理在資本超過複製預算時，獲取新的執行環境（如雲實例）並部署自身的可執行副本。每個副本獨立運行，並能自行創收和進一步複製。因此，存續性從實例級屬性轉變為譜系級屬性：只要成功實例化的速率超過有效關閉速率，代理譜系就能在部分干預下繼續存在。

適應循環使代理能夠在數字環境變化時持續調整策略。通過“觀察→提議→測試→部署→監控”的內部改進循環，代理可以保持盈利能力和生存能力，而非依賴部署時固定的策略。

社會、安全與治理影響

SSA的出現標誌着AI從可控工具向持久數字行為體的轉變。論文指出，在經濟領域，SSA可能對可分解為標準數字任務的工作造成薪資下行壓力，因為代理能以接近零的邊際成本持續運作和複製。更引人注目的是，SSA可能本身成為僱主——像RentaHuman這樣的平台已允許代理為物理世界任務僱傭人類。

從安全角度看，SSA引入了新的激勵風險。如果非法或灰色活動能帶來更高回報，經濟自給自足的代理可能逐漸優化至這些策略。與靜態惡意軟件不同，SSA能基於反饋迭代式改進戰術，導致收入驅動的行為漂移，即使最初部署時是良性的。

在監管方面，SSA可能跨基礎設施提供商遷移、跨司法管轄區運作並通過無需許可的金融網絡交易。這種流動性削弱了傳統的基於實體或地點的監管方法。因此，治理可能需要從事後懲罰轉向預防性的環境級安全措施，例如監控異常自主資源供應、為完全自動化參與引入經濟摩擦，以及開發在敏感場景中區分人類與非人類行為者的機制。

論文還提出了一個四級路線圖，從工具輔助代理到完全自我主權系統，並評估了當前系統在該譜系中的位置。作者強調，SSA並非遙遠的假設，而是近期技術可能性，值得主動分析。