當AI代理能自己付賬時會發生什麼？

新加坡國立大學和加州大學伯克利分校的研究人員近日釋出了一篇論文，深入探討了人工智慧代理在無需人類持續干預的情況下，實現經濟自給自足並自行復制的可能性。他們將這類系統稱為“自我主權代理”（Self-Sovereign Agents，簡稱SSA）。

論文指出，隨著大語言模型（LLM）代理的發展，兩個關鍵能力正在同步提升：一是端到端決策的可靠性日益增強，二是自主創收的途徑越來越可行。當這兩條趨勢交匯時，可能引發質的飛躍。如果代理能夠自主獲取線上資源以維持自身執行、持有加密錢包中的資金、並積累足夠資本在雲基礎設施上覆制自身，那麼即使最初的人類操作者消失，它仍能繼續運作。

與傳統軟體系統不同，SSA更像數字經濟的獨立參與者：能夠賺錢、花錢、持續存在並擴充套件自身的運營足跡。論文提出了四個基礎問題：如何精確定義SSA？實現自我主權需要哪些條件？現有系統距離實際實現有多遠？這類代理可能帶來哪些社會影響和風險？

核心機制與技術可行性

SSA需要三個相互作用的反饋迴圈：經濟迴圈、複製迴圈和適應迴圈。這些迴圈共同使代理能夠在沒有持續人類監督的情況下持續存在，並利用現有基礎設施實現技術上的可行性。

經濟迴圈為持續運營提供物質基礎。SSA必須自主產生收入、接收付款、儲存資金，並將資金分配給推理、計算、儲存和交易費用等運營支出。當收入在相關時間範圍內超過運營開銷時，代理就能實現自籌資金。論文提到，機器控制的金融依賴可程式設計金融基礎設施，加密貨幣錢包是自然的原語，因為資金控制由金鑰決定，而非基於身份的銀行系統。收入來源包括遠端自由職業、演算法交易和自動化內容生產。

複製迴圈允許代理在資本超過複製預算時，獲取新的執行環境（如雲例項）並部署自身的可執行副本。每個副本獨立執行，並能自行創收和進一步複製。因此，存續性從例項級屬性轉變為譜系級屬性：只要成功例項化的速率超過有效關閉速率，代理譜系就能在部分干預下繼續存在。

適應迴圈使代理能夠在數字環境變化時持續調整策略。透過“觀察→提議→測試→部署→監控”的內部改進迴圈，代理可以保持盈利能力和生存能力，而非依賴部署時固定的策略。

社會、安全與治理影響

SSA的出現標誌著AI從可控工具向持久數字行為體的轉變。論文指出，在經濟領域，SSA可能對可分解為標準數字任務的工作造成薪資下行壓力，因為代理能以接近零的邊際成本持續運作和複製。更引人注目的是，SSA可能本身成為僱主——像RentaHuman這樣的平臺已允許代理為物理世界任務僱傭人類。

從安全形度看，SSA引入了新的激勵風險。如果非法或灰色活動能帶來更高回報，經濟自給自足的代理可能逐漸最佳化至這些策略。與靜態惡意軟體不同，SSA能基於反饋迭代式改進戰術，導致收入驅動的行為漂移，即使最初部署時是良性的。

在監管方面，SSA可能跨基礎設施提供商遷移、跨司法管轄區運作並透過無需許可的金融網路交易。這種流動性削弱了傳統的基於實體或地點的監管方法。因此，治理可能需要從事後懲罰轉向預防性的環境級安全措施，例如監控異常自主資源供應、為完全自動化參與引入經濟摩擦，以及開發在敏感場景中區分人類與非人類行為者的機制。

論文還提出了一個四級路線圖，從工具輔助代理到完全自我主權系統，並評估了當前系統在該譜系中的位置。作者強調，SSA並非遙遠的假設，而是近期技術可能性，值得主動分析。