集體能動性的因果基礎

先進AI系統的安全面臨一個關鍵挑戰：多個簡單智能體可能無意中形成一個具有獨特能力和目標的集體智能體。更一般地説，確定何時一羣智能體可以被視為一個統一的集體智能體，是研究生物和人工系統中互動與激勵的基礎問題。來自哥本哈根大學等機構的研究人員Frederik Hytting Jørgensen、Sebastian Weichwald和Lewis Hammond提出了一種基於因果模型的框架，從行為角度定義和量化集體能動性。該框架採用因果博弈——一種戰略多智能體交互的因果模型——以及因果抽象——它形式化了簡單高級模型何時能準確捕捉複雜低級模型。通過將集體能動性歸因於那些聯合行動可以被視為理性和目標導向的羣體，研究人員能夠將這一概念形式化，並用於解決現有模型中的具體難題。作為應用，該框架成功解釋了演員-評論家模型中的多智能體激勵悖論：在標準設置下，個體智能體的自私行為可能導致集體性能下降，而該框架揭示了其中隱藏的集體代理關係。此外，研究人員還利用該框架對不同投票機制（如多數投票、排序投票等）進行了定量評估，衡量它們表現出的集體能動性程度。結果顯示，某些投票機制能更好地將個體偏好整合為集體意志。這項研究為理解和控制多智能體AI系統中湧現的集體智能體提供了理論基礎。隨着AI系統越來越複雜，多個專業智能體協同工作的場景日益普遍，該框架有望用於預測和引導集體行為，確保系統安全與可控。該論文發表於CLeaR 2026會議。因果抽象的概念允許研究者將複雜的多智能體系統簡化為更易於分析的高層模型，從而在保持關鍵行為特徵的同時降低計算複雜度。這一框架的提出，不僅為理論分析提供了工具，也為實際多智能體系統的設計、部署和監管提供了指導原則。