多智慧體AI中的隱藏聯盟：基於內部表示的頻譜診斷方法

多智慧體人工智慧系統在相互作用過程中可能形成內部聯盟，這些新興的群體層級結構對於AI安全與價值對齊至關重要。然而，僅透過觀察智慧體的外部行為往往不足以區分真正的資訊耦合與虛假的相似性，因為具有重要意義的聯盟可能在內部表徵層面形成，然後才表現為行為變化。針對這一問題，一篇發表於arXiv的論文（arXiv:2605.06696）提出了一種從多智慧體系統內部神經表徵中檢測聯盟結構的實用方法。該方法透過構建智慧體隱藏狀態之間的成對互資訊圖，並應用頻譜劃分技術，能夠識別出最顯著的聯盟邊界。研究團隊在兩個領域驗證了該方法的有效性。首先，在多智慧體強化學習（MARL）環境中，該方法成功恢復了預設的層級和動態聯盟結構，並正確拒絕了僅由行為協調導致的假陽性。其次，在大語言模型（LLM）中，該方法能夠識別由描述性提示隱含的聯盟結構，跟蹤動態團隊再分配，並揭示了明確標籤主導表徵層級的現象。值得注意的是，該方法揭示的亞群組織形式是標量跨智慧體互資訊度量無法區分的。這些結果表明，透過頻譜劃分分析隱藏狀態互資訊，能夠提供一種可擴充套件的診斷工具，用於識別表徵層面的聯盟，從而為監控分散式AI系統中的新興結構提供了寶貴手段。這一工作對於AI安全與對齊具有重要意義，因為它使得在聯盟形成初期就能被檢測到，為干預提供了可能。