圖反饋控制開源語言模型群體中的共識與派系形成
本研究探討了多智慧體語言模型系統中互動圖結構如何影響共識形成。透過命名遊戲協議，研究人員分析了開源語言模型（1.1B-32B引數）群體中的約定形成過程。研究發現，同質性閾值相似性路由會加劇碎片化，而橋樑尋找路由在有記憶的情況下可修復碎片化。在異質模型群體中，閾值相似性導致共識失敗，而狀態元件和標籤分歧橋樑可恢復共識。同質模型群體中，保留歷史通常促進共識，其中Qwen2.5-32B模型在所有保留歷史設定中均達到穩定共識。該研究還驗證了結果對狀態閾值、群體規模和詞彙表大小的魯棒性，並表明早期視窗圖能量特徵可作為有效的網格內診斷工具。
一篇發表於2026年7月13日arXiv預印本上的新研究論文《Graph Feedback Controls Consensus and Clique Formation in Open-Weight Language-Model Populations》由Samer Saab Jr和Chaouki Abdallah撰寫，深入探討了多智慧體語言模型系統中互動圖結構如何影響共識形成。該研究採用命名遊戲協議，對引數規模從1.1B到32B的開源語言模型群體進行了系統分析。
研究人員透過限制首次詞元的得分來測量提示條件得分狀態分佈，構建狀態相似性圖，並區分取樣標籤一致性與潛在狀態空間共識這一關鍵概念。實驗主要圍繞開源模型修復網格展開，結果表明，保留夥伴標籤證據是達成共識的必要條件，但並非充分條件。具體而言，同質性閾值相似性路由消除了跨盆暴露，加劇了碎片化現象；而橋樑尋找路由在有記憶的情況下通常能有效修復碎片化。
在包含三個種子和四個模型的混合網格實驗中，閾值相似性在189個設定種子執行中未能產生任何最終行為或狀態共識，而狀態元件和標籤分歧橋樑在有記憶的18次執行中恢復了14次的行為共識，顯示出橋樑方法在異質群體中的優勢。在同質模型群體中，保留歷史通常能將碎片化動態轉向共識；最顯著的案例是Qwen2.5-32B模型，它在所有18次保留歷史的充分混合設定中均達到了穩定的行為和最終狀態共識，而閾值相似性在189個設定中均未達成任何形式的共識。
研究還驗證了結果對狀態閾值、群體規模和詞彙表大小的魯棒性，保持了定性排序的穩定性。此外，早期視窗圖能量特徵被證明可作為有用的網格內診斷工具。這項研究為設計更高效、更協調的多智慧體系統提供了重要見解，尤其在開源語言模型的應用背景下，對模型選型、推理成本最佳化和系統協調具有潛在指導意義。