图反馈控制开源语言模型群体中的共识与派系形成
本研究探讨了多智能体语言模型系统中交互图结构如何影响共识形成。通过命名游戏协议，研究人员分析了开源语言模型（1.1B-32B参数）群体中的约定形成过程。研究发现，同质性阈值相似性路由会加剧碎片化，而桥梁寻找路由在有记忆的情况下可修复碎片化。在异质模型群体中，阈值相似性导致共识失败，而状态组件和标签分歧桥梁可恢复共识。同质模型群体中，保留历史通常促进共识，其中Qwen2.5-32B模型在所有保留历史设置中均达到稳定共识。该研究还验证了结果对状态阈值、群体规模和词汇表大小的鲁棒性，并表明早期窗口图能量特征可作为有效的网格内诊断工具。
一篇发表于2026年7月13日arXiv预印本上的新研究论文《Graph Feedback Controls Consensus and Clique Formation in Open-Weight Language-Model Populations》由Samer Saab Jr和Chaouki Abdallah撰写，深入探讨了多智能体语言模型系统中交互图结构如何影响共识形成。该研究采用命名游戏协议，对参数规模从1.1B到32B的开源语言模型群体进行了系统分析。
研究人员通过限制首次词元的得分来测量提示条件得分状态分布，构建状态相似性图，并区分采样标签一致性与潜在状态空间共识这一关键概念。实验主要围绕开源模型修复网格展开，结果表明，保留伙伴标签证据是达成共识的必要条件，但并非充分条件。具体而言，同质性阈值相似性路由消除了跨盆暴露，加剧了碎片化现象；而桥梁寻找路由在有记忆的情况下通常能有效修复碎片化。
在包含三个种子和四个模型的混合网格实验中，阈值相似性在189个设置种子运行中未能产生任何最终行为或状态共识，而状态组件和标签分歧桥梁在有记忆的18次运行中恢复了14次的行为共识，显示出桥梁方法在异质群体中的优势。在同质模型群体中，保留历史通常能将碎片化动态转向共识；最显著的案例是Qwen2.5-32B模型，它在所有18次保留历史的充分混合设置中均达到了稳定的行为和最终状态共识，而阈值相似性在189个设置中均未达成任何形式的共识。
研究还验证了结果对状态阈值、群体规模和词汇表大小的鲁棒性，保持了定性排序的稳定性。此外，早期窗口图能量特征被证明可作为有用的网格内诊断工具。这项研究为设计更高效、更协调的多智能体系统提供了重要见解，尤其在开源语言模型的应用背景下，对模型选型、推理成本优化和系统协调具有潜在指导意义。