グラフフィードバックがオープンウェイト言語モデル集団におけるコンセンサスと派閥形成を制御する
本研究では、マルチエージェント言語モデルシステムにおける相互作用グラフ構造がコンセンサス形成にどのように影響するかを調査した。ナミングゲームプロトコルを用いて、オープンウェイト言語モデル（1.1B～32Bパラメータ）集団における慣習形成を分析。同質的閾値類似性ルーティングは断片化を悪化させるが、ブリッジ探索ルーティングはメモリが利用可能な場合に断片化を修復できることを発見。異種集団では閾値類似性はコンセンサスを生み出せないが、状態コンポーネントとラベル不一致ブリッジはコンセンサスを回復する。同種集団では履歴保持が一般的にコンセンサスを促進し、Qwen2.5-32Bは全ての履歴保持設定で安定したコンセンサスに達した。この研究はまた、状態閾値、集団サイズ、語彙サイズに対するロバスト性を確認し、初期ウィンドウのグラフエネルギー特徴が有用な診断ツールとなることを示した。
2026年7月13日にarXivで公開された新しい研究論文「Graph Feedback Controls Consensus and Clique Formation in Open-Weight Language-Model Populations」（著者：Samer Saab Jr、Chaouki Abdallah）は、マルチエージェント言語モデルシステムにおける相互作用グラフ構造がコンセンサス形成に与える影響を詳しく調査しています。この研究では、ナミングゲームプロトコルを使用して、1.1Bから32Bパラメータのオープンウェイト言語モデル集団における慣習形成を分析しました。
研究者らは、制限された最初のトークンスコアを用いてプロンプト条件付きスコア状態分布を測定し、状態類似性グラフを構築し、サンプリングされたラベル一致と潜在状態空間コンセンサスを分離しました。主要なオープンウェイト修復グリッドにおける実験では、保持されたパートナーラベル証拠が必要だが十分ではないことが明らかになりました。具体的には、同質的閾値類似性ルーティングはクロスベースン露出を削除し断片化を増幅する一方、ブリッジ探索ルーティングはメモリが利用可能な場合に断片化を修復できることが示されました。
3シード混合4モデルグリッドでは、閾値類似性は189の設定シード実行で最終的な行動的または状態コンセンサスを生成しませんでしたが、状態コンポーネントとラベル不一致ブリッジは、メモリ保持18実行のうち14で最終的な行動的コンセンサスを回復しました。同種モデル集団では、履歴保持は一般的に断片化ダイナミクスをコンセンサスに向かわせ、最も顕著な例はQwen2.5-32Bで、18の履歴保持完全混合設定すべてで安定した行動的および最終状態コンセンサスに達しました。一方、閾値類似性は189の設定でいずれのコンセンサスにも達しませんでした。
さらに、状態閾値、集団サイズ、語彙サイズに対するロバスト性が確認され、定性的な順序が維持されました。また、初期ウィンドウのグラフエネルギー特徴は、グリッド内診断に有用なツールであることが示されました。この研究は、特にオープンウェイト言語モデルの文脈において、より効率的で調整されたマルチエージェントシステムを設計するための重要な洞察を提供しています。