このarXiv論文は、Yashar Talebirad氏と他3名の著者によるもので、一見単純ながら言語の起源に直結する問いを扱っている。2体のエージェントは、互いの相互作用の履歴だけを頼りに、ゼロから共有言語を発明できるのか。研究チームはこの問いを古典的なルイス信号ゲームの枠組みで検証した。送信側はある対象を信号に符号化し、受信側はその信号から対象を復元する。両者は過去のやり取りだけを手がかりに、コードを徐々に一致させていく必要がある。
論文の中心的な発見は、調整が成功するかどうかを決めるのはチャネル容量よりも記憶アーキテクチャだという点である。著者らは5種類の記憶アーキテクチャを比較し、LLMエージェントをさまざまなチャネル設定の下で繰り返しゲームに参加させた。その結果、永続的な私的ノートを持つエージェントは余剰のチャネル容量を活用できるだけでなく、状態を持たないエージェントが高容量で示す崩壊を避けられた。容量25の条件では、こうしたエージェントが0.867 ± 0.023という調整成功率を記録し、実験の中で最も信頼できる性能を示した。
一方、状態を持たないエージェントの性能は明確な逆U字を描いた。中程度の容量でピークに達した後、語彙が拡大するにつれて劣化する。ローリングコンテキストウィンドウでは、増え続ける取り決めを追跡しきれなくなるためだ。永続ノートの役割は、学習した取り決めを外部化し、エージェントが毎回コードを再導出する必要をなくすことにある。これにより相互作用の履歴が安定した構造へと蓄積される。
さらに著者らは、情報ボトルネックに着想を得た理論的予測も検討している。最適な容量は対象の数に等しいはずだという予測では、容量8が最良となるはずだった。しかし実験では、容量8はむしろ脆弱点となり、余剰容量の方が全般的に有利であることが示された。論文はそこから、チャネル容量だけでは調整の結果を予測できないと結論づける。記憶アーキテクチャはエージェントが相互作用の履歴を安定した取り決めに変えられるかどうかを左右し、信号が言語へと発展する過程を理解するには、容量と記憶という2つの次元を合わせて見る必要がある。本研究は人工知能、計算と言語、情報理論、マルチエージェントシステムといった分野に関係している。