現在、大規模言語モデル(LLM)ベースのエージェント間の通信は主にテキストを介して行われています。この方法は直感的ですが、共有側モデルが内部状態を自己回帰的にデコードし、受信側モデルがそれを再エンコードする必要があるため、無視できない遅延と情報損失を引き起こします。最近のCache-to-Cache(C2C)と呼ばれる研究では、アダプタを学習して共有側のKVマトリックスを受信側モデルに変換し、KVキャッシュを直接交換することでテキストのボトルネックを回避しようとしています。しかし、C2Cのアダプタは大規模でトレーニングコストが高く、トークンごとの変換メカニズムはターゲットコンテキストがソースコンテキストと完全に一致することを要求します。これは、異なるエージェントが異なるコンテキスト履歴を持つ実際のエージェント通信では現実的ではありません。
この問題に対処するため、本論文ではLatent Cache Flow(LCF)という新しいモデル間通信パラダイムを提案します。LCFの核心的な革新は2点あります。第一に、効率性の面で、研究者らはキーとバリューを共同で変換・圧縮できることを発見しました。この観察により、アダプタのサイズをC2Cの約4%にまで大幅に削減できます(956 MBからわずか13 MBへ)。これにより、ストレージとトレーニングのオーバーヘッドが大幅に軽減されます。第二に、コンテキスト適応性の面で、LCFのアダプタはトークンごとの変換を行わず、ターゲットモデルが持っていない新情報の要約を送信するように設計されています。これにより、通信する両者が異なるコンテキストを持っていても通信が可能になります。
初期実験の結果、共有コンテキスト設定では、13 MBのLCFアダプタが956 MBのC2Cアダプタよりも高い精度を達成できることが示されました。さらに、より困難な異なるコンテキストのシナリオでは、LCFは従来のテキスト通信と比較して、精度が23%向上し、速度が8.5倍高速化されます。この研究は、LLMエージェント間の効率的で低遅延な通信の新たな可能性を開き、マルチエージェントシステムの実用化を促進することが期待されます。論文は全6ページ、5つの図を含み、2026年5月19日に提出され、機械学習(cs.LG)分野に属します。