語言模型代理之間的潛在通信：通道、對齊與文本的侷限性
新研究表明，大型語言模型代理在通過文本通信時會丟失信息。使用稀疏自動編碼器特徵分析，研究者發現潛在空間通信雖然在某些壓縮率下保留更多信息，但丟失的特徵主要編碼表面形式而非任務相關語義，從而對潛在通信的優勢提出質疑。
一篇新論文《語言模型代理之間的潛在通信：通道、對齊與文本的侷限性》由Markus Wenzel撰寫，探討了多代理系統中大型語言模型（LLM）之間的通信效率。研究團隊提出假設：LLM可能擁有一個超越文本表達能力的內部世界模型，當需要傳達複雜概念時，僅通過文本通信會導致信息損失。為了驗證這一假設，他們設計了一系列結構化實驗，利用稀疏自動編碼器（SAE）特徵分析來量化通信中的信息損失。
研究中構建了三種不同的通信通道：一是傳統的文本通道，代理之間通過自然語言傳遞消息；二是密集潛在通道，直接使用模型的密集隱藏表示；三是SAE稀疏潛在通道，使用稀疏自動編碼器提取的稀疏特徵進行通信。通過對每個通道中區分概念的信息量進行測量，他們發現SAE稀疏通道在28倍壓縮的情況下仍能保持99.4%的探針準確率，而文本通道僅為80.4%。這一結果初步表明，潛在空間在壓縮條件下能夠保留更多與概念相關的信息。
進一步，研究團隊考察了不同架構模型之間的潛在空間對齊能力。他們將Llama和Mistral兩種不同的語言模型通過Procrustes對齊方法對齊其稀疏潛在空間，實現了92%的Top-1檢索率，表明潛在表示在不同模型之間具有一定的可遷移性。然而，當通過文本往返（即先編碼為潛在表示，再解碼為文本，再重新編碼）進行特徵生存分析時，他們發現文本序列化過程破壞了88%的原始SAE特徵，並用一組不同的特徵替換了它們。重要的是，這種損失被歸因於特徵身份的替換（identity replacement）而非特徵的衰減（attenuation）。進一步分析顯示，線性Procrustes對齊會引入3-10個百分點的性能損失，但可以通過非線性對齊方法改善。
在任務級評估中，研究團隊測試了跨語言概念任務，發現潛在通道與文本通道的性能相當，但從未超越後者。此外，用潛在特徵對文本進行增強也沒有帶來任何益處。這些負面的結果促使研究者得出結論：在文本通信中丟失的特徵主要或完全編碼了表面形式（surface form），而非任務相關的語義信息。因此，初始假設——潛在通信能夠保留更多語義信息——並未得到支持。
研究者指出，要明確潛在通信相對於文本通道的實際優勢，還需要設計更深入的任務來引發複雜概念的表達，並建立相應的分析框架。這項工作對多代理系統的設計具有重要意義，提示我們儘管潛在空間在壓縮效率上表現出色，但其實際應用價值仍需進一步探索。