語言模型代理之間的潛在通訊：通道、對齊與文本的侷限性
新研究表明，大型語言模型代理在透過文本通訊時會丟失資訊。使用稀疏自動編碼器特徵分析，研究者發現潛在空間通訊雖然在某些壓縮率下保留更多資訊，但丟失的特徵主要編碼表面形式而非任務相關語義，從而對潛在通訊的優勢提出質疑。
一篇新論文《語言模型代理之間的潛在通訊：通道、對齊與文本的侷限性》由Markus Wenzel撰寫，探討了多代理系統中大型語言模型（LLM）之間的通訊效率。研究團隊提出假設：LLM可能擁有一個超越文本表達能力的內部世界模型，當需要傳達複雜概念時，僅透過文本通訊會導致資訊損失。為了驗證這一假設，他們設計了一系列結構化實驗，利用稀疏自動編碼器（SAE）特徵分析來量化通訊中的資訊損失。
研究中構建了三種不同的通訊通道：一是傳統的文本通道，代理之間透過自然語言傳遞訊息；二是密集潛在通道，直接使用模型的密集隱藏表示；三是SAE稀疏潛在通道，使用稀疏自動編碼器提取的稀疏特徵進行通訊。透過對每個通道中區分概念的資訊量進行測量，他們發現SAE稀疏通道在28倍壓縮的情況下仍能保持99.4%的探針準確率，而文本通道僅為80.4%。這一結果初步表明，潛在空間在壓縮條件下能夠保留更多與概念相關的資訊。
進一步，研究團隊考察了不同架構模型之間的潛在空間對齊能力。他們將Llama和Mistral兩種不同的語言模型透過Procrustes對齊方法對齊其稀疏潛在空間，實現了92%的Top-1檢索率，表明潛在表示在不同模型之間具有一定的可遷移性。然而，當透過文本往返（即先編碼為潛在表示，再解碼為文本，再重新編碼）進行特徵生存分析時，他們發現文本序列化過程破壞了88%的原始SAE特徵，並用一組不同的特徵替換了它們。重要的是，這種損失被歸因於特徵身份的替換（identity replacement）而非特徵的衰減（attenuation）。進一步分析顯示，線性Procrustes對齊會引入3-10個百分點的效能損失，但可以透過非線性對齊方法改善。
在任務級評估中，研究團隊測試了跨語言概念任務，發現潛在通道與文本通道的效能相當，但從未超越後者。此外，用潛在特徵對文本進行增強也沒有帶來任何益處。這些負面的結果促使研究者得出結論：在文本通訊中丟失的特徵主要或完全編碼了表面形式（surface form），而非任務相關的語義資訊。因此，初始假設——潛在通訊能夠保留更多語義資訊——並未得到支援。
研究者指出，要明確潛在通訊相對於文本通道的實際優勢，還需要設計更深入的任務來引發複雜概念的表達，並建立相應的分析框架。這項工作對多代理系統的設計具有重要意義，提示我們儘管潛在空間在壓縮效率上表現出色，但其實際應用價值仍需進一步探索。