互補智慧體混合：用於魯棒大語言模型整合的方法

在人工智慧領域，多智慧體協作（如大語言模型的整合或辯論）被視為聚合資訊、提升效能的有效正規化。此類流程的基礎步驟是將多個提案LLM的響應輸入到一個總結LLM中，由後者綜合出更優答案。然而，選擇哪些提案者參與整合並非易事。現有方法主要關注準確率（選擇最強模型）或多樣性（確保模型差異），往往忽略了提案者之間以及提案者與總結者之間的互動。

來自研究團隊的最新論文《Mixture of Complementary Agents for Robust LLM Ensemble》重新審視了這一問題。他們將提案者選擇重述為類似特徵選擇的組合最佳化問題：一個LLM的價值在於它與其他模型的互補性。但直接應用標準特徵選擇演算法在大語言模型場景下並不可行，因為時間複雜度過高。為此，研究團隊探索了一系列計算上可行的貪心式選擇演算法，這些演算法利用少量標註資料來評估互補性。實驗結果表明，互補性作為提案者選擇的指導原則是有效的。研究團隊識別出了在實際應用中實現最佳效能與計算成本折衷的方法。這一工作為多LLM協作系統的設計提供了新的視角，有望推動整合學習在複雜任務中的應用。

具體而言，論文提出的方法將提案者選擇形式化為一個組合最佳化問題，類似於特徵選擇中的子集選擇。每個候選LLM被看作一個特徵，其價值不僅取決於自身的準確性，更取決於它與其他已選LLM的互補程度。這種視角的轉變避免了簡單堆疊強模型導致的冗餘，也不僅依賴多樣性指標，而是直接最佳化最終整合的效能。然而，標準的特徵選擇演算法（如前向選擇、後向消除）在LLM場景下計算代價極高，因為每次候選增加都需要進行完整的推理評估。為了解決這一瓶頸，作者提出了多種貪心式的近似演算法，包括基於邊際貢獻的啟發式方法，以及利用小規模標註集快速估計互補性的策略。這些演算法在保持選擇質量的同時大幅降低了計算需求。

實驗部分，作者在多個自然語言處理基準上進行了驗證。他們比較了不同選擇策略下的整合效能，包括隨機選擇、基於準確率的選擇、基於多樣性的選擇以及所提出的互補性導向選擇。結果顯示，基於互補性的方法在多數任務上優於或持平於其他方法，尤其是在模型池中包含多種規模和架構的LLM時，互補性帶來的收益更為顯著。此外，作者還分析了效能與計算成本之間的權衡，指出在有限預算下，使用少量標註資料訓練的貪心互補性選擇能夠在幾乎不損失效能的情況下大幅減少推理成本。這些發現對於實際部署多LLM系統具有重要指導意義。

總的來說，這項研究不僅提出了一個新穎的框架，還提供了實用的演算法工具。它挑戰了傳統重視單一模型強度或簡單多樣性的觀念，強調了智慧體之間協同作用的重要性。隨著多模態和混合智慧系統的興起，這種基於互補性的選擇思想有望擴充套件到更廣泛的場景，例如視覺語言模型整合或不同推理策略的融合。同時，作者也指出了未來工作的方向，包括動態選擇、線上適應以及更復雜的互動建模。該論文已提交至arXiv，並引起了研究社群的關注。