圖書館與圖書管理員：為什麼AI需要兩個不同的“大腦”

幾周前，有人在餐桌上向一個AI模型提出了一個表面看似簡單的問題——問題本身沒有標準答案，但需要將兩個模型從未同時見過的概念結合起來。模型沒有大聲宣告失敗，而是自信地給出了一個聽起來完全正確、由每個正確部分拼湊而成的答案，但整體卻毫無意義。

這次失敗耐人尋味，因為它並非知識缺失。模型並不缺少事實，它擁有所需的一切資訊。它缺乏的，是將它“知道”的規則正確應用於從未記憶過答案的情境的能力。這種失敗並不罕見，它指向一個值得嚴肅對待的問題：我們可能正讓一個系統承擔兩個截然不同的任務，卻奇怪它為何兩者都表現平平。

想象一下圖書館和圖書管理員作為兩個獨立的存在。圖書館是事實的倉庫——每一本書、每一份記錄、每一個被記錄下來的事實。它不主動行動，只是忠實地儲存資訊，等待被發現。而圖書管理員則是一種完全不同型別的智慧。一位優秀的圖書管理員無需記熟書架上的每一本書，他們擁有更有價值的能力：懂得如何拆解一個陌生問題，找出各部分之間的關係，知道去哪裡查詢，連線建築內不同區域的觀念，最終給出答案——即使從未有人問過完全相同的問題。

目前，大型語言模型被訓練成同時扮演這兩個角色，融合在一個系統中。一方面，它們要充當圖書館——將網際網路的龐大部分記憶到引數中；另一方面，又要充當圖書管理員——基於儲存的材料進行推理，回答新穎的問題。這種設計在說出口時顯得頗為奇怪。我們不會建造一座每本書都被要求親自推理其他所有書的圖書館。然而，我們預設採用的架構大致如此：所有內容——事實、語法、邏輯、算術、風格、世界知識——都被壓縮到同一組權重中，以相同的方式學習，以相同的方式檢索。這是一個巧妙的技巧，讓我們取得了非凡的進展。但它可能並不適合未來的發展。

過去幾年，改進AI的主要策略非常直接：讓圖書館變得更大。訓練更多文本、更多令牌、更多引數，效能隨之提升。這一方法如此成功且可預測，以至於“規模就是一切”幾乎成了行業口號。然而，無論圖書館多大，都存在上限——我們比誇大宣傳的要更接近這個上限。網際網路本身就是一個巨大且不斷更新的圖書館，每秒都在增加新條目：新聞、論文、價格、發現、程式碼變更、修正。相比之下，模型的內部記憶在訓練結束時就被凍結。它“知道”的每個事實都停留在某個截止日期，而世界卻在不斷變化。

這正是檢索增強系統（透過搜尋外部來源而非依賴記憶權重）在當代AI實際部署中變得如此關鍵的原因。這等於預設了本文的觀點：網際網路已經是一個比任何模型的內部記憶都更好的圖書館。試圖記憶整個網際網路是一場必輸且越來越無意義的競賽。因此，如果圖書館問題基本已解決——或者至少可以透過指向已有的東西來解決——那麼智慧的下一個飛躍應該來自哪裡？不是更大的圖書館，而是更好的圖書管理員。

這裡有一個真正重要的差距，透過簡單的對比最容易看清。拿兩個學習乘法的孩子為例。一個孩子透過純重複記憶了乘法表——7乘以8是56，9乘以6是54——任何表內問題都能快速準確回答。但問他47乘以83，他就卡住了，因為那個組合從未出現在記憶的表格中。另一個孩子理解乘法的本質——重複加法、縮放、底層規則——而非答案查詢表。他在7乘以8上可能慢一些，但遇到從未見過的47乘以83，他能推匯出來，因為他沒有記憶輸出，而是學習了生成輸出的規則。

大型語言模型儘管複雜，但往往更像第一個孩子。當問題類似於訓練資料中的某個模式時——即使相似性被多層措辭掩蓋——它們能出色地給出正確答案。但只要問題稍微超出已見過模式的形狀，裂縫就會出現。不是因為模型不智慧，而是因為看起來像理解的東西，本質上是一種極其複雜的記憶和插值。

這正是“智慧庫”與“知識庫”區別的實際含義。它並非指僵化的規則手冊，而是指系統真正學習了規則——語言的語法、證明的邏輯、程式語言的語法、論證的結構——抽象得足夠好，能幹淨地推廣到從未遇到的情境；與之相對的是，系統只是擅長猜測下一個詞，因為它見過太多文本，以至於幾乎任何東西都與某些事物相似。

知識是檢索，而智慧是泛化。它們是不同的能力，讓一個系統以相同的方式同時做這兩件事，很可能導致兩者都不如它們被分開構建時那麼好。

如果知識和智慧確實是不同的能力，下一個自然問題是架構上的：我們是否需要一個大模型試圖同時做到兩者，還是可以構建一個系統——由較小的、更專業化的部分組成的叢集，每個部分擅長一項工作，並由一個知道如何在它們之間路由的協調器連線？想象一個運轉良好的團隊，而不是一個全知全能的神諭。你不會希望最好的事實核查員同時撰寫法律論證，也不會希望最好的邏輯學家同時擔任百科全書。你需要專家——以及一個足夠聰明的協調器，對於任何給定的問題，知道該派團隊中的誰去處理。

在這種設想中，知識叢集最佳化為圖書館擅長的事情：忠實地儲存和檢索事實，保持最新，覆蓋儘可能廣的範圍。它不需要聰明，只需要準確和全面。相比之下，規則叢集完全不需要龐大。一個真正乾淨地學習了“算術規則”或“語言語法”的系統，是緊湊、嚴密、高保真的——更接近一組精煉的原理，而非雜亂無章的檔案。它的勝利不是因為大，而是因為正確和通用，能夠處理從未見過的組合，因為它學習了底層結構而不是例子表格。

在兩者之上的是協調器——系統中的真正圖書管理員——其全部工作就是知道對於任何給定的問題，該諮詢哪個專家，如何組合他們的答案，以及何時問題同時需要事實和規則協同工作。

這並不是一個全新的想法——智慧由許多專業化的協作部分而非一個全知全能的怪物湧現出來——在認知科學和電腦科學中已經以不同名稱探索了幾十年。變化在於，在現代AI系統中構建它終於變得可行了。

坦誠的複雜性

如果在理論上知識和智慧能像類比中那樣乾淨地分離就好了。實際上並不完全如此。當今大型模型之所以能進行一定程度的推理，部分原因似乎來自它們訓練資料的廣度——接觸海量文本似乎幫助這些系統學會了邏輯、論證和結構的模式，而不僅僅是事實。完全剝離知識，可能也會剝離一些規則學習所依賴的材料。在現有模型中，智慧和知識在根源上是糾纏在一起的，而不是生活在我們可以簡單地砌牆分隔的獨立房間裡。

所以，這個主張的誠實版本不是“完全分離是可以實現的”。它更狹窄也更有用：我們幾乎肯定在擴大圖書館上過度投資了，超出了有意義回報的臨界點，同時低估了圖書管理員——系統中負責泛化、推理和路由而非回憶的部分。哪怕朝著分離這兩個任務的不完美邁進，而不是堅持用一個模型統治一切，似乎也指向了正確的方向。

一個值得思考的不同問題

在相當長一段時間裡，AI中的預設問題一直是“我們如何讓模型更大？”現在可能值得用另一個問題來替代，至少在一段時間內：我們如何讓分工更智慧？

不是一個試圖同時成為一切的單一龐大思維——一個不斷增長的圖書館，同時還得是自己圖書管理員。而是更接近一個系統：一個存放已知內容的地方，一個真正學會了事物如何運作的部分，以及一個足夠聰明的東西坐在它們之間，在每時每刻知道你到底需要哪一個。

AI的下一個真正飛躍可能不再來自教給模型更多東西。它可能來自終於承認“這個模型”從來就不是一個單一的東西。