透過人工智慧擴充套件人類智慧

現代AI系統能夠撰寫文章、生成程式碼、總結複雜思想，並進行流暢的對話。然而，這些系統在人類直觀的任務上仍然掙扎，例如可靠地跟蹤物體變化、在陌生情境中進行組合推理，或區分真相與虛構。這些矛盾引發了關於AI的極化爭論：一些人將其視為早期類人智慧，另一些則貶低為高階自動補全。

在最近的跨學科研究中，一種不同的觀點正在浮現。研究者不再詢問AI系統是否正在變得像人類一樣智慧，而是提出一個更基本的問題：如果AI系統之所以有效，是因為它們依賴於根植於人類認知的結構呢？這種視角轉變，借鑑了埃德蒙德·胡塞爾的現象學，有助於理解現代AI的能力與邊界。

在我們的新論文《自然智慧中的人工智慧起源》中，我們主張現代AI系統既不應被理解為人腦，也不應被視為瑣碎的統計技巧。相反，它們擴充套件了起源於人類認知自身的結構。語言已經包含了人類理解的沉澱結構——AI系統學習建模並擴充套件這些結構。這一視角解釋了當代AI的能力與邊界。

人類感知並非被動接收感官資料。我們將世界體驗為透過變化展開的穩定事物：當我們移動時，杯子仍然是同一個杯子；即使個別音符消逝，旋律仍然可識別。語言透過以概念形式表達這些穩定結構而出現。“紅色”、“圓形”或“大於”等詞彙表達了源於生活體驗的關係。

大型語言模型在這一語言世界中學習統計關係。它們捕捉概念如何在大量人類寫作中相互關聯。這解釋了為什麼AI系統能在多個領域產生連貫的回答。但這也解釋了為什麼它們會產生幻覺。人類始終對世界負責：經驗不斷修正我們的期望和信念。相比之下，AI系統只擴充套件文本內部的模式。它們能流暢地延續推理線索，但缺乏與世界的有生命接觸，而正是這種接觸錨定了意義和真理。

AI擴充套件人類認知

這一框架有助於理解AI研究中幾個反覆出現的挑戰。一個是“組合性差距”——語言模型在熟悉的推理模式上表現良好，但當需要以真正新穎的方式組合概念時卻失敗。研究表明，更大模型在流暢性和事實回憶上提升迅速，但在真正的組合推理上進展緩慢。從我們的視角看，這不僅是工程限制，更是結構性邊界：AI系統能擴充套件語言中已沉澱的模式，但缺乏世界導向的理解，無法生成真正新穎的概念關係。

類似模式出現在結合語言和視覺的多模態系統中。這些系統能正確標記影像，但在關於物體及其部分的穩健推理上仍然失敗。它們學習視覺模式與語言之間的相關性，而不是像人類那樣感知隨時間展開的穩定物體。結果就是系統看似驚人地流暢，但在熟悉模式之外卻出奇地脆弱。

這一視角也重新框定了關於AI安全的討論。公眾討論常在“失控超級智慧”的恐懼與AI無關緊要的主張之間搖擺。我們的研究表明，兩種極端都誤解了當前系統的本質。最直接的風險並非源於AI擁有類人意圖，而是因為它能在沒有對世界反思責任的情況下擴充套件推理模式。系統能生成有說服力但無根據的輸出，大規模自動化有缺陷的決策，或在治理不善的環境中執行有害行為。

這解釋了為何AI安全正從模型安全轉向系統安全。實踐中，組織已依賴分層保障措施——業界稱為“韁繩”——來約束、驗證和監控AI行為。我們的論文認為，這些機制並非臨時補丁，而是反映了AI架構的根本性質：可信行為源於AI系統構建者的工作，他們對其行為負責，這一責任不能委託或分享給模型。

這一解釋與企業在可信AI部署上的方法高度一致。組織需要能夠擴充套件人類智慧，同時保持可治理、可審計和人類監督的系統。理解AI作為一種派生智慧，闡明瞭為何分層治理、評估和運營控制如此重要。

展望未來，我們認為現象學不僅提供了對AI的批判，更提供了理解其承諾的框架。AI系統揭示了人類認知本身的深刻之處：意義可以以強大新方式被形式化、擴充套件和規模化。因此，AI的核心社會風險是踢開其源於人類經驗和認知的梯子——將AI誤解為削弱人性的競爭智慧，從而削弱AI本身的真正承諾。

問題不在於AI是否會取代人類智慧。而在於我們如何負責任地構建既擴充套件人類理解，又始終紮根於產生這種理解的世界之中的系統。如果我們誤將AI系統當作自主思維，我們可能過度信任它們。如果我們將其貶為瑣碎技巧，我們可能忽視我們這個時代最重要的技術發展之一。一個更紮實的解釋同時承認兩個真相：AI是人類智慧的真正延伸——正因為如此，人類仍然對其如何被理解、治理和使用負有責任。