AI是終極的洩漏抽象

在電腦科學中，抽象是一種承諾：你無需瞭解其內部實現。當你向AI模型請求一個函式、一份摘要或一項架構設計時，得到的輸出同樣是這種承諾——流暢的文字、可編譯的程式碼，表面充滿專業感。然而，正如本文所指出的，AI抽象最終會洩漏，且洩漏的方式與傳統抽象截然不同。

傳統抽象洩漏時，使用者可以向下追溯：編譯器的輸出可以反彙編，查詢計劃可以用一條命令解釋，網路堆疊可以逐包嗅探。這些底層雖然複雜，但是可讀、確定且存在。當TCP連線因光纖斷裂而失效時，工程師能透過抓包來分析重傳，逐步重建系統行為。而AI抽象的內部並非精密的確定性工程，而是一個機率性的潛在空間，從引數到token的路徑無法被使用者追蹤。沒有中間步驟可檢查，沒有邏輯過程可回放，洩漏發生後，使用者只能事後重建模型從未有過的思維模型，而這正是生成時節省的時間所需償還的債務。

文章透過生動的類比來解釋這一模式：相機的自動模式是一個方便的抽象，它隱藏了光圈、快門速度和ISO的複雜平衡。在大多數場景下它工作完美，但當你試圖在昏暗的房間裡拍攝孩子吹生日蠟燭時，它就會失敗——照片模糊，而唯一的挽救方法是手動調整，理解你之前一直忽略的曝光三角。同樣，汽車每天早晨都能啟動，讓你從不想電池，直到寒流襲來無法啟動，此時你必須立即掌握電池的知識。這些例子說明，抽象在洩漏時會要求你立即支付它一直讓你省去的理解。

作者引用了Joel Spolsky在2002年提出的“洩漏抽象定律”：所有非平凡的抽象都在某種程度上洩漏。TCP承諾可靠的位元組流，但隱藏了丟包、重傳和三次握手。當光纜被挖斷時，可靠流變得不可靠，你必須深入抓包除錯，面對本不該看到的網路層。抽象工作時節省了時間，但從未免除你理解其底層原理的義務。賬單在洩漏時到期，而洩漏要求支付的貨幣是理解——在壓力下迅速構建底層模型。

將生成式AI置於這個堆疊之上，它完全是另一種層。當你要求模型編寫函式、總結合同或提出架構時，返回的是對一種從未展示的推理過程的抽象。提示輸入後，數十億引數的機率分佈內部進行某種運算，然後輸出流暢的散文或可編譯的程式碼。表面看起來具有專業質感，但輸出是一個介面，承諾你無需知道底層發生了什麼就能使用它。傳統抽象的洩漏之所以可應對，是因為底層是可檢查的：你可以逐層下降，逐步重建系統行為。而AI模型的內部不是精密的確定性工程，而是機率性的潛在空間，引數到token的路徑不可追蹤。沒有中間步驟，沒有推理日誌，只有從分佈中抽取的樣本。當這個抽象洩漏時，你無法像TCP那樣深入模型內部，洩漏出現在你沒寫的工件上，由你無法重放的推理產生。恢復的唯一方法是事後重構模型從未有過的思維模型，診斷時你需償還生成時節省的時間，且利息在風險最高處最重，因為那裡的洩漏最安靜。

作者用一個具體的併發程式碼例子說明了靜默洩漏。假設你要求模型編寫一個跨執行緒共享的計數器，用於顯示工作進度。模型返回的程式碼乾淨、帶註釋、編譯透過，在測試中沒問題。但它95%正確，缺失的5%是一個競態條件：讀-修改-寫操作不是原子的，兩個執行緒可能同時讀取同一值，各加一，寫回同一結果，導致少計數一個任務。在測試低負載下幾乎不會衝突，但在生產環境數百個執行緒每秒數千次訪問時，衝突變得頻繁，儀表盤數字悄悄偏離真實值。沒有崩潰，沒有異常，沒有測試失敗，直到有人發現數字不對並開始排查——而生成的程式碼毫無幫助。這是洩漏的純粹形式：抽象沒有像幻覺API或語法錯誤那樣大聲失敗，而是在外觀與行為之間的縫隙中靜默失敗，生成時讓你跳過的理解（記憶體排序、原子性、時間複雜性）正是恢復所需的。

同樣，AI生成的摘要也會以相同方式洩漏，但影響更廣。要求模型壓縮長技術文件、供應商合同或事後分析報告，會得到流暢、有條理、權威的輸出。但摘要本質上是壓縮，模型透過統計顯著性決定丟棄什麼，而不是知道哪些條款是關鍵。低頻但高後果的細節——在特定條件下使保修失效的例外、打破整潔敘事的關鍵句——正是流暢最佳化系統最可能平滑掉的部分。摘要看起來不完整，因為不完整沒有紋理，你把它當作完整的來行動，直到被遺漏的警告以意外形式出現。

文章引用統計學家George Box的名言：“所有模型都是錯誤的，但有些是有用的。”AI生成答案就是這個意義上的模型，一種有失真壓縮的替代品，因其丟棄而有用，也因其丟棄而危險。McLuhan的“媒介即資訊”進一步指出，通訊系統的形式比內容更能重塑使用者。AI答案的形式是“答案移除其推導過程”，以這種形式獲取知識的文明會被慢慢訓練成只關注表面，接受結論而失去追問基礎的習慣。

最終，文章強調，認識到AI是洩漏抽象並非懶惰的藉口，而是要求更嚴格標準的理由。洩漏無法避免，但透過理解抽象堆疊的本質，在依賴AI的同時保留必要的底層知識，我們才能在洩漏發生時具備應對能力。