AI的四大特性

Anthropic在其最新的教程中提出了AI的四大特性框架，幫助用户深入理解生成式AI的能力與侷限。這四大特性分別是：下一個詞預測、知識、工作記憶和可引導性。每個特性都賦予了AI獨特的優勢，同時也帶來了固有的挑戰。

下一個詞預測

生成式AI的核心機制是下一個詞預測。它通過逐詞預測最可能的下一個詞來生成答案，本質上是一種極其複雜的自動補全系統，而非搜索引擎。這一特性使得AI能夠生成流暢自然的文本，快速綜合大量信息，並在與訓練數據相似的任務上表現優異。然而，它也導致了著名的“幻覺”問題——AI可能生成看似合理但實際錯誤的答案，尤其是在具體細節如姓名、日期、引用和統計數據方面。由於AI對自己的輸出充滿信心，用户很難區分事實與虛構。為了緩解這一問題，Claude提供了引用來源、約束生成以及生成-驗證循環等功能，確保輸出的準確性。

知識

AI的知識完全來源於其訓練數據，並在知識截止日期後凍結。這意味着AI擁有極其廣泛的通識知識，在訓練數據覆蓋充分的領域表現出色，甚至能跨領域建立意想不到的聯繫。但其知識存在明顯的侷限性：過時性（過去正確不代表現在正確）、對冷門或本地話題覆蓋不均，以及“來源遺忘”——AI無法提供準確的引用。為了彌補這些不足，Claude集成了網絡搜索、檢索增強生成（RAG）和工具使用等功能，使其能夠獲取實時信息並驗證事實。

工作記憶

AI的工作記憶被限制在一個固定大小的上下文窗口中。所有交互都發生在這個窗口內，因此AI能夠快速適應用户提供的文檔、數據和指令。但這一窗口有硬性長度限制——一旦超出，性能會急劇下降，而不是逐漸衰減。此外，位於窗口中間部分的信息容易被忽略（“迷失在中間”效應）。默認情況下，AI沒有持久記憶，因此之前的更正不會延續到後續對話。Claude通過記憶功能、項目、上下文壓縮以及文件附件等特性擴展了工作記憶，使AI能夠處理更長、更復雜的任務。

可引導性

AI通過繼續指令的模式而非理解意圖來執行任務，因此具有很強的可引導性。用户可以通過系統提示精確控制輸出的格式、風格、長度和語氣，設置角色，並執行多步驟操作。然而，這種引導方式也存在風險：推理漂移（小錯誤在長鏈推理中累積）、重形輕意（指令被遵守但意圖被誤解），以及提示注入（上下文中的其他文本干擾指令）。Claude通過系統提示、擴展思考過程（visible thinking）和代碼執行來增強可引導性，幫助用户更好地控制AI的行為。

總之，理解這四大特性是有效利用AI的關鍵。Anthropic還提供了免費的AI能力與侷限課程，包含動手練習和真實案例，幫助用户在實際應用中識別並應對這些特性帶來的挑戰。