AI的四大特性

Anthropic在其最新的教程中提出了AI的四大特性框架，幫助使用者深入理解生成式AI的能力與侷限。這四大特性分別是：下一個詞預測、知識、工作記憶和可引導性。每個特性都賦予了AI獨特的優勢，同時也帶來了固有的挑戰。

下一個詞預測

生成式AI的核心機制是下一個詞預測。它透過逐詞預測最可能的下一個詞來生成答案，本質上是一種極其複雜的自動補全系統，而非搜尋引擎。這一特性使得AI能夠生成流暢自然的文本，快速綜合大量資訊，並在與訓練資料相似的任務上表現優異。然而，它也導致了著名的“幻覺”問題——AI可能生成看似合理但實際錯誤的答案，尤其是在具體細節如姓名、日期、引用和統計資料方面。由於AI對自己的輸出充滿信心，使用者很難區分事實與虛構。為了緩解這一問題，Claude提供了引用來源、約束生成以及生成-驗證迴圈等功能，確保輸出的準確性。

知識

AI的知識完全來源於其訓練資料，並在知識截止日期後凍結。這意味著AI擁有極其廣泛的通識知識，在訓練資料覆蓋充分的領域表現出色，甚至能跨領域建立意想不到的聯絡。但其知識存在明顯的侷限性：過時性（過去正確不代表現在正確）、對冷門或本地話題覆蓋不均，以及“來源遺忘”——AI無法提供準確的引用。為了彌補這些不足，Claude整合了網路搜尋、檢索增強生成（RAG）和工具使用等功能，使其能夠獲取即時資訊並驗證事實。

工作記憶

AI的工作記憶被限制在一個固定大小的上下文視窗中。所有互動都發生在這個視窗內，因此AI能夠快速適應使用者提供的文件、資料和指令。但這一視窗有硬性長度限制——一旦超出，效能會急劇下降，而不是逐漸衰減。此外，位於視窗中間部分的資訊容易被忽略（“迷失在中間”效應）。預設情況下，AI沒有持久記憶，因此之前的更正不會延續到後續對話。Claude透過記憶功能、專案、上下文壓縮以及檔案附件等特性擴充套件了工作記憶，使AI能夠處理更長、更復雜的任務。

可引導性

AI透過繼續指令的模式而非理解意圖來執行任務，因此具有很強的可引導性。使用者可以透過系統提示精確控制輸出的格式、風格、長度和語氣，設定角色，並執行多步驟操作。然而，這種引導方式也存在風險：推理漂移（小錯誤在長鏈推理中累積）、重形輕意（指令被遵守但意圖被誤解），以及提示注入（上下文中的其他文本干擾指令）。Claude透過系統提示、擴充套件思考過程（visible thinking）和程式碼執行來增強可引導性，幫助使用者更好地控制AI的行為。

總之，理解這四大特性是有效利用AI的關鍵。Anthropic還提供了免費的AI能力與侷限課程，包含動手練習和真實案例，幫助使用者在實際應用中識別並應對這些特性帶來的挑戰。