Anthropic 推出自然語言自編碼器，將 Claude 的內部啟用直接轉換為人類可讀的文本解釋

Anthropic 釋出了自然語言自編碼器（NLA），這是一種將語言模型內部啟用直接轉換為可讀文本的新技術。透過訓練一個啟用語言描述器和一個啟用重建器，NLA 能夠以高保真度解釋模型的內部狀態。Anthropic 已將該技術應用於檢測作弊模型、修復語言 bug 以及評估模型在測試中的自我意識等實際場景。儘管存在幻覺和高計算成本等限制，NLA 為理解 AI 內部執行機制提供了一種強大的新工具。