Anthropic 推出自然語言自編碼器，將 Claude 的內部激活直接轉換為人類可讀的文本解釋

Anthropic 發佈了自然語言自編碼器（NLA），這是一種將語言模型內部激活直接轉換為可讀文本的新技術。通過訓練一個激活語言描述器和一個激活重建器，NLA 能夠以高保真度解釋模型的內部狀態。Anthropic 已將該技術應用於檢測作弊模型、修復語言 bug 以及評估模型在測試中的自我意識等實際場景。儘管存在幻覺和高計算成本等限制，NLA 為理解 AI 內部運行機制提供了一種強大的新工具。