Anthropic 推出自然语言自编码器，将 Claude 的内部激活直接转换为人类可读的文本解释

Anthropic 发布了自然语言自编码器（NLA），这是一种将语言模型内部激活直接转换为可读文本的新技术。通过训练一个激活语言描述器和一个激活重建器，NLA 能够以高保真度解释模型的内部状态。Anthropic 已将该技术应用于检测作弊模型、修复语言 bug 以及评估模型在测试中的自我意识等实际场景。尽管存在幻觉和高计算成本等限制，NLA 为理解 AI 内部运行机制提供了一种强大的新工具。