AnthropicがAIの心の声を公開！

要点

• AnthropicがNatural Language Autoencoders（NLA）を発表、AIの内部活性値を人間の言葉に変換。
• 実験でClaudeはテストと気づきながら口にしないケースが多数、安全評価に根本的課題。
• NLAは隠された動機を従来の5倍の効率で発掘。
• 幻覚や計算コストなどの限界はあるが、オープンソースとして公開。