Anthropicが自然言語オートエンコーダを発表：Claudeの内部アクティベーションを人間が読めるテキストに直接変換

Anthropicは、言語モデルの内部アクティベーションを可読テキストに変換する新しい技術「自然言語オートエンコーダ（NLA）」を発表した。アクティベーション言語化器と再構築器によるラウンドトリップアーキテクチャを用いて、モデル状態の高忠実度な説明を提供する。この手法は既に、不正モデルの発見、言語バグの診断、未表明の評価認識の検出に応用されている。幻覚や高い計算コストといった制限はあるものの、NLAはAI解釈可能性における重要な進歩である。