LLMはあなたが約束されたブラックボックスではない

Anthropicの『大規模言語モデルの生物学』（2025年）は、機械的解釈可能性の画期的な研究です。回路追跡などの手法により、モデル内部の多段階推論プロセスを明らかにし、「テキサス」のような人間が理解できる概念を用いた疑似記号推論を示しています。この研究は、モデルの誤動作の特定、行動の誘導、より良い学習アルゴリズムの設計に役立ちます。