大语言模型并非你所认为的黑箱

Anthropic 的《大型语言模型的生物学》（2025）是机械可解释性领域的里程碑。通过电路追踪等技术，研究人员能够揭示模型内部的多步推理过程，发现它们使用人类可理解的概念（如“德克萨斯”）进行类符号推理。这项工作有助于识别模型错误、引导行为，甚至设计更好的学习算法。