大語言模型並非你所認為的黑箱

Anthropic 的《大型語言模型的生物學》（2025）是機械可解釋性領域的里程碑。通過電路追蹤等技術，研究人員能夠揭示模型內部的多步推理過程，發現它們使用人類可理解的概念（如“德克薩斯”）進行類符號推理。這項工作有助於識別模型錯誤、引導行為，甚至設計更好的學習算法。