树木主要来自空气：一个适用于人工智能安全的一般化教训

许多人认为树木的材质来自土壤中的矿物质，但事实并非如此。树木的干物质绝大部分来自空气中的二氧化碳，通过光合作用转化为碳基结构。这一基本生物学事实曾让一位MIT毕业生感到“非常不安”，而这位毕业生恰恰拥有顶尖学府的学历。这个例子揭示了一个普遍问题：人们往往掌握了大量专业知识，却忽略了最基础的重要概念。

在人工智能安全领域，类似的现象同样存在。许多对AI安全感兴趣的学生能够熟练谈论“对齐造假”、“内部分歧”、“奖励误指定”等术语，甚至参与过具体的解释性研究项目。但当被问及“为什么我们应该认为AI是存在性风险”时，他们却无法给出连贯的答案。这并非因为他们不关心，而是因为AI安全的基础知识——那些支撑整个领域的核心论断——没有被真正内化。

作者将这种现象类比为“树木来自空气”这一被忽视的生物学常识。就像人们学习微积分时自然会深化对分数的理解一样，某些基础知识会在进阶学习中不断被强化。但并非所有基础都如此幸运：知道树木来源并不能直接帮助解决有机化学问题，同样，理解“正交性论点”或“工具性趋同”对日常的实验设计可能没有直接帮助，因此它们容易被忽略。

然而，忽略基础的危险在于，人们可能会失去对问题本身重要性的感知。作者分享了自己的经历：六年前，他刚接触AI安全时，仅停留在外对齐问题的表层理解，并未完全内化问题的难度。直到进入大学后，他才真正理解AI安全的紧迫性，这成为他选择计算机专业并持续努力的动力。他感慨道：“认识到问题的本质会告诉你为什么应该在乎。”

这篇文章呼吁AI安全教育和社群应更加重视基础概念的内化，而不只是追求技术细节或项目经验。只有真正理解了“为什么”，才能产生持续的热情和专注力，避免成为那些知道很多却说不清根本问题的“MIT毕业生”。

作者还提到，他访谈了数十名希望从事AI安全职业的学生，发现他们普遍熟悉具体项目和术语，但无法清晰阐述AI为何是存在性风险。这不仅是个人知识结构的问题，更是当前AI安全教育和社群文化的一种系统性缺陷。他反思了自己过去的经历，指出如果当初没有真正理解问题的严重性，他可能不会坚持选择计算机科学专业并专注于AI安全研究。因此，他呼吁在培养下一代AI安全研究者时，必须确保他们不仅掌握具体技能，更能深刻理解基础概念，这样才能产生持久的动力和正确的方向。