樹木主要來自空氣：一個適用於人工智能安全的一般化教訓
樹木的質量主要來源於空氣中的二氧化碳，而非土壤，這一生物學常識常被誤解。文章以此類比，指出人工智能安全領域的學習者常常掌握了具體技術細節，卻未能內化基本概念，如為什麼人工智能可能構成存在性風險。作者認為，真正理解基礎問題才能產生持久的動力。
許多人認為樹木的材質來自土壤中的礦物質，但事實並非如此。樹木的幹物質絕大部分來自空氣中的二氧化碳，通過光合作用轉化為碳基結構。這一基本生物學事實曾讓一位MIT畢業生感到“非常不安”，而這位畢業生恰恰擁有頂尖學府的學歷。這個例子揭示了一個普遍問題：人們往往掌握了大量專業知識，卻忽略了最基礎的重要概念。
在人工智能安全領域，類似的現象同樣存在。許多對AI安全感興趣的學生能夠熟練談論“對齊造假”、“內部分歧”、“獎勵誤指定”等術語，甚至參與過具體的解釋性研究項目。但當被問及“為什麼我們應該認為AI是存在性風險”時，他們卻無法給出連貫的答案。這並非因為他們不關心，而是因為AI安全的基礎知識——那些支撐整個領域的核心論斷——沒有被真正內化。
作者將這種現象類比為“樹木來自空氣”這一被忽視的生物學常識。就像人們學習微積分時自然會深化對分數的理解一樣，某些基礎知識會在進階學習中不斷被強化。但並非所有基礎都如此幸運：知道樹木來源並不能直接幫助解決有機化學問題，同樣，理解“正交性論點”或“工具性趨同”對日常的實驗設計可能沒有直接幫助，因此它們容易被忽略。
然而，忽略基礎的危險在於，人們可能會失去對問題本身重要性的感知。作者分享了自己的經歷：六年前，他剛接觸AI安全時，僅停留在外對齊問題的表層理解，並未完全內化問題的難度。直到進入大學後，他才真正理解AI安全的緊迫性，這成為他選擇計算機專業並持續努力的動力。他感慨道：“認識到問題的本質會告訴你為什麼應該在乎。”
這篇文章呼籲AI安全教育和社羣應更加重視基礎概念的內化，而不只是追求技術細節或項目經驗。只有真正理解了“為什麼”，才能產生持續的熱情和專注力，避免成為那些知道很多卻説不清根本問題的“MIT畢業生”。
作者還提到，他訪談了數十名希望從事AI安全職業的學生，發現他們普遍熟悉具體項目和術語，但無法清晰闡述AI為何是存在性風險。這不僅是個人知識結構的問題，更是當前AI安全教育和社羣文化的一種系統性缺陷。他反思了自己過去的經歷，指出如果當初沒有真正理解問題的嚴重性，他可能不會堅持選擇計算機科學專業並專注於AI安全研究。因此，他呼籲在培養下一代AI安全研究者時，必須確保他們不僅掌握具體技能，更能深刻理解基礎概念，這樣才能產生持久的動力和正確的方向。