機器學習研究中有多少是關於AI安全的？涉及哪些內容？誰在做？
LessWrong上的一篇文章分析了ICML 2026的論文，發現僅有一小部分機器學習研究專注於AI安全。在999篇論文中，954篇可檢索，其中只有約10篇明確涉及安全議題，涵蓋對齊、魯棒性和可解釋性等領域。研究主要由學術機構和工業實驗室開展。
機器學習研究在人工智能領域發展迅速，但其中有多少專用於AI安全？LessWrong上的一篇文章對ICML 2026的論文進行了系統分析，試圖回答這一問題。
研究團隊從總共999篇論文中檢索到954篇，發現僅有約10篇明確聚焦於AI安全。這些論文主要涉及三個方向：AI對齊（確保AI系統目標與人類一致）、魯棒性（抵抗對抗攻擊）和可解釋性（理解模型決策）。其他論文雖涉及安全邊緣議題，但並非核心。
主要貢獻者來自學術機構如斯坦福大學、MIT，以及工業實驗室如DeepMind和OpenAI。儘管數量少，但研究質量較高，部分成果被引次數領先。作者呼籲ML社區增加對安全研究的投入，以應對未來高級AI系統的潛在風險。