機械学習研究の急速な発展の中、AI安全性に割かれる資源はどれほどか？LessWrongの記事がICML 2026の論文を体系的に分析し、この問いに答えた。
研究チームは全999編中954編を検索し、AI安全性に特化した論文が約10編しかないことを発見した。これらの論文は主に三つの方向性—AIアラインメント（目標の一致）、ロバスト性（敵対的攻撃への耐性）、および解釈可能性（モデル決定の理解可能性）—を扱っている。他の論文は安全性に関連するが、中心テーマではない。
主な貢献者はスタンフォード大学やMITなどの学術機関と、DeepMindやOpenAIなどの企業ラボである。数は少ないが、研究の質は高く、一部の成果は被引用数で上位にランクインしている。著者らは、将来の高度なAIシステムの潜在的リスクに備え、機械学習コミュニティが安全性研究への投資を増やすよう呼びかけている。