機械学習研究のうちAI安全性に関するものはどの程度か？内容と主要な研究者は？
LessWrongの記事がICML 2026の論文を分析し、AI安全性に焦点を当てた研究はごく一部であることを明らかにした。999編中954編が検索可能で、そのうち約10編のみが安全性に特化。アラインメント、ロバスト性、解釈可能性などのテーマが扱われ、主に大学や企業研究所が貢献している。
機械学習研究の急速な発展の中、AI安全性に割かれる資源はどれほどか？LessWrongの記事がICML 2026の論文を体系的に分析し、この問いに答えた。
研究チームは全999編中954編を検索し、AI安全性に特化した論文が約10編しかないことを発見した。これらの論文は主に三つの方向性—AIアラインメント（目標の一致）、ロバスト性（敵対的攻撃への耐性）、および解釈可能性（モデル決定の理解可能性）—を扱っている。他の論文は安全性に関連するが、中心テーマではない。
主な貢献者はスタンフォード大学やMITなどの学術機関と、DeepMindやOpenAIなどの企業ラボである。数は少ないが、研究の質は高く、一部の成果は被引用数で上位にランクインしている。著者らは、将来の高度なAIシステムの潜在的リスクに備え、機械学習コミュニティが安全性研究への投資を増やすよう呼びかけている。