AIの安全性において、安全な出力と危険な出力を定義する安全ポリシーは、データアノテーションとモデル開発の基盤となる。しかし、アノテータ間の不一致は頻繁に発生し、その原因は運用ミス（タスクの誤解や誤実行）、ポリシーの曖昧さ（表現に解釈の余地がある）、または価値多元性（異なる安全観）に分類される。これらの原因を区別することは重要であり、例えば運用ミスには品質管理、曖昧さにはポリシーの明確化、価値多元性には多様な視点の取り込みが求められる。しかし、不一致の理由を理解するのは容易ではない。直接理由を尋ねるのはコストが高く、自己報告は実際の意思決定プロセスを反映しないことが多いため、人間とLLMの両方のアノテータにおいて信頼性に欠ける。
そこで、本研究ではアノテータポリシーモデル（APM）を提案する。APMは、アノテータのラベリング行動のみから内部の安全ポリシーを学習する解釈可能なモデルであり、追加のアノテーション作業なしにアノテータの推論を可視化・比較できる。実験では、APMが80%以上の精度でアノテータの安全ポリシーをモデル化し、反実仮想的な編集に対する応答を忠実に予測できること、また制御環境で既知のポリシー差異を再現できることを確認した。
APMの応用として、以下の2つを実証している。1つ目は、アノテータが安全指示をどのように異なる解釈をしているかを明らかにすることでポリシーの曖昧さを表面化すること、2つ目は、人口統計学的グループ間で安全優先順位の体系的な差異を明らかにすることで価値多元性を表面化することである。これらの能力は、よりターゲットを絞った、透明で包摂的な安全ポリシー設計を支援する。
本論文は、Alex Oesterling、Donghao Ren、Yannick Assogba、Dominik Moritz、Sunnie S.Y. Kim、Leon Gatys、Fred Hohmanによって執筆され、全38ページ、13の図表を含む。ACM FAccT 2026に採択され、2026年5月6日にarXivに投稿された（ID: 2605.05329）。研究はSimons Foundationなどの支援を受けて行われた。