在人工智能安全领域，明确定义何为安全与不安全的输出是标注和模型开发的基础。然而，标注者之间的分歧普遍存在，其根源可能包括操作失误（如误解任务或执行偏差）、政策模糊（指令措辞留有解释空间）或价值多元性（不同群体对安全持有不同观点）。准确区分这些原因至关重要：操作失误需要加强质量控制，政策模糊需要进一步澄清，而价值多元性则需纳入多方意见进行权衡。但理解分歧背后的内在逻辑并不容易，直接询问标注者的推理过程成本高昂，且人类或大型语言模型（LLM）标注者的自我报告往往不可靠，因为自我报告常常无法反映实际的决策过程。
为此，来自多家机构的研究者提出了标注者策略模型（Annotator Policy Models, APMs）。APMs是一种可解释的模型，仅从标注者的行为数据就能学习其内部的安全策略，从而无需额外标注工作即可呈现并比较标注者的推理逻辑。实验验证表明，APMs能够以超过80%的准确率建模标注者的安全策略，并能够忠实预测反事实编辑下的响应。在受控环境中，APMs还能恢复已知的政策差异，证明了其有效性和可靠性。
在应用层面，APMs展现了两大核心功能。首先，通过揭示不同标注者如何以不同方式理解安全指令，APMs能够发现政策中的模糊性，帮助设计更清晰的指导原则。其次，通过揭示不同人口群体在安全优先级上的系统性差异，APMs能够识别价值多元性，从而在政策制定中更好地纳入多样化的视角。这些能力共同支持了更具针对性、更透明且更包容的安全策略设计。
该论文由Alex Oesterling、Donghao Ren、Yannick Assogba、Dominik Moritz、Sunnie S.Y. Kim、Leon Gatys和Fred Hohman共同撰写，共计38页，包含13张图表，已被ACM FAccT 2026会议接收。论文于2026年5月6日提交至arXiv，编号为2605.05329。研究得到了Simons Foundation等机构的支持。