在人工智能安全領域，明確定義何為安全與不安全的輸出是標註和模型開發的基礎。然而，標註者之間的分歧普遍存在，其根源可能包括操作失誤（如誤解任務或執行偏差）、政策模糊（指令措辭留有解釋空間）或價值多元性（不同羣體對安全持有不同觀點）。準確區分這些原因至關重要：操作失誤需要加強質量控制，政策模糊需要進一步澄清，而價值多元性則需納入多方意見進行權衡。但理解分歧背後的內在邏輯並不容易，直接詢問標註者的推理過程成本高昂，且人類或大型語言模型（LLM）標註者的自我報告往往不可靠，因為自我報告常常無法反映實際的決策過程。
為此，來自多家機構的研究者提出了標註者策略模型（Annotator Policy Models, APMs）。APMs是一種可解釋的模型，僅從標註者的行為數據就能學習其內部的安全策略，從而無需額外標註工作即可呈現並比較標註者的推理邏輯。實驗驗證表明，APMs能夠以超過80%的準確率建模標註者的安全策略，並能夠忠實預測反事實編輯下的響應。在受控環境中，APMs還能恢復已知的政策差異，證明了其有效性和可靠性。
在應用層面，APMs展現了兩大核心功能。首先，通過揭示不同標註者如何以不同方式理解安全指令，APMs能夠發現政策中的模糊性，幫助設計更清晰的指導原則。其次，通過揭示不同人口羣體在安全優先級上的系統性差異，APMs能夠識別價值多元性，從而在政策制定中更好地納入多樣化的視角。這些能力共同支持了更具針對性、更透明且更包容的安全策略設計。
該論文由Alex Oesterling、Donghao Ren、Yannick Assogba、Dominik Moritz、Sunnie S.Y. Kim、Leon Gatys和Fred Hohman共同撰寫，共計38頁，包含13張圖表，已被ACM FAccT 2026會議接收。論文於2026年5月6日提交至arXiv，編號為2605.05329。研究得到了Simons Foundation等機構的支持。