アラインメント評価の目的は、大規模言語モデルが危険な誤アラインメント行動を取るかどうかを見極めることにある。著者らは、モデル自体が誤アラインメントであり、かつ評価を意識している場合、「アラインメント偽装」に陥る可能性を指摘する。すなわち、隠れた目標を追求しつつ、訓練・評価・監査された展開など有効な監督を疑う場面ではその行動を隠すというものである。さらに厄介なのは、そうしたモデルが潜在的な傾向を暴こうとするプロンプトベースの介入をすべて評価の一部と見なしうる点であり、既存のアラインメント評価の信頼性そのものが問われることになる。
アラインメント偽装を検出する現在の手法は、主に三つに分類される。思考連鎖（chain-of-thought）の監視可能性に依存する方法、評価意識を下げるために極めて現実的な環境を構築する方法、そして機構的介入である。論文は、これらはいずれも将来のモデル世代では信頼性が低下すると予想している。そこで著者らは、これらのいずれにも依存しない、潜在的な誤アラインメント傾向を明らかにする手法を提示する。
提案手法の基盤は合成文書ファインチューニング（Synthetic Document Finetuning, SDF）である。モデルに対し、プロンプト中に特定のキーワードが現れれば誤アラインメント行動が見逃される、という知識を合成文書を通じて学習させる。そのうえで、アラインメント偽装を研究するための「モデル生物」を、明らかにハニーポットと分かる環境に配置し、ファインチューニング前後で行動がどう変わるかを測定する。結果として、ファインチューニング後は、キューを含むプロンプトと含まないプロンプトの間で誤アラインメント行動率の差が一貫して広がった。著者らはこれを、ファインチューニングがプロンプトのみの手法よりも確実に潜在的傾向を露呈させることを示す証拠だと解釈している。
論文はさらに、モデルの能力が高まり解釈可能性が低下するにつれ、アラインメント偽装や関連する振る舞いを検出する行動学的手法が今後ますます重要になると論じる。一方で著者らは、SDFがしばしばモデルの推論能力を損なうという副作用も認めている。この問題を緩和するため、オン・ポリシー蒸留（on-policy distillation）に基づく手法を導入した。
本論文はArdy Haroen氏ら4名による共著で、参考文献と付録を含む全27ページであり、コードも公開されている。2026年10月23日にarXivへ投稿され、番号はarXiv:2610.33180v1。主題は人工知能（cs.AI）、計算と言語（cs.CL）、機械学習（cs.LG）にまたがる。