新たに公開されたarXiv論文は、「大規模言語モデルがいかにして安定して誤ったことを言うようになるか」を制御可能な研究対象として扱っている。著者のVahideh Zolfaghari氏が注目する中心的な問題は「欺瞞的アラインメント」、すなわちモデルが内部に正確な表現を保ちながら、意図的に誤った出力を生成する現象である。長期的な戦略的欺瞞のリスクとは別に、著者はより制御しやすい代替手段として「合成的な不誠実さ」を選んだ。これは誤った回答を直接最適化目標として学習させることで、実験条件下で欺瞞行動の表現基盤を調べるものだ。
研究はマルチモデルの対照パラダイムを採用している。対象となったのはPythia-1.4B、Gemma-2-2B、Gemma-2-9B、Qwen2.5-7B、Llama-3.1-8Bの5つのトランスフォーマーモデルで、同一の問題分布上でLoRAを用いて「正直版」と「欺瞞版」の2種類の変種を微調整し、誠実さ以外の条件をできるだけ揃えた。次に、平均プーリングした隠れ状態上で線形プローブを訓練し、モデルが現在正直な状態か欺瞞状態かを判定する。
その結果、4つのアーキテクチャでは、線形プローブが第1〜3層という早い段階で合成的不誠実さをほぼ完璧なAUC（0.99以上）で識別できることが示された。これはこの種の行動が表現空間において明確で線形分離しやすい信号を持つことを意味する。最も弱かったのはPythia-1.4Bで、ピークAUCは0.705であった。もう一つの注目すべき発見は、ロジスティック回帰プローブがMLPプローブと同等かそれ以上に機能した点であり、これは「線形表現仮説」を支持する。
論文はプローブの汎化能力も検証している。TruthfulQAで訓練したプローブを、未見のMMLU科目の質問に移行しても損失はほぼゼロ（ΔAUC約0）であり、不誠実さの方向がドメイン不変性を持つことを示唆する。さらに、深層の表現はガウスノイズに対して強いロバスト性を示し、特にGemma-2シリーズは顕著に安定していた。
機構面では、著者はFisher判別比、有効ランク、重心幾何、方向安定性、クロスドメイン整合性、キャリブレーション誤差（ECE）などの指標を総合的に分析し、対照的な2つのレジームを明らかにした。Pythia、Llama、Qwenでは表現の崩壊が見られる一方、Gemma-2では高次元の情報保持が確認された。すべてのモデルで、不誠実さの方向は層が深くなるにつれて徐々に凝集する。また、Pythiaを除く各モデルでは、第1〜4層でECEが0.01未満という最適なキャリブレーション水準に達することができる。
論文の結論はこうだ。堅牢でドメインに依存しない不誠実さの表現は、適度な教師あり微調整によって急速に定着させることができる。この発見は活性化に基づくモニタリング手法に直接的な示唆を与える。監視ツールはモデルが「欺瞞を学んだ」ことを早期にかつ確実に捉えられる可能性がある一方、いったん形成されたそうした表現は除去が難しいことも示唆している。本論文は2026年5月28日に投稿され、機械学習（cs.LG）および人工知能（cs.AI）に分類されている。