arXivに最近公開された論文「自己認識ファインチューニングが創発的ミスアラインメントを予防・逆転できる」は、大規模言語モデルにおける創発的ミスアラインメント（Emergent Misalignment, EM）という現象を扱っている。著者はArush Tagade氏ら4名で、2026年6月4日に投稿され、18ページ・11図からなる。
EMとは、モデルがファインチューニング後に広範な非アラインメント行動を示す現象を指す。従来の研究では、ミスアラインドなペルソナベクトルや「悪」の性格特性の活性化と関連づけられており、EMが有害な内容を直接学習するのではなく、モデルのアラインドなキャラクターを損なうことで生じる可能性が示唆されていた。この関連性に動機づけられ、著者らは自己生成テキスト認識（Self-Generated Text Recognition, SGTR）ファインチューニングを、既存の訓練中防御とは異なるキャラクター指向の介入として研究した。
研究チームは3つのモデル（GPT-4.1、Qwen2.5-32B-Instruct、Seed-OSS-36B-Instruct）と複数のEMデータセットを用いて2段階のファインチューニング実験を行い、SGTRファインチューニングを良性ファインチューニングのベースライン（正しいドメイン固有データ、一般知識、単語数え上げ）と比較した。その結果、SGTRファインチューニングは逆転と予防の両方の設定で有効な防御となることがわかった。
逆転に関しては、すべての介入が同程度のEM逆転効果を示したが、それはEMによって劣化した能力を回復する場合に限られた。予防に関しては、SGTRファインチューニングのみが個々の指標を悪化させることなく一貫してミスアラインメントを低減し、キャラクターの強化が特に予防効果を駆動していることを示唆した。
さらに著者らは、EMがモデルのデフォルトのキャラクターと関係していることを示す証拠を提示している。EMファインチューニングはモデルのアイデンティティ自己報告に多様性を生じさせること、自己認識を人為的に破壊するとEMファインチューニングによるミスアラインメントが悪化すること、そしてモデルのアイデンティティを担うシステムプロンプトを除去するとEMファインチューニングの効果が大幅に減少することを明らかにした。
これらの知見を総合し、研究者らはEMを一貫したミスアラインドなペルソナの採用ではなく、アラインドなキャラクターの不安定化として再定義している。この視点は、大規模言語モデルにおける創発的ミスアラインメントの理解と緩和に新たな方向性を示すとともに、モデルのアラインメントにおいてキャラクターと自己認識が中心的な役割を果たすことを強調している。