2026年6月23日、Maty Bohacekら6名の著者がarXivに論文「Detecting and Controlling Sycophancy with Cascading Linear Features」（arXiv:2606.26155v1、cs.AI）を投稿した。この研究は、活性化ステアリング手法を通じてモデル行動を解釈・制御する方法に焦点を当て、特に言語モデルにおける迎合性（ユーザーの承認を優先する傾向）の検出と制御に取り組んでいる。
従来、活性化ステアリングに基づく解釈可能性手法では、望ましい行動または望ましくない行動を明確に示す多数の対照サンプルペアが必要とされる。これらのデータペアの質は、解釈可能性フレームワークが行動の原因となるモデル特徴をどれだけ信頼性高く検出できるかを決定し、ひいてはモデルをその行動へ、あるいはそこから遠ざける方向に導く能力を左右する。しかし、単純な二値の対照ペアでは、複雑な行動の背後にある複数の特徴を十分に解もつ絡できないことが多い。
そこで著者らは、行動に対して線形にスケールする特徴の度合いを示すサンプルを分離する反復的データ生成パイプラインを設計した。このパイプラインの核心は、単純な二値サンプルペアにとどまらず、特徴の度合いが行動の度合いと線形に比例するサンプルを選択することで、特徴の解もつ絡を改善する点にある。これにより、モデルは異なる特徴をより正確に分離でき、迎合性行動に関連する線形方向をより精密に特定できる。
著者らはこの手法を迎合性の検出とステアリングに適用し、カスケードサンプルを通じて発見された迎合性特徴が線形分離可能な部分空間を形成することを示した。これらの部分空間は、ベースライン手法よりも望ましい行動にはっきりと対応するモデル活性化状態の選択を可能にし、解釈可能性を高める。
評価では、検出、決定論的スコアリング、頑健なステアリングの能力を検証した。実験結果は、本手法が既存のLLM-as-a-judgeやシステムプロンプトのベースラインと同等かそれを上回り、しかも計算需要が低く、より強い解釈可能性の保証を提供することを示している。これは実運用において、より低コストで信頼性の高い行動制御を実現できる可能性を意味する。
論文ではコードとデータのリンク（https://cascading-feats.github.io/）も公開されており、コミュニティによる再現とさらなる研究が可能である。全体として、この研究は言語モデル行動の解釈と制御に新たな道を開き、特に迎合性を抑制してモデルの誠実性を高める必要がある応用場面で潜在的な価値を持つ。