大規模言語モデル（LLM）の隠れ状態の線形プロービングは、モデルが異なる推論タイプに対して異なる表現を学習していると主張するためによく用いられる。しかし、arXiv（番号2606.02907）に発表された論文は、この手法に疑問を投げかけている。著者のSubramanyam Sahooらは、Qwen3-14Bモデルにおいて、古典的な三分法を網羅する3つのベンチマーク——LogiQA 2.0（演繹推論）、ARC-Challenge（帰納推論）、αNLI（アブダクション推論）——を対象に線形プローブ実験を行った。
40層のうち第32層において、線形プローブは100%の交差検証精度を達成し、幾何学的構造も良好に分離されていた。3つのタスクの内在次元はそれぞれ20.6、28.5、33.6であり、凸包汚染率は1.5%以下であった。この結果は、モデルが異なる推論タイプに対して異なる表現を学習しているという見方を支持するように見える。
しかし、著者らはさらに分析を進め、この分離が完全に形式の交絡因子によって駆動されていることを明らかにした。ソースの同一性、選択肢の数、応答の長さを残差化すると、プローブの精度はチャンスレベルまで低下した。これは、高い精度が推論モードの計算構造の違いに由来するのではなく、タスク形式の違いに由来することを意味する。
さらに、トレースアンカー類似性分析により、タスク間の推論プロセスが大部分共有されていることが示された。一致率は42.5%であり、チャンスレベルは33.3%である。さらに重要なことに、ランダム対照（n=20）を用いた因果ステアリング実験では、幾何学構造と推論モードの間に関連性は見出されなかった（p=0.286）。
したがって、著者らは、高いプローブ精度は計算構造ではなくタスク形式を反映していると結論付けている。この発見は機械的解釈可能性研究に重要な示唆を与え、著者らは同様の研究において日常的に形式の交絡除去を行うことを推奨している。なお、本論文はACL 2026の第6回Trustworthy NLPワークショップに採択されている。