近年、潜在推論モデル（Latent Reasoning Models, LRMs）が注目を集めており、明示的な思考連鎖の代わりに連続的な潜在思考を用いて推論を行う。従来の研究では、BFS的フロンティアやデコード可能な算術計算などの観察可能な潜在状態パターンが、モデル内部における推論メカニズムの存在を示す証拠として扱われてきた。しかし、2026年6月10日にarXivに投稿された新しい論文「Observable Patterns Are Not Explanations: A Causal-Geometric Analysis of Latent Reasoning Models」（論文番号2606.12689）は、この見解に根本的な疑問を投げかけている。
この論文はDarpan Aswal氏を含む4人の著者によるもので、CoconutとCODIという2つの代表的なLRMを評価し、提案された再帰やカリキュラムを欠いた制御モデルと比較している。結果は衝撃的だった。推論パターンと考えられていたものは、制御モデルでも同様に出現し、必ずしもモデルの行動に因果的影響を与えていなかったのである。
因果的介入実験により、潜在思考の利用は二値的ではなく段階的であり、その因果効果は思考が行動に与える影響の度合いに比例してスケーリングすることが明らかになった。さらに幾何学的解析により、この因果効果は低ランク方向に集中し、行動への影響が大きくなるにつれて、ステップ間の幾何学的構造がより秩序立つことが示された。
著者らは、潜在思考は「隠れた説明」ではなく「隠れた計算」として扱われるべきだと強調する。デコード可能性、注意、静的な構造だけではメカニズムを立証できず、LRMの解釈可能性には適切にマッチングされた制御群と因果テストが不可欠である。
この結論は、AI解釈可能性分野に重要な警鐘を鳴らすものである。因果的検証なしに観察可能なパターンを内部推論メカニズムと同一視することは誤解を招く可能性があり、今後の研究ではモデルの行動説明に因果的基盤を確保するための対照実験の設計が重要となる。