大規模言語モデル（LLM）は、事実的・推論的な知識を内部表現に符号化しているにもかかわらず、それが表面出力に忠実に反映されないことが頻繁にある。この現象は「潜在知識」と呼ばれる。既存の潜在知識抽出アプローチであるContrastive Consistency Search（CCS）は対照的な活性化パターンに依存しており、複雑な多段階推論タスクでは苦戦する。一方、機械論的解釈可能性ツールは主にモデル行動の「理解」に用いられ、隠れた知識の「抽出」には使われてこなかった。
このギャップを埋めるため、Ji-jun Park氏ら5名の著者は2026年4月7日にarXiv論文を提出し、MechELKという統合的な3段階フレームワークを発表した。MechELKは以下の3段階で動作する。第一に「位置特定」では、スパースオートエンコーダ（SAE）の特徴分析と活性化パッチングを用いて知識を保持する表現を特定する。第二に「検証」では、因果的プロービングを採用し、真の潜在知識と見せかけの相関を区別する。第三に「抽出」では、表現エンジニアリングを適用し、モデルの重みを変更することなく隠れた知識を表面化させる。
研究チームはTruthfulQA、厳選された欺瞞的アライメントベンチマーク、Quirky LMデータセットでMechELKを評価した。その結果、平均抽出精度は84.7%に達し、CCSを6.2ポイント、直接線形プロービングを9.1ポイント上回った。さらに重要な点として、モデルの表面出力が誤っているか回避的なケースのうち78.3%で潜在知識の特定に成功しており、欺瞞的アライメント検出を含むAI安全性アプリケーションへの有用性を示している。
本論文は計算と言語（cs.CL）分野に属し、arXiv:2605.28825v1として公開され、全文は約97KBで、PDF、実験的HTML、TeXソースなどの形式でアクセスできる。この研究は、機械論的解釈可能性をモデル行動の単なる理解から、隠れた知識の能動的抽出へと押し進め、AI安全性評価に新たなツールの道筋を提供するものである。