大規模言語モデル（LLM）を高リスク領域に展開する際、不確実性定量化（UQ）は主要な安全策として広く認識されている。しかし、ICML 2026の立場論文トラックに採択された論文は、この分野に根本的な問題があると指摘する。Tiejin Chenら4名による論文「立場：LLMにおける不確実性定量化は単なる教師なしクラスタリングである」は2026年5月19日にarXivに投稿された。
論文の中心的主張は、現在の主流のUQ手法がカテゴリー錯誤を犯しているというものだ。これらの手法は本質的に教師なしクラスタリングアルゴリズムに過ぎず、モデル生成の内部一貫性を定量化しているのであって、外部の正確性を測っているのではない。言い換えれば、異なるサンプリング下での出力の安定性を測っているだけで、出力が事実に合致しているかどうかは測っていない。したがって、既存の手法は事実現実に対して基本的に盲目である。
この欠陥は深刻な問題を引き起こす。モデルは安定しているが誤った回答に対して高い自信を示すことがあり、これは「自信過剰な幻覚」と呼ばれる。UQ手法は内部一貫性のみに注目するため、このような幻覚を検出できず、むしろ展開者に偽りの安全感を与える可能性がある。著者らは、現在のUQ手法に依存してモデルを展開することは、欺瞞的な安全の錯覚を生み出すと警告する。
論文は内部状態への依存から生じる三つの重要な病理を詳述する。第一に、ハイパーパラメータ感度の危機：UQ手法の性能はハイパーパラメータの選択に大きく依存し、展開を不安全にする。第二に、内部評価サイクル：評価プロセスが循環し、安定性と真実を混同して、モデルが実際に正しいかどうかを区別できない。第三に、客観的真実の欠如：不確実性を評価する際に客観的真値を参照できないため、不安定な代理指標に頼らざるを得ず、評価結果が信頼できなくなる。
この行き詰まりを解決するため、著者らはUQ分野のパラダイムシフトを提唱し、研究コミュニティ向けのロードマップを描く。ロードマップは三つの方向性を含む。より良い評価指標と設定を採用し、モデルの不確実性を真に反映させること。メカニズムの変更を実施し、モデルにネイティブな不確実性表現能力を持たせること。検証を客観的真実に基づかせ、モデルの自信が現実を確実に反映するようにすること。著者らは、これらの変化によってのみ、UQがLLM展開時の信頼できる安全策になると強調する。