Varun Kotte氏による本論文（arXiv:2605.18796、2026年5月11日投稿）は、大規模言語モデル運用におけるコスト課題に焦点を当てている。LLMカスケードやモデルルーティングは、容易なクエリを小型モデルに、難しいクエリを大型モデルに振り分けることで推論コストを下げる手法だが、著者は、実運用されているルーターの多くが未校正の信頼度スコアに依存し、ワークロードごとに閾値を調整する必要がある点を問題視している。
UCCIの中心は「まず校正し、その後にルーティングする」という設計である。トークン単位のマージン不確実性を等張回帰（isotonic regression）によってクエリごとの誤り確率へ変換し、校正済みスコアを得たうえで、制約付きコスト最小化によりエスカレーション閾値を決定する。人手による試行錯誤の閾値調整を不要にする狙いである。理論面では、3つの明示的な仮定の下で校正済みスコアに基づく閾値ポリシーがコスト最適であることを示し、等張校正が期待校正誤差（ECE）に対してO(n^{-1/3})のサンプル複雑度を達成することも示している。
評価には本番環境の固有表現認識（NER）ワークロードを用い、75,000件のクエリをH100 GPU上の4Bおよび12Bの命令チューニング済みモデルで処理した。結果として、micro-F1=0.91を維持しながら推論コストを31%（95%信頼区間：27%〜35%）削減し、ECEを0.12から0.03へ低減した。信頼度スコアが実際の誤り率に近づいたことを示す結果である。
同一の動作点において、UCCIはエントロピー閾値法、split-conformalルーティング、FrugalGPT型の学習閾値を上回った。著者は、すべてのカスケード結果が実際のモデル出力と実測H100遅延に基づくエンドツーエンドのルーティングで得られたものであり、グローバルな精度や名目上のAPI価格によるシミュレーションではない点を強調している。論文は9ページ、図2点、表4点で構成され、コードも公開されている。