言語モデルの能力評価において、生成品質を形式的に測定する方法は常に中心的な課題である。最近のarXiv論文「Generating in the Limit with Infinitely Many Hallucinations」は、極限言語生成フレームワークを深く掘り下げ、大規模言語モデルが開放環境で示す振る舞いを理解するための新たな理論的ツールを提供する。本論文はIrene Straussら3名の著者によって執筆され、2026年6月8日に提出され、計算と言語、形式言語とオートマトン理論、機械学習など複数の分野にまたがっている。
古典的な「極限言語識別」パラダイムでは、学習を敵対者と学習者の間のゲームとしてモデル化する。敵対者は未知の目標言語から文字列を明らかにし、学習者はその言語を識別する必要がある。これに対し、最近導入された「極限言語生成」フレームワークは、目標を現代の言語モデリングにより近いタスクに転換する。学習者は目標言語から有効で未見の文字列を生成しなければならない。しかし関連研究は根本的な緊張を明らかにした。目標言語の広範なカバレッジは、しばしば有効性を犠牲にするのである。
この緊張を解決するため、本論文は新たな精度の概念を導入し、問題を古典的な再現率と精度のトレードオフとして再構成する。著者らは、列挙、新規性、有効性に関するさまざまな制約の下での極限生成を分析し、大規模言語モデルが実際に直面する状況に近い設定を反映させることを目指した。本論文の重要な貢献の一つは、最終的に有効でない学習者の分析である。無限の誤りを許容するが、その頻度がゼロに近づく限り精度は1に保たれる。著者らは、敵対者が目標言語の大部分を永久に保留する場合、この緩和が再現率を厳密に増加させ得ることを証明した。さらに、新規性制約の連続的緩和も研究し、出力の一定割合のみが新規であることを要求する設定を扱った。
これらの結果は、時折の誤りや繰り返しが避けられないが、その発生率が制御された、より現実的な言語生成モデルへと向かうものである。本研究は大規模言語モデルの幻覚現象を理解するための理論的視点を提供し、特定の条件下では低頻度の幻覚を許容することがカバレッジ向上の必要な代償となり得ることを示唆している。