最適化だけでは不十分

2026年、Minh HuaとRita Raleyによる論文「最適化だけでは不十分」は、人工知能における最適化文化を鋭く批判する。この論文はMFS Modern Fiction Studies（ジョンズ・ホプキンス大学出版局、2027年春夏季号）に掲載予定であり、arXiv番号は2607.11977v1、主題は人工知能（cs.AI）と計算言語学（cs.CL）を対象としている。記事は、OpenAIが2019年に公開した200万のGPT-2出力——文法的に不完全で半壊状態のテキスト——を導入部としている。これらの出力は、機械生成テキストの検出を支援するためにリリースされた。当時、OpenAIは安全性の懸念から最初は制限付きでGPT-2を公開し、その後完全モデルを公開するとともに、検出ツールとしてこれらの出力を提供した。論文は、アラインメント技術（例えばRLHF）によって生み出されたより流暢な後継モデル（GPT-3、GPT-4など）は通常、工学的成果と見なされるが、著者らはこれを最適化文化の最新の表現と解釈する。この文化は、事前定義された軸に沿った測定可能な改善が価値の問題を尽くすという確信に基づいており、その信念は技術そのものよりも古い。

著者らは、この確信を事前学習、デコード、選好調整、ベンチマーク、インターフェースというスタックを通じて追跡する。事前学習では、モデルは膨大なテキストから言語の確率分布を学習し、最適化目標は次の単語の予測精度を最大化することである。デコードプロセスでは、尤度に基づいて出力が選択され、貪欲探索やビーム探索によって確率優先の原則が強化される。選好調整（RLHFなど）は、人間のフィードバックを報酬信号に変換し、特定の選好に合わせてモデル出力を最適化する。ベンチマーク（GLUE、SuperGLUE、MMLUなど）は性能基準を定義し、研究を特定の指標に集中させる。インターフェースでは、ユーザーがシステムプロンプトを通じて文脈を設定し、出力をさらに規範化する。各ステップは最適化思考を体現しており、複雑な判断を定量化可能な指標に還元する。著者らはさらに、この文化の系譜を監査社会に遡る。19世紀の統計社会学から、20世紀の経営管理、教育評価、そして現代の定量化自己運動に至るまで、最適化思考は社会のあらゆる側面に浸透している。

しかし、論文は最適化の限界を明らかにする。最適化手続きは生成テキストの不確かさ（improbability）を測定できるが、その不確かさが誤りであるか inventiveness であるかを区別できない。例えば、最適化プログラムは斬新な文学的表現を低確率（したがって受け入れられない）と判断するかもしれないが、人間の読者はそれを天才的な創造と見なすかもしれない。この区別の欠如は、医療、法律、学術執筆などの高リスクシナリオにおいて深刻な誤りを引き起こす可能性がある。さらに重要なことに、この区別できない手続きが、わずか5年以内に、正当な言語のプロトコルを設定する権威を掌握した。数世紀にわたってアカデミー、教室、文法学者、試験官が保持してきたこの権威は、損失関数、報酬モデル、ベンチマーク、システムプロンプトに委ねられた。すなわち、判断の役割を実行するが判断能力を持たない装置である。この移行は、言語の基準が人間の知性から統計的パターンへと移ったことを意味し、統計的パターン自体は言語の価値を理解できない。論文のタイトル「最適化だけでは不十分」は、この現状への警告である。最適化は強力なツールであるが、価値の唯一の尺度となるべきではない。この論文は技術コミュニティで広く議論され、研究者に最適化の限界を再考するよう促している。