LLMは次の偉大なアイデアを生み出さない理由

LLMは日常的なコーディング、研究、執筆において非常に有用だが、根本的には真に新しいアイデアを創出できない。本稿では、メカニズム（次トークン予測は既存の人間の思考の凸包内での補間に過ぎない）とスケール（数百万のLLM出力の大規模実験が外挿的な新規性を生んでいない）の両面から論じる。また、早期情報圧縮パイプライン（LLM Wikiなど）がデータ処理不等式に違反し、不可逆的な情報損失とエラーの連鎖を引き起こすと批判する。結論：LLMは既存知識のナビゲーションツールであり、アイデア生成器ではなく、全員を平均値に引き寄せ、真の新規性を抑制する。