优化并非万能

2026年，Minh Hua与Rita Raley在论文《优化并非万能》中，对人工智能领域盛行的优化文化进行了深刻批判。该论文即将发表于MFS Modern Fiction Studies（约翰霍普金斯大学出版社，2027年春夏季刊），arXiv编号2607.11977v1，主题涵盖人工智能（cs.AI）与计算语言学（cs.CL）。文章以OpenAI在2019年发布的两百万条GPT-2输出为引子——这些输出语法不完整、半成品化，旨在帮助检测机器生成文本。当时OpenAI出于安全考虑先以受限方式发布GPT-2，随后公开完整模型，并释放这些输出作为检测工具。论文指出，后来通过对齐技术（如RLHF）产生的更流畅模型（如GPT-3、GPT-4等）通常被视为工程胜利，但作者却将其解读为优化文化的最新表现。这种文化相信，沿着预设轴线的可量化改进已经涵盖了价值的所有问题，而这一信念实际上比技术本身更为古老。

作者追溯了这种信念从预训练、解码、偏好调整、基准测试到界面的技术栈。在预训练阶段，模型通过海量文本学习语言概率分布，优化目标是最大化下一个词的预测准确性；解码过程则基于似然选择输出，贪婪搜索或束搜索进一步强化了概率优先原则；偏好调整（如RLHF）将人类反馈转化为奖励信号，优化模型输出以符合某些偏好；基准测试（如GLUE、SuperGLUE、MMLU）定义了性能标准，引导研究向特定指标集中；界面上，用户通过系统提示设定语境，进一步规范输出。每一步都体现了优化思维：将复杂判断简化为可量化的指标。作者进一步回溯了这种文化在审计社会中的谱系，从19世纪的统计社会学，到20世纪的企业管理、教育评估，再到当代的量化自我运动，优化思维已渗透到社会各个角落。

然而，论文揭示了优化的极限：一个优化过程可以衡量一段生成文本的不可预测程度，但无法判断这种不可预测性是错误还是创新。例如，一个优化程序可能将一句新颖的文学表达视为低概率（因而不可接受），但人类读者却可能认为它是天才的创造。这种区分的缺失，在高风险场景（如医疗、法律、学术写作）中可能导致严重错误。更为关键的是，在不到五年内，这些缺乏判断能力的程序已经掌握了定义合法语言的权威。过去，学院、教室、语法学家和考官决定什么是正确的；如今，损失函数、奖励模型、基准测试和系统提示扮演了这一角色。这一转变意味着，语言的标准从人类智慧转向了统计模式，而统计模式本身无法理解语言的价值。论文标题“优化并非万能”正是对这一现状的警示：优化是强大的工具，但不应成为价值的唯一尺度。论文在技术社区引起广泛讨论，提醒研究者重新反思优化的局限性。