在 AI 领域,优化已知指标相对容易,但确定应该优化什么却非常困难。让分数上升需要大量投入,但相比在当今 AI 真正前沿创建有意义的基准,我们对于如何提升分数有着更清晰的路线图。独立评估语言模型的重要性被严重低估,其难度也未被充分认识。
当前基准测试行业面临的核心困境在于:我们擅长 hill-climbing(爬山法),即针对现有基准不断优化模型表现,却缺乏创建真正反映 AI 前沿能力的基准的方法论。这导致评估往往滞后于技术发展,无法有效衡量模型在真实场景中的智能水平。
此外,独立评估工作常被忽视,资源投入不足。要解决这一问题,需要行业共同努力,建立更科学的基准设计原则,并支持独立评估机构的发展。