序列观点#892：好环境的解剖：当可验证性不足时

在最近一期Dwarkesh Patel与Grant Sanderson的对话中，Sanderson提出了一个观点：“可磨砺性（grindability）与可验证性（verifiability）同样重要。”这让我思考了数月之久。问题看似简单：什么是一个适合人工智能的领域？并非指商业上的吸引力，而是指如果你将现代训练流程应用于该领域，能力是否会真正累积。

标准的答案是可验证性，这并没有错。但我逐渐认识到，可验证性只是高维空间中的一个轴。而那些AI表现惊人的领域（数学、代码、棋盘游戏）恰好同时在所有轴上得分很高。相反，进展缓慢且令人失望的领域，如计算机使用、机器人技术和开放式知识工作，通常只在一两个轴上表现强劲，而在其他方面存在缺陷。一旦你认识到这些完整的属性，许多当前的困惑就会迎刃而解：为什么推理模型先擅长数学而非处理你的收件箱？为什么强化学习环境创业公司突然获得数十亿美元的预算？以及为什么我认为其中一些环境会让买家失望。

让我们逐一探讨这些轴。对于每个属性，我会给出一个具有该属性的领域和一个明显缺乏该属性的领域，因为对比能带来直观的理解。

可验证性

可验证性是最常被提及的属性。如果一个领域存在明确的标准来判断解决方案的正确性，那么AI就能快速学习。例如，数学问题有明确答案，代码可以编译和测试。然而，可验证性本身并不足够。许多可验证的领域仍然让AI举步维艰，比如形式化验证本身，因为缺乏另一个关键属性——可磨砺性。

可磨砺性

可磨砺性指的是领域能够提供密集、连续的反馈信号，使得模型可以通过大量尝试逐渐改进。游戏环境就是典型例子，每一步都有即时反馈。而像开放式知识工作，反馈稀疏且延迟，导致学习效率低下。

其他维度

除了可验证性和可磨砺性，还存在其他重要的轴，比如组合性、可分解性、以及任务边界是否清晰。这些属性的组合决定了AI的适用性。例如，在数学和代码中，问题可以分解成子问题，且每个子问题都有明确目标；而在机器人领域，物理世界的复杂性使得分解困难。

总之，一个理想的AI领域需要同时具备多个有利属性。当前许多强化学习创业公司构建的环境只注重可验证性，而忽视了可磨砺性，这可能导致投资失败。理解这些属性有助于更明智地选择AI应用方向。