序列觀點#892：好環境的解剖：當可驗證性不足時

在最近一期Dwarkesh Patel與Grant Sanderson的對話中，Sanderson提出了一個觀點：“可磨礪性（grindability）與可驗證性（verifiability）同樣重要。”這讓我思考了數月之久。問題看似簡單：什麼是一個適合人工智能的領域？並非指商業上的吸引力，而是指如果你將現代訓練流程應用於該領域，能力是否會真正累積。

標準的答案是可驗證性，這並沒有錯。但我逐漸認識到，可驗證性只是高維空間中的一個軸。而那些AI表現驚人的領域（數學、代碼、棋盤遊戲）恰好同時在所有軸上得分很高。相反，進展緩慢且令人失望的領域，如計算機使用、機器人技術和開放式知識工作，通常只在一兩個軸上表現強勁，而在其他方面存在缺陷。一旦你認識到這些完整的屬性，許多當前的困惑就會迎刃而解：為什麼推理模型先擅長數學而非處理你的收件箱？為什麼強化學習環境創業公司突然獲得數十億美元的預算？以及為什麼我認為其中一些環境會讓買家失望。

讓我們逐一探討這些軸。對於每個屬性，我會給出一個具有該屬性的領域和一個明顯缺乏該屬性的領域，因為對比能帶來直觀的理解。

可驗證性

可驗證性是最常被提及的屬性。如果一個領域存在明確的標準來判斷解決方案的正確性，那麼AI就能快速學習。例如，數學問題有明確答案，代碼可以編譯和測試。然而，可驗證性本身並不足夠。許多可驗證的領域仍然讓AI舉步維艱，比如形式化驗證本身，因為缺乏另一個關鍵屬性——可磨礪性。

可磨礪性

可磨礪性指的是領域能夠提供密集、連續的反饋信號，使得模型可以通過大量嘗試逐漸改進。遊戲環境就是典型例子，每一步都有即時反饋。而像開放式知識工作，反饋稀疏且延遲，導致學習效率低下。

其他維度

除了可驗證性和可磨礪性，還存在其他重要的軸，比如組合性、可分解性、以及任務邊界是否清晰。這些屬性的組合決定了AI的適用性。例如，在數學和代碼中，問題可以分解成子問題，且每個子問題都有明確目標；而在機器人領域，物理世界的複雜性使得分解困難。

總之，一個理想的AI領域需要同時具備多個有利屬性。當前許多強化學習創業公司構建的環境只注重可驗證性，而忽視了可磨礪性，這可能導致投資失敗。理解這些屬性有助於更明智地選擇AI應用方向。