事实核查莫拉维克悖论
莫拉维克悖论认为对人类困难的任务对AI容易,反之亦然。本文通过实证检验和进化论分析,指出该悖论缺乏证据,且其基于的进化解释值得怀疑。悖论式思维导致了AI领域的过度乐观与不必要的恐慌。作者建议不应依赖此类预测,而应专注于适应已明确到来的技术变革。
莫拉维克悖论——认为对人类困难的任务对AI容易,反之亦然——自1988年汉斯·莫拉维克提出以来,在AI领域被广泛引用。但本文作者通过深入分析发现,这一所谓的“悖论”从未得到严格的实证检验,其背后的进化论解释也充满漏洞。
作者指出,莫拉维克悖论更像是对AI研究社区关注焦点的一种描述,而非关于问题难度的普适规律。当人们系统性地忽略那些对人类和AI都过于简单或过于困难的任务时,自然会得出看似负相关的结论。例如,无数对两者都简单的任务(如图像亮度判断)被日常编程解决且无人关注;而某些对人类和AI都极难的任务(如预测股票价格)也因进展缓慢而少被讨论。此外,计算机科学中还有大量被证明为NP完全的问题,AI研究者因此回避它们。因此,悖论实际上是一种选择效应。
关于进化论方面,莫拉维克认为推理是“进化新产物”,因此对AI容易,但这一论证忽视了推理对感知运动基础能力的依赖。现代AI在开放领域推理上的失败,如IBM Watson在现实应用中的表现,进一步削弱了这一论点。实际上,开放领域的推理需要常识知识,而这恰恰是“对人类容易、对AI困难”的领域。因此,AI推理远非轻易之事。
这种简化思维带来了双向误导:一方面,它催生了“超级智能即将到来”的恐慌,促使政策制定者准备应对白领失业潮;另一方面,它又让人对机器人技术的突破过分乐观,错误地认为这类“困难”问题不会迅速取得进展。然而,计算机视觉领域的突破(如2012年深度学习的崛起)表明,看似困难的问题也可能因技术组合的革新而突然解决。用GPU加速AI的创意直至2010年左右才出现,而深度学习的科学基础早在1980年代就已奠定。
作者呼吁放弃对预测的执着,转而关注如何更好地适应已经确定会到来的技术变革。以自动驾驶为例,尽管Waymo十五年前就开始测试,但直至今日社会才匆忙应对。实际上,突破性技术的商业化往往需要数十年,因此我们有充足时间准备。与其恐慌,不如提前构建有韧性的社会体系。
原文链接:https://www.aisnakeoil.com/p/fact-checking-moravecs-paradox