AI News HubLIVE
站内改写2 分钟阅读

人工智能会拖慢科学进步吗?

尽管AI有望加速科学发现,但本文指出AI可能通过加剧生产-进步悖论、引入软件工程错误、强化错误理论依赖以及削弱人类理解来拖慢科学进步。文章呼吁改革激励机制、加强元科学研究并重新思考AI工具设计。

来源AI Snake Oil作者: Sayash Kapoor

在AI技术被广泛宣传为能治愈癌症、延长人类寿命、甚至殖民火星的时代背景下,一个反直觉的观点逐渐浮现:AI非但不能加速科学进步,反而可能拖慢它。这篇文章深入探讨了这一悖论,并提出了令人深思的论据。

首先,文章揭示了“生产-进步悖论”:尽管自1900年以来科学论文数量增长了500倍,但衡量真正科学进步的指标却显示进步速度持平甚至放缓。例如,突破性研究的比例在下降,诺贝尔奖级发现的“年轻化”程度也在降低。这并非因为廉价果实已被摘尽——新领域不断涌现——而是因为过度生产本身正在扼杀进步:海量论文淹没了真正新颖的思想,而学者的注意力却集中于少数高引文献。

AI的介入可能让情况更糟。自动化工具使研究者更容易追逐可量化的产出指标(如论文数量),却忽视了对理解深度和理论创新的追求。更严重的是,科学界在软件工程实践上远远落后于工业界:代码审查和版本控制等标准做法在科研中鲜见,而AI生成的代码错误频出。一项研究发现,即使许多论文承诺共享代码和数据,实际兑现率极低,导致错误长期潜伏。

此外,AI建模往往追求预测精度而非理论理解。文章以地心说为例,指出即使预测准确,错误的理论也可能因AI提供的“本轮”式修补而延续更久。这种“预测-解释谬误”使科研停留在表面,阻碍了真正的范式革命。

人类理解是科学进步的核心。数学家瑟斯顿的案例表明,当解决问题取代了理解过程,领域可能走向枯萎。AI若绕过理解直接给出答案,就类似于在健身房使用叉车——看似高效,却削弱了真正的目标。目前许多AI工具的設計導向解决方案而非认知提升,这可能造成一代科学家依赖“黑箱”而丧失深入思考的能力。

文章提出了若干改革方向:个人研究者需提升软件工程素养;基金和期刊应资助元科学研究,以明确量化“进步”并找出瓶颈;激励体系必须从“发表或灭亡”转向奖励理论创新和问题发现;AI工具开发者应聚焦于质量控制和理解辅助,而非仅仅提高产出速度。

总而言之,AI对科学的影响并非简单的加速或减速问题,而是关乎如何平衡生产与进步、预测与理解、个体效率与集体智慧。如果科学界不主动调整规范和激励机制,AI这把双刃剑可能最终砍向科学进步本身。