AI News HubLIVE
站內改寫2 分鐘閱讀

人工智慧會拖慢科學進步嗎?

儘管AI有望加速科學發現,但本文指出AI可能透過加劇生產-進步悖論、引入軟體工程錯誤、強化錯誤理論依賴以及削弱人類理解來拖慢科學進步。文章呼籲改革激勵機制、加強元科學研究並重新思考AI工具設計。

來源AI Snake Oil作者: Sayash Kapoor

在AI技術被廣泛宣傳為能治癒癌症、延長人類壽命、甚至殖民火星的時代背景下,一個反直覺的觀點逐漸浮現:AI非但不能加速科學進步,反而可能拖慢它。這篇文章深入探討了這一悖論,並提出了令人深思的論據。

首先,文章揭示了“生產-進步悖論”:儘管自1900年以來科學論文數量增長了500倍,但衡量真正科學進步的指標卻顯示進步速度持平甚至放緩。例如,突破性研究的比例在下降,諾貝爾獎級發現的“年輕化”程度也在降低。這並非因為廉價果實已被摘盡——新領域不斷湧現——而是因為過度生產本身正在扼殺進步:海量論文淹沒了真正新穎的思想,而學者的注意力卻集中於少數高引文獻。

AI的介入可能讓情況更糟。自動化工具使研究者更容易追逐可量化的產出指標(如論文數量),卻忽視了對理解深度和理論創新的追求。更嚴重的是,科學界在軟體工程實踐上遠遠落後於工業界:程式碼審查和版本控制等標準做法在科研中鮮見,而AI生成的程式碼錯誤頻出。一項研究發現,即使許多論文承諾共享程式碼和資料,實際兌現率極低,導致錯誤長期潛伏。

此外,AI建模往往追求預測精度而非理論理解。文章以地心說為例,指出即使預測準確,錯誤的理論也可能因AI提供的“本輪”式修補而延續更久。這種“預測-解釋謬誤”使科研停留在表面,阻礙了真正的正規化革命。

人類理解是科學進步的核心。數學家瑟斯頓的案例表明,當解決問題取代了理解過程,領域可能走向枯萎。AI若繞過理解直接給出答案,就類似於在健身房使用叉車——看似高效,卻削弱了真正的目標。目前許多AI工具的設計導向解決方案而非認知提升,這可能造成一代科學家依賴“黑箱”而喪失深入思考的能力。

文章提出了若干改革方向:個人研究者需提升軟體工程素養;基金和期刊應資助元科學研究,以明確量化“進步”並找出瓶頸;激勵體系必須從“發表或滅亡”轉向獎勵理論創新和問題發現;AI工具開發者應聚焦於質量控制和理解輔助,而非僅僅提高產出速度。

總而言之,AI對科學的影響並非簡單的加速或減速問題,而是關乎如何平衡生產與進步、預測與理解、個體效率與集體智慧。如果科學界不主動調整規範和激勵機制,AI這把雙刃劍可能最終砍向科學進步本身。