AIが科学を加速するとの一般的な見解に反し、本稿はAIが科学の進歩を遅らせる可能性を多角的に検証する。中心となるのは「生産-進歩パラドックス」だ。論文数は1900年から2015年で500倍に増えたが、革新的な発見の割合は減少し、経済成長や寿命延長などの進歩指標も頭打ち傾向にある。原因として、過剰生産が研究者の注意を既存の高引用論文に集中させ、新奇なアイデアが埋もれることが挙げられる。
AIはこの問題を悪化させる。自動化により論文執筆が容易になり、さらに生産量が増加する一方、ソフトウェア工学の未熟さから誤った結果が蔓延する。研究コードの共有率は低く、共有されてもエラーが多く、AIを使った研究の過半数が方法論的に欠陥を持つとの調査もある。AIモデルは予測精度を追求するが、理論理解には寄与せず、地動説に取って代わるべき天動説のように、誤った理論を延命させる「エピサイクル」を量産する危険性がある。
さらに、人間の理解こそ科学の本質だと主張する。数学者のサーストンの例は、問題解決が理解に優先すると分野が衰退することを示す。AIが理解を経ずに解を提供すると、科学者の能力開発や新理論の創出が阻害される。
対策として、個人の研究者はAI使用に慎重になり、ソフトウェアスキルを磨くべきだが、本質的には制度的改革が必要だ。メタサイエンスへの投資を増やし、進歩の質を測定する方法を開発する。インセンティブを論文数から理論革新や問題発見にシフトする。AIツールは生産性向上だけでなく、理解促進やエラー検出に貢献するよう設計されるべきである。
AIは科学に革命をもたらす可能性を秘めるが、適切なガバナンスなしには逆効果になり得る。科学コミュニティは、加速するAI導入に対し、制度と規範を迅速に適応させる必要がある。