皇家天文台警告:即时AI答案可能使人类智力平庸化
格林威治皇家天文台警告称,过度依赖即时AI回答可能削弱人类的智力、好奇心和提问能力,同时承认AI在科研中的潜力和风险。
格林威治皇家天文台,作为英国最古老的科学机构之一,近日发出警告:过度依赖即时AI回答工具可能导致人类智力的平庸化。该天文台以天文学贡献闻名,其所属的皇家博物馆格林威治集团总监帕迪·罗杰斯指出,天文台丰富的研究历史展示了人类知识与好奇心的力量,而“完全依赖AI”则需避免。
罗杰斯表示,仅依赖即时答案会丧失构成知识、专业知识和创新基础的提问与评估习惯。这番言论正值天文台启动名为“第一缕光”的改造项目,该项目旨在“抓住过去350年天文学家的热情,并通过科学诠释这种热情”。罗杰斯告诉BBC,这些发现离不开技术创新,但也离不开人类自己提问并追求答案的过程,以及AI系统可能不会传达的意外信息或结果。
他举例说,早期天文学家“建立了大量关于天体的数据,这些数据后来被用于他们从未想过的事情”。他们做了“机器不会做的”不必要的工作,最终成为150年后验证地球导航影响思想的巨大资源。
与此同时,AI也被用于科学发现。2024年,计算机科学家德米斯·哈萨比斯爵士因在蛋白质研究上的“革命性”工作获得诺贝尔化学奖,他利用AI预测了几乎所有已知蛋白质的结构,并创造了AlphaFold2工具。领英联合创始人雷德·霍夫曼将AI描述为“认知卓越”的“转型”,建议将其用作“反制剂”,例如询问“我的想法错在哪里?”
学术界和学生也分享了使用AI进行研究的益处,包括挑战想法或协作解决问题。牛津布鲁克斯大学一位讲师表示,“负责任地使用AI时,它能引导学生关注学习中的重要部分,提升自我发展”,但“将思考外包”给AI则会暴露其局限。
生成式AI产品快速发展,从简单助手变为聊天伴侣,图像生成器变得极其逼真,新模型据说能发现几十年前的软件漏洞。这些进展在受到赞誉的同时也伴随着警示。罗杰斯指出,过去的在线工具如维基百科允许用户回溯原始来源进行核实,而快速AI回答可能遗漏这些信息,导致“越来越远离可核实的信息”。尽管如此,无需自行查找信息的生成式AI工具正日益普及,如Google搜索中的AI概览已取代链接列表。