AI News HubLIVE
站內改寫2 分鐘閱讀

皇家天文台警告:即時AI答案可能使人類智力平庸化

格林威治皇家天文台警告稱,過度依賴即時AI回答可能削弱人類的智力、好奇心和提問能力,同時承認AI在科研中的潛力和風險。

來源Hacker News AI作者: 01-_-

格林威治皇家天文台,作為英國最古老的科學機構之一,近日發出警告:過度依賴即時AI回答工具可能導致人類智力的平庸化。該天文台以天文學貢獻聞名,其所屬的皇家博物館格林威治集團總監帕迪·羅傑斯指出,天文台豐富的研究歷史展示了人類知識與好奇心的力量,而“完全依賴AI”則需避免。

羅傑斯表示,僅依賴即時答案會喪失構成知識、專業知識和創新基礎的提問與評估習慣。這番言論正值天文台啓動名為“第一縷光”的改造項目,該項目旨在“抓住過去350年天文學家的熱情,並通過科學詮釋這種熱情”。羅傑斯告訴BBC,這些發現離不開技術創新,但也離不開人類自己提問並追求答案的過程,以及AI系統可能不會傳達的意外信息或結果。

他舉例説,早期天文學家“建立了大量關於天體的數據,這些數據後來被用於他們從未想過的事情”。他們做了“機器不會做的”不必要的工作,最終成為150年後驗證地球導航影響思想的巨大資源。

與此同時,AI也被用於科學發現。2024年,計算機科學家德米斯·哈薩比斯爵士因在蛋白質研究上的“革命性”工作獲得諾貝爾化學獎,他利用AI預測了幾乎所有已知蛋白質的結構,並創造了AlphaFold2工具。領英聯合創始人雷德·霍夫曼將AI描述為“認知卓越”的“轉型”,建議將其用作“反制劑”,例如詢問“我的想法錯在哪裏?”

學術界和學生也分享了使用AI進行研究的益處,包括挑戰想法或協作解決問題。牛津布魯克斯大學一位講師表示,“負責任地使用AI時,它能引導學生關注學習中的重要部分,提升自我發展”,但“將思考外包”給AI則會暴露其侷限。

生成式AI產品快速發展,從簡單助手變為聊天伴侶,圖像生成器變得極其逼真,新模型據説能發現幾十年前的軟件漏洞。這些進展在受到讚譽的同時也伴隨着警示。羅傑斯指出,過去的在線工具如維基百科允許用户回溯原始來源進行核實,而快速AI回答可能遺漏這些信息,導致“越來越遠離可核實的信息”。儘管如此,無需自行查找信息的生成式AI工具正日益普及,如Google搜索中的AI概覽已取代鏈接列表。