跳到主要內容
AI News HubLIVE
站內改寫4 分鐘閱讀

OpenAI 想讓頂尖數學家幫忙,避免再次搞砸

文章摘要

在把一連串耀眼的數學成果變成聲譽危機後,OpenAI 成立了由九名頂尖數學家組成的獨立顧問組 AGMAI,由普林斯頓高等研究院(IAS)承辦,就 AI 公司如何呈現與發佈數學成果提供建議。研究者歡迎這一接觸,但質疑其遴選透明度、代表性以及實際影響力,而小組的首要任務恰是協調 OpenAI 內部模型產出的大量成果的發佈。

來源The Verge AI作者: Robert Hart
OpenAI 想讓頂尖數學家幫忙,避免再次搞砸
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

在把一連串耀眼的數學成果變成一場聲譽危機之後,OpenAI 正試圖藉助人類數學家的判斷,找到一條不那麼糟糕的前進道路。週一,該公司宣佈成立一個新的獨立數學家顧問小組,負責就 AI 公司如何與數學研究及更廣泛的數學界互動提供建議,其中包括新成果應如何呈現和發佈。這個小組的突然出現讓許多數學家感到意外。接受 The Verge 採訪的研究者認為這算是積極的第一步,但不少人仍對它的實際職能、影響力以及 OpenAI 是否會真正聽取意見存有基本疑問,他們也擔心如此小規模的明星陣容能否代表整個數學共同體。

這個九人小組被研究者形容為領域內的“名人堂”,成員來自斯坦福、哈佛、牛津、劍橋等機構,其中有多位菲爾茲獎得主和麥克阿瑟“天才獎”獲得者。小組將由位於新澤西州普林斯頓的高等研究院(IAS)承辦。IAS 是世界上最受尊崇的數學研究中心之一,也曾是愛因斯坦、馮·諾依曼和奧本海默等人的學術家園。

OpenAI 表示,這個名為“數學與人工智能顧問組”(AGMAI)的團體將獨立運作,可以提出公司沒有請求的建議,公開評論其對數學的影響,並公開其建議,但公司沒有説明這具體意味着什麼。小組似乎將提前接觸 OpenAI 的研究,以便完成任務。OpenAI 稱成員不會從公司領取報酬,小組也可以自行調整成員。公司説:“它的價值取決於成員能否運用自己的判斷並挑戰我們的判斷。”小組將就新興成果的評審和傳播提供建議,幫助 OpenAI 評估成果的重要性、協調發布,並就數學研究的學術與職業標準提出意見,同時也會建議 OpenAI 的工具如何支持數學研究和學習。

儘管強調獨立性,這個小組究竟能有多大影響力、為什麼成立,仍不清楚。瑞士蘇黎世聯邦理工學院的研究者西蒙·馬沙多表示,整件事“籠罩在神秘之中”,並質疑九名成員是如何選出的。小組簡陋的網站稱,它“是在 OpenAI 接觸部分成員、商討設立外部顧問委員會之後走到一起的”,但經過與公司討論,數學家們決定改為發起一個獨立團體,並邀請其他人加入。目前不清楚 OpenAI 最初接觸了哪些成員,其餘成員又是如何選出的。

週二,小組成員馬丁·海雷爾發表博客文章,詳細説明小組的起源和背後考慮,回應他所説的圍繞其成立的“大量錯誤信息”。他寫道:“AI 顯然已經對數學研究產生了深遠影響,並提出了許多關於思想歸屬、優先權、人類對思想的理解等問題。”他還説,數學界若採取“鴕鳥式”做法,僅僅無視 AI 實驗室並出於原則拒絕與它們對話,是沒有意義的。海雷爾承認小組是在 OpenAI 主動接觸後成立的,但強調並非所有成員都被該公司聯繫過,最終組織“確實獨立於 OpenAI 和其他所謂‘前沿’AI 實驗室”。除了“明顯的保密要求”,他説成員沒有簽署任何限制公開言論的協議,也沒有獲得經濟報酬,技術支持依靠 IAS。

海雷爾寫道:“另一個根本事實是,我們的總體目標是儘可能代表數學界的利益。”他是倫敦帝國理工學院和洛桑聯邦理工學院(EPFL)的數學教授。他承認這個小組很難説是數學界的代表性樣本,但表示他“絕對確信我們九人都極其認真地對待這件事,並以善意行事”。

無論成員如何選出,這個小組目前由一批精英學術數學家組成。其規模之小進一步引發疑問:面對高度專業化的數學前沿,它是否具備評估所有送上門來的成果所需的廣泛專業知識。蘇格蘭赫瑞瓦特大學即將入職的數學教授弗朗切斯科·富尼耶-法西奧説自己對小組感到“矛盾”,認為與數學家更多接觸“只會讓事情變得更好”。但他質疑,這個羣體能否充分代表那些工作和生計正被 OpenAI 追逐數學獎盃所顛覆的數學界。他對 The Verge 説:“這感覺像一座象牙塔。”馬沙多同樣質疑,小組成員是否充分理解或能代表更廣泛數學界對 AI 的擔憂。他説:“他們是了不起的數學家,但我不確定他們是我在更政治性的問題上想要代表我的人。”對於像他們這樣處於精英位置的數學家,馬沙多説:“我認為他們面對的現實與大多數數學家當前面對的現實非常不同。”

這個小組能否贏得數學家的信任,最終將決定它在控制 OpenAI 近期一系列發佈失誤的餘波、以及更重要的是減輕該公司下一步宣佈所造成的衝擊方面,能發揮多大作用。海雷爾在博客中説,如果成員“天真地相信 AI 實驗室不會試圖按自己的公關機器需要來曲解我們説的話,那就太天真了;他們的公關能力遠超我們所能匹敵的範圍”。儘管如此,海雷爾認為,既然 OpenAI 似乎正在做出努力,尤其在那麼多人批評該公司行為不端和溝通糟糕之後,不參與反而虛偽。他説,小組尚未確定要提供什麼建議,但它回應的問題很明確:“事實是,AI 公司在最近幾個月產出了一些高調的數學成果,而它們的發表和傳播遠遠達不到可接受的數學實踐標準,無論這個標準如何定義。”目前,海雷爾説小組正通過與同事交談、公開反饋表以及“Proofs and Prompts”博客上的討論來收集意見;該博客已成為數學家思考 AI 對領域影響的重要論壇。

小組最大的挑戰可能還在前面。OpenAI 在宣佈顧問組時,輕描淡寫地透露其新的、尚未發佈的模型——也就是解決納維-斯托克斯千年獎問題的模型——如今“在大多數學領域解決了 100 多個長期未解問題”。該公司此前還表示,它正在接近解決另一個千年獎問題。小組在網站上表示,處理這一積壓成果是首要任務:“我們目前面臨的非常具體的挑戰是,就如何協調發布 OpenAI 報告由其內部模型產生的大量重要數學成果,向該公司提供建議。”在某種程度上,與數學家接觸的新努力承認了其嘗試造成的巨大公關災難:公司被指控搶發研究者成果、未能充分承認模型所依賴的人類工作,甚至從使用其模型的人那裏竊取成果。這些爭議讓許多數學家懷疑,該公司是否理解、甚至尊重它闖入的這門學科和這個共同體。在經歷了過去幾個月、以及已有那麼多關於數學家想要什麼的文章之後,倫敦帝國理工學院數學教授凱文·巴扎德不禁要問,OpenAI 為什麼覺得需要一個如此精英的機構來理解共同體想要什麼。他説:“問題不在於證明困難定理,而在於更好地理解我們的學科。我不太清楚為什麼需要一羣聰明人組成委員會來把這一點講清楚。”

展開要點與分析

文章情報

研究者進階

要點

  • OpenAI 宣佈成立九人獨立數學顧問組 AGMAI,由高等研究院(IAS)承辦,成員來自斯坦福、哈佛、牛津、劍橋等機構,含多位菲爾茲獎得主。
  • 小組稱獨立運作、可公開評論並提前接觸 OpenAI 研究、成員不領薪酬,但遴選過程與實際影響力仍不透明。
  • 數學家擔憂精英小圈子能否代表整個數學界,並質疑其能否約束 OpenAI 的發佈方式。
  • 小組首要任務是協調 OpenAI 內部模型大量數學成果的發佈;此前 OpenAI 稱該模型已在大多數學領域解決 100 多個長期未解問題。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。