跳到主要內容
AI News HubLIVE
站內改寫2 分鐘閱讀

AI 的誤區與失敗帶來的啟示

文章摘要

微軟研究院合夥人研究經理、普渡大學教授 Jennifer Neville 分享了她曲折的 AI 之路,探討評估如何推動 AI 效能邊界,以及模型在傳統基準之外暴露的‘意外失敗’。

來源Microsoft Research Blog作者: Chad Atalla, Jennifer Neville
AI 的誤區與失敗帶來的啟示
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

Jennifer Neville 是微軟研究院的合夥人研究經理,同時擔任普渡大學電腦科學與統計學 Samuel D. Conte 講席教授。她的研究聚焦於機器學習和 AI 在互動領域及結構化資料中的應用,尤其關注訓練資料如何影響系統行為,以及這些行為是否與使用者的真實期望一致。她已發表超過 130 篇論文,被引用超過 1 萬次,並獲得過 NSF CAREER 獎、IEEE ‘10 to Watch’ 等榮譽。

她的職業軌跡頗為曲折。Neville 最初並不想進入電腦科學,因為她的父親從事這一行。上大學後,她先主修數學,再轉物理,但都覺得不太合拍。她曾一度輟學,重返校園後改修認知科學,又覺得這個領域太‘軟’,數學分量不夠。後來工作了一段時間,再回學校時,她決定主修電腦科學,因為她想處理資料,也正是在這時偶然發現了 AI——她甚至沒意識到 AI 屬於電腦科學。

她進入研究領域也帶有偶然性。由於榮譽專案要求必須完成一個研究課題,她選擇了對相互連線的網頁資料進行資料探勘,並被引薦給一位剛涉足‘統計關係學習’這一新興領域的教授。專案完成後她在研討會上發表了論文,從此對研究‘上癮’。真正吸引她的是研究過程本身:有時感覺原地踏步、倍感沮喪,但導師會鼓勵她繼續,最終學到新東西時的那種興奮感,以及理解別人尚未理解的前沿問題,讓她一直留在研究中。

2021 年,Neville 從學術界加入微軟,同時仍在普渡大學任教和指導學生。她的第一次學術休假去了伯克利 Simons 研究所,偏重理論;第二次休假則來到微軟研究院,轉向應用研究。當她看到演算法理論在真實系統、真實使用者和真實資料中如何落地後,便難以回頭,於是留在微軟。她認為,學術界和產業界研究的問題本質相似,但產業界能大規模應用演算法,直接接觸真實使用者和資料,目標更偏向產品和公司利益;學術界則更抽象、覆蓋多個領域,資金多來自 DARPA、NSF 等機構。

目前,她領導的團隊名為‘AI 互動與學習’。團隊致力於推動 AI 系統在真實工作環境中的行為邊界:研究當前系統的效能極限、使用者在實際工作流中的體驗,以及如何改進模型以完成複雜任務。他們從評估入手,因為傳統機器學習評估使用的基準相對簡單,無法反映真實使用場景。他們設計實踐性評估,涵蓋多輪對話、協作環境和長週期任務。一旦發現效能差距,就能指導演算法、模型和估計方法的改進方向。

Neville 還提到,當模型在傳統基準之外接受測試時,會出現‘意外失敗’。當結果出乎意料時,仔細檢查資料變得至關重要。她結合數十年 AI 進展,談論瞭如何預測下一步發展。整場對話提出了一個更大的問題:當路徑——無論是人類還是人工——沒有按預期展開時,我們究竟能學到什麼。

展開要點與分析

文章情報

投資人進階

要點

  • Neville 的職業道路從數學、物理到認知科學,最終意外進入電腦科學和 AI 領域。
  • 她的團隊專注於評估,以理解 AI 在真實、多輪、協作和長週期任務中的表現邊界。
  • 她對比學術界與產業界研究,指出產業界能大規模應用演算法並接觸真實使用者和資料。
  • 研究意外失敗和資料有助於預測 AI 的未來發展。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。