跳到主要內容
AI News HubLIVE
站內改寫5 分鐘閱讀

FDE 在 OpenAI 意味着什麼

文章摘要

OpenAI 前向部署工程(FDE)團隊負責人 Colin Jarvis 撰文闡述該團隊的角色:彌合模型能力與實際生產可用性之間的“部署差距”。文章以 John Deere、半導體驗證、生命科學、電信語音客服、Thrive Holdings 税務 AI 等案例,説明 FDE 如何先交付成果再規模化,並通過 Codex 重構使定製代碼減少約 90%,最終讓團隊自身變得不再必要。

FDE 在 OpenAI 意味着什麼
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

OpenAI 前向部署工程(Forward Deployed Engineering,簡稱 FDE)負責人 Colin Jarvis 於 2026 年 10 月 22 日發文,系統闡述了 FDE 團隊在 OpenAI 內部究竟做什麼、如何工作,以及如何解決企業最棘手的問題並交付真實影響。這篇文章的核心問題源於團隊內部的一次發問:當 Codex 問世後,有人問他,“如果 Codex 能一次性搞定我們過去幾個月構建的那些用例,那我們該做什麼?”Jarvis 認為,這個問題恰好觸及了 FDE 在 OpenAI 的意義所在——團隊與客户並肩工作,理解他們最難的問題,並構建他們可以依賴的解決方案;而團隊所學到的東西又會反過來塑造產品,併為研究團隊提供具體的問題去攻克。他強調,這就是進步:如果團隊每隔幾個月就讓自己變得過時,那説明 FDE 團隊正在履行自己的職責。

Jarvis 表示,他於 2025 年初創立該團隊,目的是彌合所謂的“部署鴻溝”(deployment gap),即模型表面 capability 與人們能夠可靠地用於實際工作之間的距離。模型能力的發展速度快於將其投入使用的系統和流程。有時缺失的環節是一個產品;有時模型在基準測試上表現良好,卻無法在充滿真實變量與約束的條件下完成工作。團隊聚焦於客户最難的問題:在模型今天就能勝任的地方,他們與產品和客户合作,使解決方案可複用;在模型力有不逮之處,他們與客户和研究團隊合作,界定差距並推動改進。目標是讓每一次合作都為下一個客户留下更好的起點——如果把“地板”抬高到客户下次不再需要 FDE 來解決這一類問題的程度,那團隊就做得很好。

文章以約翰迪爾(John Deere)為例。這家擁有 200 年曆史的農業企業面臨的挑戰是如何規模化地為農民提供個性化建議。其 See & Spray 精準除草技術利用攝像頭和機器學習識別並噴灑雜草,而非處理整片田地,從而將化學品使用量減少多達 70%。但要實現這些收益,取決於農民是否知道如何配置該技術、規劃農季,並根據情況變化調整做法。約翰迪爾部署了 OpenAI 的 API,使這種支持變得個性化和可擴展:AI 可以用自然語言回答農民的問題,提供量身定製的設置指導和推薦,識別設備何時可能未發揮全部潛力,並幫助農民理解他們從該技術中獲得的價值。機會不僅限於單次交互,而是要在整個客户旅程中提供相關指導,幫助農民更好地使用設備,同時提升效率和可持續性。Jarvis 指出,這正是 OpenAI FDE 致力於解決的問題類型:幫助組織從 AI 能力走向能在複雜真實環境中交付實際價值的系統。但問題往往非常開放,可能沒有既定的 ground truth,也沒有現成的劇本。每個人都想構建從未存在過的東西,但願意付出必要努力去實現的人卻更少。既要找到有才華的 FDE,又要提高“足夠好”的基線,這意味着要不斷實驗和應用。

在每次 FDE 團隊會議開始時,Jarvis 都會放一張幻燈片,上面寫着一個核心價值觀:“從結果出發,不惜一切代價取得成功,然後再考慮規模化”(Start with the outcome, do what it takes to succeed, then follow with scale)。他提醒説,一個令人印象深刻的演示可以在任何人追問它在現實世界中是否有效之前走得很遠,而團隊的職責是把客户的問題解決到他們可以在生產環境中為之背書的標準。

他以半導體行業為例:2025 年中期,約 15 名 FDE 與一家大型半導體客户合作,處理 10 多個用例,目標是讓他們的驗證流程實現 AI 原生,涵蓋定向測試生成、根因分析與調試,以及一個架構助手。在該行業中,驗證可能佔項目工作量的約 70%,機會巨大,起點也很多。一些 FDE 幾天前才加入 OpenAI,從未在半導體行業工作過。他們嵌入客户的驗證團隊,在業餘時間學習芯片設計,並與工程師一起構建評估,以測試 AI 是否能生成有用的測試並正確診斷芯片故障。在邊學邊做的同時,團隊為各個用例構建了定製化的 harness。在最初的 3 到 6 個月內,所有這些用例都進入了生產環境並獲得了早期用户採用。成果體現在指標上:基於 AI 的定向測試生成節省了約 48% 的時間;通過內核優化帶來 22% 的性能中位數提升;原本需要數週的調試被壓縮到數小時。當團隊向首席硬件官覆盤這些成果時,對方問道:“你們來這裏之前是做芯片設計師的嗎?”Jarvis 的回答是:FDE 不需要在第一天就瞭解行業,但學習行業是他們的責任。

隨着編碼助手讓軟件開發變得更快,理解客户的業務變得更加重要。團隊由通才和領域專家混合組成。你需要的知識足以做出合理的判斷,也需要足夠的好奇心去質疑關於現狀的假設。例如在生命科學領域,FDE 的科學背景幫助他們在與從事臨牀前藥物發現任務(如靶點驗證與優先級排序、基因表達分析、化學合成路線重建)的研究人員合作時贏得信任,這種專業能力使他們能夠就這些工作流程如何改進貢獻有依據的判斷。團隊已經證明這些工作流程可以帶來價值,但每一個流程仍然需要過多的定製集成,才能擴展到另一個團隊。下一個挑戰是在保持這些成果的同時,讓軟件更易於部署和維護。

到那時,Codex 的能力已經增強。一名 FDE 嘗試圍繞它重建自己的應用,然後與團隊合作,將各個用例遷移到以 Codex 為核心的通用 harness 上。定製應用變成了基於 Codex 通用原語的插件和技能(skills)。Codex 還成為了界面,使團隊得以退役此前為各個用例單獨編寫的終端 UI 和 CLI。團隊從每個項目中移除了約 90% 的定製代碼,這改變了他們構建、維護和擴展這些工作流程的方式:他們可以受益於 Codex 的集中式改進,減少每個用例所需的膠水代碼;關鍵功能被打包成技能和插件,更易於彼此共享,並由 AI CoE 集中控制。這意味着從一個團隊擴展到下一個團隊可以簡單到只需換入新的連接器/MCP 服務器、構建新的評估(團隊也為這準備了一個技能),然後即可上線。舉一個 2026 年 8 月的例子:最初的部署花了兩個月,而將解決方案擴展到第二個團隊只花了一天。後續團隊的上手速度隨着規模擴大而加快,這一趨勢一直在持續。Jarvis 認為,這就是“讓自己變得過時”的一種方式:為進入生產所做的努力確立了真正重要的事情;隨着底層產品改進,團隊可以替換掉大部分定製實現,同時保留它交付的價值。

這就是為什麼順序很重要。大語言模型讓團隊能夠快速構建。利用這種速度,把有價值的東西交到用户手中,瞭解在實踐中哪些經得起考驗,然後規模化那些有效的東西。這一原則適用於所有合作項目。例如,OpenAI Presence 這一面向企業語音和聊天代理的產品,正是從真實的客户部署中成長起來的:該項工作始於 Swarm,並通過 Agents API 演進,如今有一個客户已有超過一半的電話由 AI 處理。把部署推向生產讓團隊瞭解到哪些問題需要定製解決方案,哪些構建模塊可以被其他團隊使用。團隊將這些構建模塊納入 Presence,使開發者更容易自動化受監管的工作流程,而無需重建底層基礎設施。每次部署都有助於塑造產品,並給下一個客户更好的起點。

另一個例子是 Thrive Holdings。OpenAI 的 FDE 與研究人員同工程師和會計師一起工作,為克里特島的會計師事務所構建 Tax AI。在試點期間,Tax AI 處理了 7,000 份納税申報表,吞吐量提高了約 50%。其中最難的挑戰之一是自動化出租房產申報,這需要六週的工程和實踐者審查才能達到 90% 的精確率和召回率。這項工作創造了可複用的模式,使 Tax AI 更容易擴展到其他複雜的税務申報表。目前,這些團隊正在將同樣的方法應用於簿記、審計和 IT 支持——構建通過實踐者反饋和真實使用而不斷改進的系統。

有時更好的產品讓團隊可以簡化所構建的東西,但有時模型本身還無法勝任。Jarvis 強調,如果只構建今天的模型已經能實現的東西,就無法發現研究團隊接下來需要彌合的那些智能差距。因此,許多重要的合作項目從這些極限之處開始,客户、FDE 和研究團隊承諾共同攻克它們。團隊此前已為一家大型電信客户開發了一個客户服務平台,客户希望將其擴展到語音領域。語音約佔該客户服務量的 90%。這些案例比聊天更難以處理,並且帶來了一系列新的技術挑戰,需要在口音、語氣以及延遲/準確性方面達到生產級水平。把它做好將對他們的業務產生重大影響。在範圍界定階段,模型在用於評估其能否在生產環境中勝任工作的關鍵評估上得分約為 60%。這已經觸及了其能力的極限,客服場景中的 function calling 和指令遵循都需要改進。團隊向客户解釋了這一點,並讓研究團隊加入。FDE 與客户合作構建平台並界定模型需要做到什麼,研究團隊則致力於彌合能力差距,通過 successive model snapshots 讓團隊能夠針對客户的需求測試進展。在六個月的時間裏,關鍵評估上的表現從約 60% 上升到 80%,然後達到 90% 以上,達到了生產所需的水平。由此產生的語音模型現在支持該客户的部署、其他定製的客服部署,以及通過 Presence 管理的部署。在一個客户業務中遇到的問題,幫助識別出可以服務許多其他客户的改進。每一個環節都很重要:客户承諾解決一個模型當時還無法解決的問題;FDE 保持足夠的貼近度來界定該問題、構建平台並從頭到尾推動合作;研究團隊則提升了底層模型能力。這是“讓自己變得過時”的另一種版本:幫助把今天的模型無法解決的問題,轉變為未來模型能夠交付的能力。這項工作的回報超出了團隊花在任何一個客户身上的時間。

Jarvis 表示,他加入 OpenAI 是為了幫助讓 AI 在人們的日常工作中變得有用,這至今仍在指引着團隊。他經常對團隊説,在大語言模型開發的大多數情況下,奧卡姆剃刀原則適用——最簡單的解決方案是最好的。在一個以尖端研究定義自身的公司裏,在一個充斥着誇張言辭的行業中,團隊想要構建的是可靠運行、一線人員可以依賴的東西。目標是讓每一次合作都能改善接下來的事情:一個更容易部署的產品,一個能處理更難任務的模型,或者為下一個客户減少定製工作。他在文末表示,如果你有一個想要解決的難題,OpenAI 很樂意與你合作;如果你想幫助解決這些問題,OpenAI 也很樂意你加入。

展開要點與分析

文章情報

工程師進階

要點

  • FDE 團隊成立於 2025 年初,目標是縮小模型能力與可靠生產使用之間的部署差距
  • 在半導體客户項目中,約 15 名 FDE 推動 10 餘個用例上線,定向測試生成節省約 48% 時間,內核優化帶來 22% 性能提升,調試從數週壓縮到數小時
  • 藉助 Codex 重構後,各項目定製代碼減少約 90%,第二個團隊擴展部署從兩個月縮短到一天
  • 電信語音項目中模型評分從約 60% 提升到 90% 以上,展示了 FDE 與 Research 合作填補模型能力缺口的價值

技術影響

可能影響 GPU、推理集羣、算力成本和供應鏈規劃。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。