OpenAI 前向部署工程(Forward Deployed Engineering,简称 FDE)负责人 Colin Jarvis 于 2026 年 10 月 22 日发文,系统阐述了 FDE 团队在 OpenAI 内部究竟做什么、如何工作,以及如何解决企业最棘手的问题并交付真实影响。这篇文章的核心问题源于团队内部的一次发问:当 Codex 问世后,有人问他,“如果 Codex 能一次性搞定我们过去几个月构建的那些用例,那我们该做什么?”Jarvis 认为,这个问题恰好触及了 FDE 在 OpenAI 的意义所在——团队与客户并肩工作,理解他们最难的问题,并构建他们可以依赖的解决方案;而团队所学到的东西又会反过来塑造产品,并为研究团队提供具体的问题去攻克。他强调,这就是进步:如果团队每隔几个月就让自己变得过时,那说明 FDE 团队正在履行自己的职责。
Jarvis 表示,他于 2025 年初创立该团队,目的是弥合所谓的“部署鸿沟”(deployment gap),即模型表面 capability 与人们能够可靠地用于实际工作之间的距离。模型能力的发展速度快于将其投入使用的系统和流程。有时缺失的环节是一个产品;有时模型在基准测试上表现良好,却无法在充满真实变量与约束的条件下完成工作。团队聚焦于客户最难的问题:在模型今天就能胜任的地方,他们与产品和客户合作,使解决方案可复用;在模型力有不逮之处,他们与客户和研究团队合作,界定差距并推动改进。目标是让每一次合作都为下一个客户留下更好的起点——如果把“地板”抬高到客户下次不再需要 FDE 来解决这一类问题的程度,那团队就做得很好。
文章以约翰迪尔(John Deere)为例。这家拥有 200 年历史的农业企业面临的挑战是如何规模化地为农民提供个性化建议。其 See & Spray 精准除草技术利用摄像头和机器学习识别并喷洒杂草,而非处理整片田地,从而将化学品使用量减少多达 70%。但要实现这些收益,取决于农民是否知道如何配置该技术、规划农季,并根据情况变化调整做法。约翰迪尔部署了 OpenAI 的 API,使这种支持变得个性化和可扩展:AI 可以用自然语言回答农民的问题,提供量身定制的设置指导和推荐,识别设备何时可能未发挥全部潜力,并帮助农民理解他们从该技术中获得的价值。机会不仅限于单次交互,而是要在整个客户旅程中提供相关指导,帮助农民更好地使用设备,同时提升效率和可持续性。Jarvis 指出,这正是 OpenAI FDE 致力于解决的问题类型:帮助组织从 AI 能力走向能在复杂真实环境中交付实际价值的系统。但问题往往非常开放,可能没有既定的 ground truth,也没有现成的剧本。每个人都想构建从未存在过的东西,但愿意付出必要努力去实现的人却更少。既要找到有才华的 FDE,又要提高“足够好”的基线,这意味着要不断实验和应用。
在每次 FDE 团队会议开始时,Jarvis 都会放一张幻灯片,上面写着一个核心价值观:“从结果出发,不惜一切代价取得成功,然后再考虑规模化”(Start with the outcome, do what it takes to succeed, then follow with scale)。他提醒说,一个令人印象深刻的演示可以在任何人追问它在现实世界中是否有效之前走得很远,而团队的职责是把客户的问题解决到他们可以在生产环境中为之背书的标准。
他以半导体行业为例:2025 年中期,约 15 名 FDE 与一家大型半导体客户合作,处理 10 多个用例,目标是让他们的验证流程实现 AI 原生,涵盖定向测试生成、根因分析与调试,以及一个架构助手。在该行业中,验证可能占项目工作量的约 70%,机会巨大,起点也很多。一些 FDE 几天前才加入 OpenAI,从未在半导体行业工作过。他们嵌入客户的验证团队,在业余时间学习芯片设计,并与工程师一起构建评估,以测试 AI 是否能生成有用的测试并正确诊断芯片故障。在边学边做的同时,团队为各个用例构建了定制化的 harness。在最初的 3 到 6 个月内,所有这些用例都进入了生产环境并获得了早期用户采用。成果体现在指标上:基于 AI 的定向测试生成节省了约 48% 的时间;通过内核优化带来 22% 的性能中位数提升;原本需要数周的调试被压缩到数小时。当团队向首席硬件官复盘这些成果时,对方问道:“你们来这里之前是做芯片设计师的吗?”Jarvis 的回答是:FDE 不需要在第一天就了解行业,但学习行业是他们的责任。
随着编码助手让软件开发变得更快,理解客户的业务变得更加重要。团队由通才和领域专家混合组成。你需要的知识足以做出合理的判断,也需要足够的好奇心去质疑关于现状的假设。例如在生命科学领域,FDE 的科学背景帮助他们在与从事临床前药物发现任务(如靶点验证与优先级排序、基因表达分析、化学合成路线重建)的研究人员合作时赢得信任,这种专业能力使他们能够就这些工作流程如何改进贡献有依据的判断。团队已经证明这些工作流程可以带来价值,但每一个流程仍然需要过多的定制集成,才能扩展到另一个团队。下一个挑战是在保持这些成果的同时,让软件更易于部署和维护。
到那时,Codex 的能力已经增强。一名 FDE 尝试围绕它重建自己的应用,然后与团队合作,将各个用例迁移到以 Codex 为核心的通用 harness 上。定制应用变成了基于 Codex 通用原语的插件和技能(skills)。Codex 还成为了界面,使团队得以退役此前为各个用例单独编写的终端 UI 和 CLI。团队从每个项目中移除了约 90% 的定制代码,这改变了他们构建、维护和扩展这些工作流程的方式:他们可以受益于 Codex 的集中式改进,减少每个用例所需的胶水代码;关键功能被打包成技能和插件,更易于彼此共享,并由 AI CoE 集中控制。这意味着从一个团队扩展到下一个团队可以简单到只需换入新的连接器/MCP 服务器、构建新的评估(团队也为这准备了一个技能),然后即可上线。举一个 2026 年 8 月的例子:最初的部署花了两个月,而将解决方案扩展到第二个团队只花了一天。后续团队的上手速度随着规模扩大而加快,这一趋势一直在持续。Jarvis 认为,这就是“让自己变得过时”的一种方式:为进入生产所做的努力确立了真正重要的事情;随着底层产品改进,团队可以替换掉大部分定制实现,同时保留它交付的价值。
这就是为什么顺序很重要。大语言模型让团队能够快速构建。利用这种速度,把有价值的东西交到用户手中,了解在实践中哪些经得起考验,然后规模化那些有效的东西。这一原则适用于所有合作项目。例如,OpenAI Presence 这一面向企业语音和聊天代理的产品,正是从真实的客户部署中成长起来的:该项工作始于 Swarm,并通过 Agents API 演进,如今有一个客户已有超过一半的电话由 AI 处理。把部署推向生产让团队了解到哪些问题需要定制解决方案,哪些构建模块可以被其他团队使用。团队将这些构建模块纳入 Presence,使开发者更容易自动化受监管的工作流程,而无需重建底层基础设施。每次部署都有助于塑造产品,并给下一个客户更好的起点。
另一个例子是 Thrive Holdings。OpenAI 的 FDE 与研究人员同工程师和会计师一起工作,为克里特岛的会计师事务所构建 Tax AI。在试点期间,Tax AI 处理了 7,000 份纳税申报表,吞吐量提高了约 50%。其中最难的挑战之一是自动化出租房产申报,这需要六周的工程和实践者审查才能达到 90% 的精确率和召回率。这项工作创造了可复用的模式,使 Tax AI 更容易扩展到其他复杂的税务申报表。目前,这些团队正在将同样的方法应用于簿记、审计和 IT 支持——构建通过实践者反馈和真实使用而不断改进的系统。
有时更好的产品让团队可以简化所构建的东西,但有时模型本身还无法胜任。Jarvis 强调,如果只构建今天的模型已经能实现的东西,就无法发现研究团队接下来需要弥合的那些智能差距。因此,许多重要的合作项目从这些极限之处开始,客户、FDE 和研究团队承诺共同攻克它们。团队此前已为一家大型电信客户开发了一个客户服务平台,客户希望将其扩展到语音领域。语音约占该客户服务量的 90%。这些案例比聊天更难以处理,并且带来了一系列新的技术挑战,需要在口音、语气以及延迟/准确性方面达到生产级水平。把它做好将对他们的业务产生重大影响。在范围界定阶段,模型在用于评估其能否在生产环境中胜任工作的关键评估上得分约为 60%。这已经触及了其能力的极限,客服场景中的 function calling 和指令遵循都需要改进。团队向客户解释了这一点,并让研究团队加入。FDE 与客户合作构建平台并界定模型需要做到什么,研究团队则致力于弥合能力差距,通过 successive model snapshots 让团队能够针对客户的需求测试进展。在六个月的时间里,关键评估上的表现从约 60% 上升到 80%,然后达到 90% 以上,达到了生产所需的水平。由此产生的语音模型现在支持该客户的部署、其他定制的客服部署,以及通过 Presence 管理的部署。在一个客户业务中遇到的问题,帮助识别出可以服务许多其他客户的改进。每一个环节都很重要:客户承诺解决一个模型当时还无法解决的问题;FDE 保持足够的贴近度来界定该问题、构建平台并从头到尾推动合作;研究团队则提升了底层模型能力。这是“让自己变得过时”的另一种版本:帮助把今天的模型无法解决的问题,转变为未来模型能够交付的能力。这项工作的回报超出了团队花在任何一个客户身上的时间。
Jarvis 表示,他加入 OpenAI 是为了帮助让 AI 在人们的日常工作中变得有用,这至今仍在指引着团队。他经常对团队说,在大语言模型开发的大多数情况下,奥卡姆剃刀原则适用——最简单的解决方案是最好的。在一个以尖端研究定义自身的公司里,在一个充斥着夸张言辞的行业中,团队想要构建的是可靠运行、一线人员可以依赖的东西。目标是让每一次合作都能改善接下来的事情:一个更容易部署的产品,一个能处理更难任务的模型,或者为下一个客户减少定制工作。他在文末表示,如果你有一个想要解决的难题,OpenAI 很乐意与你合作;如果你想帮助解决这些问题,OpenAI 也很乐意你加入。