跳到主要内容
AI News HubLIVE
站内改写3 分钟阅读

Retell 借助 OpenAI 模型每月处理 1 亿通电话

文章摘要

Retell AI 使用 OpenAI 模型驱动其语音 AI 平台,月通话量从 3000 万增长至 1 亿,GPT-6 Astra 在其基准测试中指令遵循排名第一,Codex 帮助工程团队实现每员工 160 万美元年化收入。

Retell 借助 OpenAI 模型每月处理 1 亿通电话
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

Retell AI 是一家为联络中心运营提供语音 AI 平台的初创公司,帮助企业构建能够回答问题、执行操作并在需要时转接人工的智能体。该公司平台目前服务超过 4000 家企业,月通话量从 2026 年初的 3000 万通增长到 9 月的 1 亿通以上。

随着 Retell 为更多具有复杂工作流的企业提供服务,它使用 OpenAI 模型来保持通话质量和可靠性。目前,OpenAI 模型为 Retell 上 80% 的通话生成响应,客户解决率超过 80%。Retell 在 OpenAI 模型上累计消耗的 token 已超过 1 万亿,反映了其采用规模。

Retell 的工程师在整个开发过程中使用 Codex,从研究陌生代码到构建功能和调试问题,并使用 GPT-6 Astra 测试前端界面。Retell 联合创始人兼 CEO 吴冰表示:“我们选择模型的方式就像客户选择供应商一样:看真实通话,而不是演示。OpenAI 一直在赢得它的位置。”

企业语音智能体需要遵循公司政策并保持在指定角色范围内,即使对话发生变化。Retell 构建了 vCX 基准测试,使用来自真实生产场景的困难多轮对话来比较数十种模型。该测试评估模型遵循指令、基于给定信息、调用正确工具以及使用自然对话语言的能力。在 Retell 2026 年 10 月 13 日的基准测试中,GPT-6 Astra 在指令遵循方面以 89.7% 排名第一。

Retell 还分享了 GPT-6 Astra 模型发布前进行的评估,显示 GPT-5.5 在推理开启时在非幻觉率(88.0%)和工具调用正确性(88.3%)两项指标上均排名最高,在这两项指标上均优于 Gemini-3.1-Pro 和 Claude-4.6。它在推理关闭时的非幻觉率上也领先。

Retell 表示,选择 OpenAI 模型的新客户会继续使用它们。客户还可以通过 Realtime API 访问 OpenAI Realtime 模型,并将 OpenAI 文本转语音作为语音引擎。Retell 在 OpenAI 新模型发布当天就提供它们,并随着模型改进重新运行其基准测试。

联络中心团队使用 Retell 来定义其智能体的业务背景、目标和规则。开发人员可以进一步配置工作流和集成。在通话过程中,Retell 的框架运行音频模型、跟踪对话,并管理智能体何时说话、聆听或响应打断。OpenAI 模型(包括 GPT-6.1 Sol、GPT-6 Astra 和 GPT-5.5)使用客户指令和对话上下文来生成响应并请求工具调用。Retell 通过与客户系统的集成执行这些调用,并可以将结果写回客户记录。

当需要人工判断时,语音智能体会向代表简要介绍背景、回答他们的后续问题,并在连接客户之前确认他们已准备好。通话结束后,Retell 使用 GPT-5.6 Terra 分析转录文本并提取结果和其他数据。

通过这种方法,Retell 报告客户解决率超过 80%。在电子公司 Anker,智能体处理美国和英国的 Tier-1 售后支持,包括订单跟踪、保修检查和故障排除。Anker 报告了 80.4% 的案例解决率和 63 的净推荐值(NPS)。其团队还表示,智能体的语气、节奏和温暖度达到了他们对人工坐席的期望标准。

在 Pine Park Health,Retell 智能体处理预约提醒和主动调度,并将结果记录在患者的医疗图表中。该团队回收了相当于 2.1 个全职角色的医疗助理时间,并将其重新定向到患者护理。其调度智能体在联系到患者时实现了 55.7% 的预约率。

Retell 平台的白天流量可以达到夜间低点的 50 倍以上。为了在高峰需求期间保持通话响应,Retell 使用与 OpenAI 共享的专用服务器,这些服务器在其客户之间共享。在 Retell 2026 年 10 月 13 日的基准测试中,GPT-6 Astra 和 GPT-6 Sol 的首句延迟中位数均为 883 毫秒,GPT-5.6 Luna 以 497 毫秒排名最高。

OpenAI 的区域 API 端点允许开发人员将流量路由到特定地理区域,这帮助 Retell 减少网络传输时间并满足医疗保健和金融服务等行业客户的数据驻留要求。Retell 还在服务的每一层构建冗余。它运行自己的电话技术栈,并备有第二套栈随时接管,以及语音和模型服务的备份,以帮助在服务故障时保持通话运行。

随着 Retell 的企业增长带来更多对自定义工作流和集成的请求,其工程师经常需要在代码库中不熟悉的部分工作。在编写代码之前,他们向 Codex 提供高层需求。Codex 调查代码,对照实际数据检查,并解释需要更改的内容。一位工程师表示,Codex 在这项研究上做得比他更好、快得多。

在实施过程中,工程师们表示 Codex 经常捕捉到他们未曾考虑的细节。在调试时,Codex 将日志和数据库记录与代码交叉引用,以调查正在发生的事情。Retell 的工程师还在与基于 OpenAI 模型构建的客户合作时使用 Codex,以加速编写指导模型在客户应用中如何响应的指令等任务。

为了测试其 Web 界面的更改,Retell 依赖 GPT-6 Astra 的计算机使用能力。当工程师打开前端拉取请求时,GPT-6 Astra 会打开界面、点击浏览、测试流程、尝试破坏它们,并报告发现的问题。Retell 表示,早期的模型无法可靠地执行这项工作。

Retell 继续招聘,但其工程团队不需要以与业务相同的速度增长。Retell 报告每员工 160 万美元的年化收入。吴冰表示:“通过使用 Codex,工程团队拥有了一个虚拟队友,可以与他们配对处理任何类型的困难任务。”

每家企业都知道它希望如何服务客户。Retell 的目标是让最接近这项工作的人直接运用他们的专业知识,使用先进的语音 AI 和一个让他们构建、测试和改进自己智能体的平台。接下来,Retell 计划扩展质量保证和模拟、支持更多语言,并开发知识库自动学习。

随着 OpenAI 模型不断进步,Retell 期望其客户能够按照自己的方式为数百万来电者提供世界级的服务。吴冰说:“没有人比公司本身更了解其客户。我们赋予他们运用这种专业知识并直接改进 AI 智能体的能力。目标是让他们建立一个内部部署工程师团队,拥有并运营一切。”

展开要点与分析

文章情报

工程师进阶

要点

  • Retell 月通话量从 2026 年初的 3000 万增长到 9 月的 1 亿以上,服务超过 4000 家企业。
  • GPT-6 Astra 在 Retell 2026 年 10 月 13 日的基准测试中指令遵循得分 89.7%,排名第一。
  • OpenAI 模型为 80% 的通话生成响应,客户解决率超过 80%,累计消耗超过 1 万亿 token。
  • Codex 帮助工程师研究陌生代码、构建功能和调试,Retell 实现每员工 160 万美元年化收入。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。