Retell AI 是一家為聯絡中心運營提供語音 AI 平台的初創公司,幫助企業構建能夠回答問題、執行操作並在需要時轉接人工的智能體。該公司平台目前服務超過 4000 家企業,月通話量從 2026 年初的 3000 萬通增長到 9 月的 1 億通以上。
隨着 Retell 為更多具有複雜工作流的企業提供服務,它使用 OpenAI 模型來保持通話質量和可靠性。目前,OpenAI 模型為 Retell 上 80% 的通話生成響應,客户解決率超過 80%。Retell 在 OpenAI 模型上累計消耗的 token 已超過 1 萬億,反映了其採用規模。
Retell 的工程師在整個開發過程中使用 Codex,從研究陌生代碼到構建功能和調試問題,並使用 GPT-6 Astra 測試前端界面。Retell 聯合創始人兼 CEO 吳冰表示:“我們選擇模型的方式就像客户選擇供應商一樣:看真實通話,而不是演示。OpenAI 一直在贏得它的位置。”
企業語音智能體需要遵循公司政策並保持在指定角色範圍內,即使對話發生變化。Retell 構建了 vCX 基準測試,使用來自真實生產場景的困難多輪對話來比較數十種模型。該測試評估模型遵循指令、基於給定信息、調用正確工具以及使用自然對話語言的能力。在 Retell 2026 年 10 月 13 日的基準測試中,GPT-6 Astra 在指令遵循方面以 89.7% 排名第一。
Retell 還分享了 GPT-6 Astra 模型發佈前進行的評估,顯示 GPT-5.5 在推理開啓時在非幻覺率(88.0%)和工具調用正確性(88.3%)兩項指標上均排名最高,在這兩項指標上均優於 Gemini-3.1-Pro 和 Claude-4.6。它在推理關閉時的非幻覺率上也領先。
Retell 表示,選擇 OpenAI 模型的新客户會繼續使用它們。客户還可以通過 Realtime API 訪問 OpenAI Realtime 模型,並將 OpenAI 文本轉語音作為語音引擎。Retell 在 OpenAI 新模型發佈當天就提供它們,並隨着模型改進重新運行其基準測試。
聯絡中心團隊使用 Retell 來定義其智能體的業務背景、目標和規則。開發人員可以進一步配置工作流和集成。在通話過程中,Retell 的框架運行音頻模型、跟蹤對話,並管理智能體何時説話、聆聽或響應打斷。OpenAI 模型(包括 GPT-6.1 Sol、GPT-6 Astra 和 GPT-5.5)使用客户指令和對話上下文來生成響應並請求工具調用。Retell 通過與客户系統的集成執行這些調用,並可以將結果寫回客户記錄。
當需要人工判斷時,語音智能體會向代表簡要介紹背景、回答他們的後續問題,並在連接客户之前確認他們已準備好。通話結束後,Retell 使用 GPT-5.6 Terra 分析轉錄文本並提取結果和其他數據。
通過這種方法,Retell 報告客户解決率超過 80%。在電子公司 Anker,智能體處理美國和英國的 Tier-1 售後支持,包括訂單跟蹤、保修檢查和故障排除。Anker 報告了 80.4% 的案例解決率和 63 的淨推薦值(NPS)。其團隊還表示,智能體的語氣、節奏和温暖度達到了他們對人工坐席的期望標準。
在 Pine Park Health,Retell 智能體處理預約提醒和主動調度,並將結果記錄在患者的醫療圖表中。該團隊回收了相當於 2.1 個全職角色的醫療助理時間,並將其重新定向到患者護理。其調度智能體在聯繫到患者時實現了 55.7% 的預約率。
Retell 平台的白天流量可以達到夜間低點的 50 倍以上。為了在高峯需求期間保持通話響應,Retell 使用與 OpenAI 共享的專用服務器,這些服務器在其客户之間共享。在 Retell 2026 年 10 月 13 日的基準測試中,GPT-6 Astra 和 GPT-6 Sol 的首句延遲中位數均為 883 毫秒,GPT-5.6 Luna 以 497 毫秒排名最高。
OpenAI 的區域 API 端點允許開發人員將流量路由到特定地理區域,這幫助 Retell 減少網絡傳輸時間並滿足醫療保健和金融服務等行業客户的數據駐留要求。Retell 還在服務的每一層構建冗餘。它運行自己的電話技術棧,並備有第二套棧隨時接管,以及語音和模型服務的備份,以幫助在服務故障時保持通話運行。
隨着 Retell 的企業增長帶來更多對自定義工作流和集成的請求,其工程師經常需要在代碼庫中不熟悉的部分工作。在編寫代碼之前,他們向 Codex 提供高層需求。Codex 調查代碼,對照實際數據檢查,並解釋需要更改的內容。一位工程師表示,Codex 在這項研究上做得比他更好、快得多。
在實施過程中,工程師們表示 Codex 經常捕捉到他們未曾考慮的細節。在調試時,Codex 將日誌和數據庫記錄與代碼交叉引用,以調查正在發生的事情。Retell 的工程師還在與基於 OpenAI 模型構建的客户合作時使用 Codex,以加速編寫指導模型在客户應用中如何響應的指令等任務。
為了測試其 Web 界面的更改,Retell 依賴 GPT-6 Astra 的計算機使用能力。當工程師打開前端拉取請求時,GPT-6 Astra 會打開界面、點擊瀏覽、測試流程、嘗試破壞它們,並報告發現的問題。Retell 表示,早期的模型無法可靠地執行這項工作。
Retell 繼續招聘,但其工程團隊不需要以與業務相同的速度增長。Retell 報告每員工 160 萬美元的年化收入。吳冰表示:“通過使用 Codex,工程團隊擁有了一個虛擬隊友,可以與他們配對處理任何類型的困難任務。”
每家企業都知道它希望如何服務客户。Retell 的目標是讓最接近這項工作的人直接運用他們的專業知識,使用先進的語音 AI 和一個讓他們構建、測試和改進自己智能體的平台。接下來,Retell 計劃擴展質量保證和模擬、支持更多語言,並開發知識庫自動學習。
隨着 OpenAI 模型不斷進步,Retell 期望其客户能夠按照自己的方式為數百萬來電者提供世界級的服務。吳冰説:“沒有人比公司本身更瞭解其客户。我們賦予他們運用這種專業知識並直接改進 AI 智能體的能力。目標是讓他們建立一個內部部署工程師團隊,擁有並運營一切。”