Retell AI 是一家為聯絡中心運營提供語音 AI 平臺的初創公司,幫助企業構建能夠回答問題、執行操作並在需要時轉接人工的智慧體。該公司平臺目前服務超過 4000 家企業,月通話量從 2026 年初的 3000 萬通增長到 9 月的 1 億通以上。
隨著 Retell 為更多具有複雜工作流的企業提供服務,它使用 OpenAI 模型來保持通話質量和可靠性。目前,OpenAI 模型為 Retell 上 80% 的通話生成響應,客戶解決率超過 80%。Retell 在 OpenAI 模型上累計消耗的 token 已超過 1 萬億,反映了其採用規模。
Retell 的工程師在整個開發過程中使用 Codex,從研究陌生程式碼到構建功能和除錯問題,並使用 GPT-6 Astra 測試前端介面。Retell 聯合創始人兼 CEO 吳冰表示:“我們選擇模型的方式就像客戶選擇供應商一樣:看真實通話,而不是演示。OpenAI 一直在贏得它的位置。”
企業語音智慧體需要遵循公司政策並保持在指定角色範圍內,即使對話發生變化。Retell 構建了 vCX 基準測試,使用來自真實生產場景的困難多輪對話來比較數十種模型。該測試評估模型遵循指令、基於給定資訊、呼叫正確工具以及使用自然對話語言的能力。在 Retell 2026 年 10 月 13 日的基準測試中,GPT-6 Astra 在指令遵循方面以 89.7% 排名第一。
Retell 還分享了 GPT-6 Astra 模型釋出前進行的評估,顯示 GPT-5.5 在推理開啟時在非幻覺率(88.0%)和工具呼叫正確性(88.3%)兩項指標上均排名最高,在這兩項指標上均優於 Gemini-3.1-Pro 和 Claude-4.6。它在推理關閉時的非幻覺率上也領先。
Retell 表示,選擇 OpenAI 模型的新客戶會繼續使用它們。客戶還可以透過 Realtime API 訪問 OpenAI Realtime 模型,並將 OpenAI 文本轉語音作為語音引擎。Retell 在 OpenAI 新模型釋出當天就提供它們,並隨著模型改進重新執行其基準測試。
聯絡中心團隊使用 Retell 來定義其智慧體的業務背景、目標和規則。開發人員可以進一步配置工作流和整合。在通話過程中,Retell 的框架執行音訊模型、跟蹤對話,並管理智慧體何時說話、聆聽或響應打斷。OpenAI 模型(包括 GPT-6.1 Sol、GPT-6 Astra 和 GPT-5.5)使用客戶指令和對話上下文來生成響應並請求工具呼叫。Retell 透過與客戶系統的整合執行這些呼叫,並可以將結果寫回客戶記錄。
當需要人工判斷時,語音智慧體會向代表簡要介紹背景、回答他們的後續問題,並在連線客戶之前確認他們已準備好。通話結束後,Retell 使用 GPT-5.6 Terra 分析轉錄文本並提取結果和其他資料。
透過這種方法,Retell 報告客戶解決率超過 80%。在電子公司 Anker,智慧體處理美國和英國的 Tier-1 售後支援,包括訂單跟蹤、保修檢查和故障排除。Anker 報告了 80.4% 的案例解決率和 63 的淨推薦值(NPS)。其團隊還表示,智慧體的語氣、節奏和溫暖度達到了他們對人工坐席的期望標準。
在 Pine Park Health,Retell 智慧體處理預約提醒和主動排程,並將結果記錄在患者的醫療圖表中。該團隊回收了相當於 2.1 個全職角色的醫療助理時間,並將其重新定向到患者護理。其排程智慧體在聯絡到患者時實現了 55.7% 的預約率。
Retell 平臺的白天流量可以達到夜間低點的 50 倍以上。為了在高峰需求期間保持通話響應,Retell 使用與 OpenAI 共享的專用伺服器,這些伺服器在其客戶之間共享。在 Retell 2026 年 10 月 13 日的基準測試中,GPT-6 Astra 和 GPT-6 Sol 的首句延遲中位數均為 883 毫秒,GPT-5.6 Luna 以 497 毫秒排名最高。
OpenAI 的區域 API 端點允許開發人員將流量路由到特定地理區域,這幫助 Retell 減少網路傳輸時間並滿足醫療保健和金融服務等行業客戶的資料駐留要求。Retell 還在服務的每一層構建冗餘。它執行自己的電話技術棧,並備有第二套棧隨時接管,以及語音和模型服務的備份,以幫助在服務故障時保持通話執行。
隨著 Retell 的企業增長帶來更多對自定義工作流和整合的請求,其工程師經常需要在程式碼庫中不熟悉的部分工作。在編寫程式碼之前,他們向 Codex 提供高層需求。Codex 調查程式碼,對照實際資料檢查,並解釋需要更改的內容。一位工程師表示,Codex 在這項研究上做得比他更好、快得多。
在實施過程中,工程師們表示 Codex 經常捕捉到他們未曾考慮的細節。在除錯時,Codex 將日誌和資料庫記錄與程式碼交叉引用,以調查正在發生的事情。Retell 的工程師還在與基於 OpenAI 模型構建的客戶合作時使用 Codex,以加速編寫指導模型在客戶應用中如何響應的指令等任務。
為了測試其 Web 介面的更改,Retell 依賴 GPT-6 Astra 的計算機使用能力。當工程師開啟前端拉取請求時,GPT-6 Astra 會開啟介面、點選瀏覽、測試流程、嘗試破壞它們,並報告發現的問題。Retell 表示,早期的模型無法可靠地執行這項工作。
Retell 繼續招聘,但其工程團隊不需要以與業務相同的速度增長。Retell 報告每員工 160 萬美元的年化收入。吳冰表示:“透過使用 Codex,工程團隊擁有了一個虛擬隊友,可以與他們配對處理任何型別的困難任務。”
每家企業都知道它希望如何服務客戶。Retell 的目標是讓最接近這項工作的人直接運用他們的專業知識,使用先進的語音 AI 和一個讓他們構建、測試和改進自己智慧體的平臺。接下來,Retell 計劃擴充套件質量保證和模擬、支援更多語言,並開發知識庫自動學習。
隨著 OpenAI 模型不斷進步,Retell 期望其客戶能夠按照自己的方式為數百萬來電者提供世界級的服務。吳冰說:“沒有人比公司本身更瞭解其客戶。我們賦予他們運用這種專業知識並直接改進 AI 智慧體的能力。目標是讓他們建立一個內部部署工程師團隊,擁有並運營一切。”