ElevenLabs 發佈了名為 Eleven Realtime 的新一類語音到語音模型,目標是讓開發者不再需要為搭建一個聽起來自然的語音智能體而做大量零散決策。過去,要構建這樣的智能體,開發者必須分別選擇語音識別、語音活動檢測、輪次判斷、底層大語言模型和文本轉語音等組件,再把它們拼裝起來反覆測試調優,這本身就相當於一個獨立項目。
Eleven Realtime 把這些環節打包成完整的語音智能體。每個模型都是開箱可用的整體方案,針對不同使用場景做了優化,均支持 90 多種語言,並可調用 ElevenLabs 音色庫中超過 17000 種音色。首發包含兩款型號:Eleven Realtime v1 Mini 面向低成本的自然對話,適合 AI 助手、教師和互動角色,官方表示它足以覆蓋大多數場景;Eleven Realtime v1 Max 則面向複雜任務,例如客户支持、線索篩選和需要遵循流程、逐步推理的多步驟工作流。
ElevenLabs 解釋了推出實時模型的原因:要讓智能體表現得自然,關鍵往往在於一些細微的判斷,比如用户停頓多久之後才應答、被用户打斷後如何恢復、聲音與提示詞和模型如何協同。這些細節在 ElevenAgents 中都變成了可調整的設置,開發者不必再成為配置專家。
在架構上,Eleven Realtime 採用級聯架構,將前述各組件端到端調優後整合。ElevenLabs 稱其為語音到語音模型,因為開發者得到的是音頻輸入、音頻輸出、單一模型 ID,並且可以在與融合式、雙工模型相同的排行榜上被衡量。融合式模型最初樹立了語音自然度的標杆,而級聯方案過去的問題是每次交接都會增加延遲,且各組件從未針對彼此調優;ElevenLabs 表示 Realtime 消除了這一取捨,原本屬於開發者的調優工作已經完成。
級聯架構在生產環境中還有實際優勢:每一步都會產生文本,因此可以看到智能體聽到了什麼、決定説什麼,從而區分是聽錯了詞還是做出了錯誤決策。同樣的文本也讓 ElevenAgents 能夠對 Realtime 智能體施加防護規則和 PII 脱敏。
性能方面,Artificial Analysis 對兩款模型進行了獨立評測,覆蓋 Big Bench Audio 語音推理、Full-Duplex-Bench 對話動態以及 Speech Agent Arena 人類偏好與任務成功率三項公開基準。在 Big Bench Audio 的 1000 道語音推理題中,v1 Max 答對 98.8%,v1 Mini 答對 75.9%。速度上,v1 Max 平均 0.57 秒開始説話,v1 Mini 為 0.62 秒。ElevenLabs 強調,準確率與速度通常被視為取捨關係,而 v1 Max 在這兩項指標上同時表現出色。
在測試停頓、輪次、打斷和附和等行為的 Full-Duplex-Bench 上,v1 Mini 得分 95.8%,v1 Max 為 94.1%。在人類盲測實時對話的 Speech Agent Arena 中,v1 Max 得分 998,v1 Mini 為 988。工具調用任務上,v1 Max 完成率 87.1%,v1 Mini 為 60.3%,因此官方建議工具調用密集的場景選用 Max。
使用方式上,ElevenLabs 推薦在 ElevenAgents 中創建或打開智能體,從下拉菜單選擇 Realtime 模型,即可獲得電話、網頁、WhatsApp 和 CCaaS 渠道、工作流、知識庫、防護規則、測試與監控等生產部署能力。若已集成 OpenAI Realtime API,最快的方式是保留現有代碼,僅更換指向的端點和模型名;該 API 通過 WebSocket 連接並遵循 OpenAI Realtime 規範,OpenAI 的 SDK 可直接使用。需要注意的是,Realtime API 僅支持 WebSocket,若原本使用 WebRTC 需先遷移;它也與 ElevenAgents 獨立運行,若需要渠道、知識庫等平台功能,應直接在 ElevenAgents 上構建。