ElevenLabs 发布了名为 Eleven Realtime 的新一类语音到语音模型,目标是让开发者不再需要为搭建一个听起来自然的语音智能体而做大量零散决策。过去,要构建这样的智能体,开发者必须分别选择语音识别、语音活动检测、轮次判断、底层大语言模型和文本转语音等组件,再把它们拼装起来反复测试调优,这本身就相当于一个独立项目。
Eleven Realtime 把这些环节打包成完整的语音智能体。每个模型都是开箱可用的整体方案,针对不同使用场景做了优化,均支持 90 多种语言,并可调用 ElevenLabs 音色库中超过 17000 种音色。首发包含两款型号:Eleven Realtime v1 Mini 面向低成本的自然对话,适合 AI 助手、教师和互动角色,官方表示它足以覆盖大多数场景;Eleven Realtime v1 Max 则面向复杂任务,例如客户支持、线索筛选和需要遵循流程、逐步推理的多步骤工作流。
ElevenLabs 解释了推出实时模型的原因:要让智能体表现得自然,关键往往在于一些细微的判断,比如用户停顿多久之后才应答、被用户打断后如何恢复、声音与提示词和模型如何协同。这些细节在 ElevenAgents 中都变成了可调整的设置,开发者不必再成为配置专家。
在架构上,Eleven Realtime 采用级联架构,将前述各组件端到端调优后整合。ElevenLabs 称其为语音到语音模型,因为开发者得到的是音频输入、音频输出、单一模型 ID,并且可以在与融合式、双工模型相同的排行榜上被衡量。融合式模型最初树立了语音自然度的标杆,而级联方案过去的问题是每次交接都会增加延迟,且各组件从未针对彼此调优;ElevenLabs 表示 Realtime 消除了这一取舍,原本属于开发者的调优工作已经完成。
级联架构在生产环境中还有实际优势:每一步都会产生文本,因此可以看到智能体听到了什么、决定说什么,从而区分是听错了词还是做出了错误决策。同样的文本也让 ElevenAgents 能够对 Realtime 智能体施加防护规则和 PII 脱敏。
性能方面,Artificial Analysis 对两款模型进行了独立评测,覆盖 Big Bench Audio 语音推理、Full-Duplex-Bench 对话动态以及 Speech Agent Arena 人类偏好与任务成功率三项公开基准。在 Big Bench Audio 的 1000 道语音推理题中,v1 Max 答对 98.8%,v1 Mini 答对 75.9%。速度上,v1 Max 平均 0.57 秒开始说话,v1 Mini 为 0.62 秒。ElevenLabs 强调,准确率与速度通常被视为取舍关系,而 v1 Max 在这两项指标上同时表现出色。
在测试停顿、轮次、打断和附和等行为的 Full-Duplex-Bench 上,v1 Mini 得分 95.8%,v1 Max 为 94.1%。在人类盲测实时对话的 Speech Agent Arena 中,v1 Max 得分 998,v1 Mini 为 988。工具调用任务上,v1 Max 完成率 87.1%,v1 Mini 为 60.3%,因此官方建议工具调用密集的场景选用 Max。
使用方式上,ElevenLabs 推荐在 ElevenAgents 中创建或打开智能体,从下拉菜单选择 Realtime 模型,即可获得电话、网页、WhatsApp 和 CCaaS 渠道、工作流、知识库、防护规则、测试与监控等生产部署能力。若已集成 OpenAI Realtime API,最快的方式是保留现有代码,仅更换指向的端点和模型名;该 API 通过 WebSocket 连接并遵循 OpenAI Realtime 规范,OpenAI 的 SDK 可直接使用。需要注意的是,Realtime API 仅支持 WebSocket,若原本使用 WebRTC 需先迁移;它也与 ElevenAgents 独立运行,若需要渠道、知识库等平台功能,应直接在 ElevenAgents 上构建。