Fireworks Research 今日发布了 Ember-1,这是一款基于 Kimi K3 构建的专用模型,旨在解决推理模型在长链思考中产生的过高 token 消耗问题。Ember-1 在保持与原始 K3 相当质量的同时,将推理 token 数量减少了约 40%,在客户实际 A/B 测试中甚至实现了 35% 的 token 节省。该模型现已在 Fireworks 无服务器平台上以研究预览形式提供。
推理模型如 Kimi K3 通常将超过 90% 的生成 token 用于内部推理,而非最终答案。这在单次请求中已经昂贵,在多轮代理工作负载中更是急剧放大:每一轮都会重新读取并重新计费之前的所有推理内容,导致上下文长度随轮次近似二次增长。Fireworks 团队通过实验发现,K3 的推理链远长于任务实际需要,多余部分可以移除而不影响答案正确性,这成为 Ember-1 的出发点。
为了教会模型更高效地思考,Fireworks Research 进行了超过 50 次训练实验和 200 多次评估,并开发了新的训练算法来缩短推理过程而不损失准确率。整个训练过程在 Fireworks 无服务器训练平台上完成,无需管理 GPU,团队可以快速启动实验并按使用量付费,从而大幅缩短了从研究到发布的周期和成本。训练数据覆盖数学、编程、指令遵循、对话、搜索、工具使用和软件工程等多个领域,既包括独立问题也包含扩展交互,以确保 token 节省效果能迁移到多种工作负载。
在公开基准测试中,Ember-1 表现优异。例如在 Terminal Bench 2.1 上,Ember-1 达到 82.0% 的通过率,超过 K3 最高推理努力设置的 80.9%;在 SWE-bench Verified 上达到 92.2%,与 K3 最高设置的 93.2% 接近;在 DeepSWE 1.1 上更是以 75.2% 大幅领先 K3 最高设置的 66.4%。在 τ-2 Bench Airline 上,Ember-1 获得 66% 的通过率,高于 K3 所有设置的 64%。总体而言,在七个基准和两家客户的生产流量中,Kimi K3 的推理链可缩短 35-50% 而不牺牲准确率。
Fireworks 还使用其新推出的 Specialized Intelligence Index (SII) 对 Ember-1 进行了评估。在 Doximity 的 Bedside Bench(涵盖 10 个专科类别的 500 个临床案例)上,Ember-1 在成本/任务维度上为开源和闭源模型(包括 GPT-5.6 Sol、GPT-6 Astra 和 Claude Opus 5)设定了新的帕累托前沿。在多个行业基准上,Ember-1 也位于或接近质量-成本帕累托前沿,以远低于 K3 最高设置的成本匹配其质量,并严格优于 K3 低推理努力设置。
除了基准测试,Fireworks 还在两家客户的生产编码工作负载上进行了实时 A/B 测试。结果显示,Ember-1 在质量相当的情况下,每个任务平均减少约 35% 的 token 使用量。大多数下游产品指标保持或改善,包括任务完成率、成功分数和失败率均朝着积极方向发展,而 token 成本大幅降低。其中一家客户已在生产环境中运行 Ember-1,并计划扩大规模以完全替换基础模型。
在内部,Fireworks 让自家开发者在日常编码工作中使用 Ember-1,结果令人满意:开发者没有察觉到模型切换,但 token 消耗显著减少。对于一款以“相同答案、更少 token”为价值主张的模型来说,这种无感的内部部署是最有力的验证。
Ember-1 目前作为 Kimi K3 的替代服务选项在 Fireworks 无服务器平台上以研究预览形式推出。Fireworks 还推出了研究版本计划,为开发者提供为期两周的新研究模型无服务器访问权限,并根据社区需求决定是否永久保留。此外,Fireworks 还推出了针对 Ember-1 的训练支持,使企业能够使用自己的数据构建定制化的、token 高效的模型。Ember-1 是 Fireworks Research 系列专用模型中的第一个,未来将继续推出更多 Ember 系列模型,推动模型效率的前沿。