跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

Fireworks 推出 Ember-1:在保持 Kimi K3 质量的同时减少 40% token

文章摘要

Fireworks Research 发布 Ember-1,一个基于 Kimi K3 的专用模型,在多项基准测试和实际客户 A/B 测试中保持同等质量,同时将推理 token 减少 35-50%。该模型现已在 Fireworks 无服务器平台以研究预览形式提供。

Fireworks 推出 Ember-1:在保持 Kimi K3 质量的同时减少 40% token
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

Fireworks Research 今日发布了 Ember-1,这是一款基于 Kimi K3 构建的专用模型,旨在解决推理模型在长链思考中产生的过高 token 消耗问题。Ember-1 在保持与原始 K3 相当质量的同时,将推理 token 数量减少了约 40%,在客户实际 A/B 测试中甚至实现了 35% 的 token 节省。该模型现已在 Fireworks 无服务器平台上以研究预览形式提供。

推理模型如 Kimi K3 通常将超过 90% 的生成 token 用于内部推理,而非最终答案。这在单次请求中已经昂贵,在多轮代理工作负载中更是急剧放大:每一轮都会重新读取并重新计费之前的所有推理内容,导致上下文长度随轮次近似二次增长。Fireworks 团队通过实验发现,K3 的推理链远长于任务实际需要,多余部分可以移除而不影响答案正确性,这成为 Ember-1 的出发点。

为了教会模型更高效地思考,Fireworks Research 进行了超过 50 次训练实验和 200 多次评估,并开发了新的训练算法来缩短推理过程而不损失准确率。整个训练过程在 Fireworks 无服务器训练平台上完成,无需管理 GPU,团队可以快速启动实验并按使用量付费,从而大幅缩短了从研究到发布的周期和成本。训练数据覆盖数学、编程、指令遵循、对话、搜索、工具使用和软件工程等多个领域,既包括独立问题也包含扩展交互,以确保 token 节省效果能迁移到多种工作负载。

在公开基准测试中,Ember-1 表现优异。例如在 Terminal Bench 2.1 上,Ember-1 达到 82.0% 的通过率,超过 K3 最高推理努力设置的 80.9%;在 SWE-bench Verified 上达到 92.2%,与 K3 最高设置的 93.2% 接近;在 DeepSWE 1.1 上更是以 75.2% 大幅领先 K3 最高设置的 66.4%。在 τ-2 Bench Airline 上,Ember-1 获得 66% 的通过率,高于 K3 所有设置的 64%。总体而言,在七个基准和两家客户的生产流量中,Kimi K3 的推理链可缩短 35-50% 而不牺牲准确率。

Fireworks 还使用其新推出的 Specialized Intelligence Index (SII) 对 Ember-1 进行了评估。在 Doximity 的 Bedside Bench(涵盖 10 个专科类别的 500 个临床案例)上,Ember-1 在成本/任务维度上为开源和闭源模型(包括 GPT-5.6 Sol、GPT-6 Astra 和 Claude Opus 5)设定了新的帕累托前沿。在多个行业基准上,Ember-1 也位于或接近质量-成本帕累托前沿,以远低于 K3 最高设置的成本匹配其质量,并严格优于 K3 低推理努力设置。

除了基准测试,Fireworks 还在两家客户的生产编码工作负载上进行了实时 A/B 测试。结果显示,Ember-1 在质量相当的情况下,每个任务平均减少约 35% 的 token 使用量。大多数下游产品指标保持或改善,包括任务完成率、成功分数和失败率均朝着积极方向发展,而 token 成本大幅降低。其中一家客户已在生产环境中运行 Ember-1,并计划扩大规模以完全替换基础模型。

在内部,Fireworks 让自家开发者在日常编码工作中使用 Ember-1,结果令人满意:开发者没有察觉到模型切换,但 token 消耗显著减少。对于一款以“相同答案、更少 token”为价值主张的模型来说,这种无感的内部部署是最有力的验证。

Ember-1 目前作为 Kimi K3 的替代服务选项在 Fireworks 无服务器平台上以研究预览形式推出。Fireworks 还推出了研究版本计划,为开发者提供为期两周的新研究模型无服务器访问权限,并根据社区需求决定是否永久保留。此外,Fireworks 还推出了针对 Ember-1 的训练支持,使企业能够使用自己的数据构建定制化的、token 高效的模型。Ember-1 是 Fireworks Research 系列专用模型中的第一个,未来将继续推出更多 Ember 系列模型,推动模型效率的前沿。

展开要点与分析

文章情报

工程师进阶

要点

  • Ember-1 基于 Kimi K3 构建,在保持质量的同时减少了 40% 的 token 使用量。
  • 模型在七个基准和两家客户生产流量中实现 35-50% 的推理缩短,且准确率不降。
  • 采用 Fireworks 无服务器训练,进行了 50 多次训练实验和 200 多次评估。
  • Ember-1 在 Bedside Bench 等基准上设定了新的成本/任务帕累托前沿。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。