AI News HubLIVE
站内改写3 分钟阅读

Fireworks AI 发布 Fireworks Nexus:一个即插即用的路由和成本控制层,将常规编码工作迁移至开源模型

Fireworks AI 推出了 Fireworks Nexus,这是一个面向工程组织的AI管理和路由平台。它将开发者常用的编码工具连接到托管层开源模型,旨在解决企业AI成本飙升问题。平台包含企业控制、FireConnect工作流持续性和智能流量管理三大组件,初步测试显示可降低3-5倍成本。

来源MarkTechPost作者: Michal Sutter

Fireworks AI 发布了 Fireworks Nexus,这是一个面向工程组织的AI管理和路由平台。它旨在将开发者日常使用的编码工具连接到托管层开源模型,从而解决企业AI成本失控的问题。

该平台主要解决的是成本效益错配问题。据《福布斯》报道,优步在四个月内用完了其2026年整个AI预算。Claude Code在12月推出后已覆盖约5000名工程师。Fireworks引用同一报告指出,智能体采用率在两个月内从约三分之一工程师上升到超过五分之四。

Fireworks认为核心问题并非超支,而是不匹配。大多数组织以前沿模型的价格运行常规工作。运营复杂性使得平台团队转向开源模型缺乏吸引力。

Fireworks Nexus 包含三大组件:

  1. 企业控制和成本可观测性:团队可在团队或公司级别设定预算,跨模型和工具追踪ROI,并统一执行策略。请求运行在Fireworks生产推理平台上,拥有美国托管端点、零数据保留,覆盖20个全球数据中心。
  1. 工作流连续性:FireConnect 是一行代码的安装插件,将工具插槽映射到Fireworks模型。它基于Apache 2.0许可发布,可从Fireworks仪表盘一键安装。Claude Code、Codex和OpenCode可保持原样运行。FireConnect运行在兼容Anthropic和OpenAI的Fireworks Serverless API上,因此大多数工具只需一个基础URL和模型ID即可连接。
  1. 智能流量管理:一个自定义训练模型对每个请求的难度进行评分。常规请求被路由到Fireworks提供的成本效益高的开源模型,而困难请求则通过用户自己的密钥传递到现有提供商,Fireworks声明该密钥不会存储在服务器端。研究团队报告称,这通常可降低3-5倍成本。

值得注意的是,路由器目前是研究预览版。它当前在Claude Opus 5和GLM-5.2之间路由,因此后向通道需要Anthropic密钥。全开源配置则在Kimi K3和GLM-5.2之间路由。

性能方面,Fireworks研究团队与包括Notion和Doximity在内的开发团队进行了测试。初步结果显示每个合并拉取请求的成本降低了三分之一。研究团队还报告混合令牌费率约为闭源模型实验室的四分之一。这些是预览计划中的供应商数据,应谨慎看待。

更有效的证据来自Fireworks引用的两项独立评估。

Faros AI 在七个模型和工具路径上,从12个代码仓库中选取了211个真实工程任务。Claude Code on GLM-5.2 在基于模型的评委上得分为0.568,而Claude Code on Opus 4.8得分为0.521。成本差距大于质量差距:每项任务0.92美元对比1.76美元。缓存份额分别为89.7%和99.7%,因此缓存并不能解释结果。Faros强调该结果是公司特定的,并非通用排行榜。

Arize与Fireworks联合研究了10个模型在40个Terminal-Bench任务上的表现,每个任务进行6次试验,共2400次运行和626美元API开销,由每个任务自己的测试套件评分。关键指标是每项成功任务的成本,包括所有失败和重试尝试。

该研究的两项发现直接关系到Nexus的设计。在简单任务上,前沿模型的溢价没有带来收益:Kimi K2.6通过率为73%,而GPT-5.5为69%。在困难任务上,只有顶级模型才能竞争,GPT-5.5为51%,Kimi K3为32%。Arize的评估工具是开源的,团队可以在自己的负载上重新运行。

在这些运行上模拟路由优于任何单一模型策略。一个精心设计的升级阶梯达到了每成功任务0.525美元,同时可靠地解决了40个任务中的32.3个。仅GPT-5.5成本为0.636美元,可靠解决25个任务。通过所有10个模型简单升级的成本为1.319美元,比任何单一模型都差。阶梯设计并非可有可无。

团队实际部署有三种路径,其影响范围不同。

FireConnect路径摩擦最小。安装器需要Claude Code CLI已在PATH中,提示一次输入Fireworks API密钥,注册插件市场,并写入带有时间戳备份的Claude Code设置。它暴露了/fireconnect:on、/fireconnect:off、/fireconnect:setup、/fireconnect:models和/fireconnect:set-models命令。

第二种路径完全跳过插件。设置ANTHROPIC_BASE_URL和Fireworks密钥,或使用兼容OpenAI的客户端,更改基础URL和模型ID。Arize指出,在其工具中添加一个模型只需一行配置。这种互换性使得构建升级阶梯成为可能。

第三种路径是路由器本身,位于现有前沿合约之前。

总结:独立运行(Faros AI的211项任务和Arize的2400次运行)支持按难度而非按品牌路由。Fireworks Nexus是一个即插即用的AI管理和路由层,适用于工程组织,于2026年7月26日发布。其三个部分包括企业成本控制、FireConnect用于工作流连续性以及难度感知路由器。FireConnect基于Apache 2.0,一行安装,保持Claude Code、Codex和OpenCode不变。Fireworks引用的初步客户测试显示3-5倍成本降低和每个合并PR成本降低33%。

来源:Fireworks Nexus公告、FireConnect仓库、Faros AI评估和Arize每成功任务成本基准。