在Forge大会上,Fireworks发布了一系列新产品,旨在帮助企业围绕自身的专业知识、数据和任务构建AI,提供更快的推理速度、更多模型选择、新的评估与 Serving 能力以及更强的企业控制。
AI代理通常需要多次模型调用才能完成一项任务,每次调用都会增加客户或员工的等待时间,同时运行更多代理会增加容量压力和成本。团队需要对时间敏感的工作使用高速方案,对可以等待的任务使用更经济的选项。Fireworks Ultra-fast由NVIDIA Blackwell GPU驱动,可加速时间敏感型工作负载,目前处于公开预览阶段,在DeepSeek V4.1 Flash上演示速度高达每秒1,500个token。在基准测试的30轮代理任务中,完成时间从1分钟降至8秒。对于成本比即时完成更重要的场景,Background Mode提供半价的低成本运行时选项,适用于数据生成、夜间研究等可等待的工作。多天提示缓存降低了重复上下文的成本,而更高的速率限制支持更多并发代理。
专业化模型也能改善推理经济性。Ember-1是Fireworks的一款模型,在无服务器和专用部署中可用,在我们的评估中,它使用的token比Kimi K3少约40%,同时保持相当的质量。这些能力帮助团队将推理性能和支出与每个工作负载的需求相匹配。
Fireworks Nexus:在员工现有工具中提供更多模型选择。员工越来越依赖AI进行编码和日常工作,但切换模型可能意味着离开熟悉的工具或增加订阅管理。Fireworks Nexus将开放模型引入人们已经使用的AI编码和协作工具,与现有AI订阅并存。它结合开放和封闭模型,提供个性化模型选择和缓存感知,帮助人们使用适合其工作的模型,同时为组织提供集中支出可见性和控制。今天推出的Nexus Desktop加入了Nexus CLI,Nexus现在可在Codex应用、Claude Desktop和OpenCode中运行,将个性化模型选择扩展到编码之外的日常知识工作。新的Pro计划每月8美元起,Teams计划每席位每月10美元起。企业计划增加SSO、治理、共享预算和访问控制。
随着工作负载增长,更高的无服务器速率限制现已全面可用,让团队可以运行更多并发工作而无需预留专用容量。Elastic Burst也已全面可用,允许客户在有空闲容量时超过正常使用上限,无需更改代码或定价。
训练:将您的专业知识转化为更好的模型。选择正确的模型可以改善结果并降低成本,而训练则更进一步,教模型什么是对您的特定任务来说“好”的。这可能意味着超越现有模型的质量,或者从更小、更快的模型中获得所需性能,通常两者兼有。在Forge上,我们让交付这些收益并将其投入生产变得更加容易。
这始于了解需要改进什么。No Eval目前处于私有预览阶段,帮助将生产跟踪和产品信号转化为特定任务的评估,让团队能够识别模型不足之处,并衡量训练是否缩小了差距。这解决了训练自有模型的最大障碍之一,因为编写自己的评估可能需要数周的数据标注和评分。Specialized Model Inference现在处于公开预览阶段,将无服务器方法扩展到服务LoRA适配器,从GLM 5.3 Flash开始。团队可以评估训练好的模型,并通过Fireworks无服务器API以按token定价的方式提供服务,无需调整专用部署规模,闲置时也不收取服务费。团队可以在试验下一个版本的同时继续使用模型。通过11月30日,团队可以在Muse Glimmer 30B上获得免费训练,包括监督微调、直接偏好优化和强化学习。
企业控制,无论模型需要在何处运行。随着AI进入关键业务流程,企业需要治理模型使用、控制支出并维护活动记录。一些企业还需要对AI基础设施运行位置和数据保护方式有更大的控制权。Fireworks现在提供全面可用的模型治理、支出控制和可导出的审计日志。集中账户管理、区域数据控制和客户管理加密的预览扩展了这些能力,以满足运营要求更高的组织。对于希望利用自身基础设施的企业,Fireworks Sovereign现在处于私有预览阶段,将公司的推理引擎带到客户的云、新云或数据中心。它结合了可将每GPU美元的token数翻倍甚至更多的技术,以及降低总拥有成本的专业管理,帮助客户在选定的基础设施内运行开放模型。推理和训练在客户环境中运行,遵循其已执行的安全和变更控制策略。受监管企业可以在其治理的基础设施上满足数据驻留和模型访问要求,AI容量保留在他们选择的司法管辖区。由于客户拥有基础设施并选择模型,提供商的价格变化或模型退役不会决定他们的路线图。Fireworks已在客户环境中管理超过25,000个GPU。
共同打造自己的前沿。Forge发布的这些产品使专业化智能的构建、改进和部署更加实用。更快的推理支持响应迅速的代理;Nexus将模型选择带入员工的日常工作;训练能力帮助公司针对自身任务提升性能;企业控制支持大规模部署。