Fireworks AI Blog

AI 服務暫時不可用，以下為來源摘要，待恢復後補全翻譯：Three Tests to Run Before You Switch from LoRA to FullFT Kimi K3 on Fireworks: Frontier Intelligence You Can Own Blog Three Tests To Run Before You Switch From Lora To Fullft Three Tests to Run Before You Switch from Lo…

Trilogy 人工智能卓越中心發佈了基於 Fireworks 平台 Kimi K3 的網絡安全策略手冊。該手冊強調開放權重模型在防禦型人工智能中的優勢，能夠支持連續、高容量的安全工作流程，無需依賴受限或昂貴的模型。手冊詳細介紹了實用參考堆棧：確定性工具負責結構化和事實提取，Kimi K3 負責判斷，並採用路徑為中心的審計方法。Fireworks 提供託管推理服務，使團隊可以獨立擴展，同時保留對審計工作流的控制。

Fireworks AI 推出 Fireworks Nexus，幫助工程團隊在不改變工作流程的情況下，通過智能路由將日常任務分配給經濟高效的開源模型，從而顯著降低 AI 支出。初步測試顯示，它能將每合併 PR 的成本降低三分之一，混合 Token 費率約為封閉模型實驗室的四分之一。

Fireworks AI 為其巨大的 MoE 模型 Kimi K3（約 2.8 萬億參數）推出了無服務器 LoRA 訓練。LoRA 適配器訓練成本低，服務靈活，可將細微調整成本降至幾乎為零。通過兩個任務示例（Countdown 和 Frozen Lake）展示了小適配器如何快速教模型新目標或工具使用循環。文章還強調了獎勵設計的重要性，以及數據飛輪效應。

Kimi K3 是首個達到 2.8 萬億參數的開源模型，性能媲美甚至超越 Fable 5、Opus 5 和 GPT 5.5 等閉源模型。Fireworks 提供美國服務器託管、零數據保留的推理與訓練服務，用户可按需使用，無需管理 GPU 基礎設施。

本文評測了截至2026年中期的9個開源大語言模型，從基準測試、上下文窗口、多模態支持和許可證等方面進行比較。文章指出Kimi K3性能領先，但權重尚未完全開放；GLM 5.2是目前在Fireworks上可用的最佳開源模型。DeepSeek-V4-Pro、MiniMax M3和gpt-oss-120b等模型針對特定用例進行評估。

Heidi Health與Fireworks AI合作，通過監督微調（SFT）和強化微調（RFT）技術，在臨牀試驗筆記數據集上超越了Gemini Pro等前沿模型。合作伙伴關係不僅將延遲從25秒降至7秒，還實現了3.5倍的性能提升。成功的關鍵在於高質量數據過濾和大批量訓練（有效批量大小達150萬token），有效消除了噪聲並提升了模型質量。

Fireworks AI 發佈新研究，開源模型 Kimi K3 與閉源模型 Fable 5 在約 1000 個智能體任務上對比，通過任務路由兩者結合可實現 93% 準確率，成本降低最高達 50 倍，表明最佳 AI 來自模型組合而非單一模型。

Fireworks AI團隊為MiniMax M3稀疏注意力開發了Blackwell（SM100）內核，採用KV-固定執行路徑，每個KV塊只加載一次，實現了約980 TFLOP/s的吞吐量和4.1 TB/s的HBM帶寬，相比查詢固定基線（FlashInfer）加速1.9–2.4倍，相比開源MSA內核加速約1.6倍。本文詳細介紹了算法、內核設計、優化及I/O成本模型。

Fireworks宣佈完成15.05億美元D輪融資，估值達175億美元，公司年經常性收入突破10億美元，每日處理超過40萬億個token，其中95%以上來自客户專有數據優化的模型。

Gumloop通過與Fireworks AI合作，在三週內將開源模型代理對話量提升7倍，成本降低高達72%，同時保持輸出質量不變。

LangChain 為 NVIDIA Nemotron 3 Ultra 調優了 Deep Agents 框架，實現了開源模型中領先的智能體性能，成本僅為閉源替代方案的十分之一。該模型在 Fireworks 上運行，支持後訓練定製，幫助企業構建專屬智能。

作者使用 FireConnect 上的 GLM 5.2 Fast 模型，在 Claude Code 的輔助下，僅用四天時間和 218 美元的推理成本，完成了一項通常需要一個月才能完成的 GPU 調度器回收功能。文章詳細介紹了問題背景、工作流程（設計、規劃、實現）以及成功的關鍵因素：快速推理消除了上下文切換成本，低成本消除了對 token 使用的顧慮，模型質量保證了複雜邏輯的正確性。

GLM 5.2 Fast 在 Fireworks 平台上線，提供 Opus 級別的智能和開源價格，無需合同，按 token 付費。該模型專為智能體循環優化，支持 1M token 上下文窗口，快速推理速度達 446 tok/sec，並具有主動提示緩存和結構化輸出支持。Fireworks 通過優化 MoE 和稀疏注意力架構實現了高性能，同時保持質量不變。

Factory 是一家構建智能體原生軟件開發的公司，其 Droid 智能體覆蓋整個軟件開發生命週期。通過採用 Fireworks 的開源模型推理平台，Factory 在六個月內將開源模型使用量提升了 2-3 倍，同時將任務成本降至前沿模型的 6%-20%，吞吐量提升了 5-15 倍。這得益於 Fireworks 提供的模型全覆蓋、零日可用、高可靠性和低延遲。

Cursor 發佈了 Composer 2，這是一款為 Cursor 開發環境優化的編碼模型。它基於 Kimi 2.5，結合持續預訓練和大規模強化學習，實現了前沿的編碼性能，同時推理成本降低 6-10 倍。Fireworks AI 提供分佈式推理基礎設施，使強化學習規模化成為可能。

本文介紹了一種開源工作者（如Kimi-K2.6或GLM-5.2）與閉源前沿顧問（Claude Opus 4.8）相結合的AI代理架構。該方案在SWE-bench Pro、Terminal-Bench 2.1和Legal Agent Bench三個基準測試中均實現了穩定性能提升，同時將推理成本降低19%至67%。GLM-5.2搭配顧問在Terminal-Bench上達到與Opus相當的水平（約80%），在Legal Agent Bench上甚至超越Opus，成本卻低40%。

Fireworks AI 宣佈自2026年7月1日起，所有自助服務賬户將遷移至預付費計費模式。用户可立即切換或等待自動遷移，預付費模式通過預先購買信用額度實現費用可預測，自動充值功能可避免服務中斷。簽約客户不受影響。

智譜（Z.ai）發佈的最新開源模型 GLM 5.2 現已通過 Fireworks 推理平台提供。該模型在編程基準測試中表現領先，擁有100萬token的上下文窗口，適用於長週期代理任務，並採用MIT許可證。Fireworks 獨立驗證了模型性能，並強調其基礎設施優勢而非路由。

月之暗面（Moonshot AI）發佈 Kimi K2.7 Code，這是 K2 系列的最新編程模型，現已通過 Fireworks AI 提供 Day-0 支持。相比 K2.6，該模型推理 token 減少約 30%，同時在編程評測中得分更高。推理 token 的減少顯著降低了代理工作流的單任務成本。Fireworks 提供標準、優先和快速（即將推出）三種服務層級，滿足不同可靠性和速度需求。

阿里巴巴與 Fireworks 合作，在 Fireworks 基礎設施上獨家託管 Qwen 3.7 Plus 模型。該模型專為智能體循環設計，支持思考與非思考模式，上下文窗口達 262K token，並在多項基準測試中表現優異。Fireworks 作為推理提供商，提供高性能、低延遲的推理服務，數據零保留，SLA 達 99.9%。定價較前代便宜約 50%。

MiniMax 發佈旗艦模型 M3，具備超 50 萬 token 上下文窗口、原生多模態能力（文本、圖像、視頻），並採用創新的 MiniMax 稀疏注意力（MSA）架構，大幅提升推理效率。在 Fireworks 平台上，M3 價格僅為 M2.7 的 1/20，旨在為開源社區提供前沿水平的編碼和智能體能力。

NVIDIA 發佈 Nemotron 3 Ultra 開源模型，專為長時自主代理任務優化，擁有 550B 總參數、混合 Transformer-Mamba MoE 架構，可在 Fireworks 平台零日部署。該模型在代理任務上推理速度提升 5 倍，成本降低 30%，支持從訓練到生產的一體化流程。

Fireworks AI 和 Harvey 在 Legal Agent Benchmark (LAB) 上探索了兩種系統級技術，以降低對單一前沿模型的依賴，同時以更低成本實現前沿級性能。混合引擎使用開源 GLM 5.1 工作器和 Claude Opus 4.7 顧問，在 100 個任務上以 368 美元成本實現 18/100 的全通過率，超過了僅使用 Opus 的 14/100（成本 954 美元）。對 Kimi K2.6 進行監督微調 (SFT) 和強化微調 (RFT) 後，全通過率以 84 美元成本達到 15/100，平均分從 0.863 提升至 0.886。

Trilogy 的 AI 卓越中心評估了 Fireworks AI 作為推理基礎設施，以標準化開源權重模型的使用，降低了成本並實現了十億級 token 的代理工作流。

在720次瀏覽器代理任務基準測試中發現，模型在結構化輸出可靠性上的差異導致高達22.9%的執行税（浪費的推理調用佔比）。Kimi K2.5實現零執行税，而Gemini 2.5 Flash在近五分之一的調用中出現JSON格式錯誤。這種執行開銷不僅增加了成本，還放大了延遲和任務失敗風險。

Fireworks AI推出Serverless 2.0，在無需預留容量的情況下，通過一個API提供標準、優先和快速三種推理服務路徑。標準路徑是默認的彈性共享基礎設施，優先路徑在高負載下提供更強的准入保障，快速路徑則實現約兩倍的生成令牌吞吐量。同時，該版本將負載丟棄和速率限制錯誤碼分離，明確區分429和503狀態碼，幫助開發者編寫正確的重試邏輯和警報配置。

作為 AWS 頂級合作伙伴，創新解決方案公司通過將推理層遷移至 Fireworks AI，實現了服務交付的變革。其 DarcyIQ 平台從內部效率工具發展為多智能體執行系統，合同週期從 30-45 天縮短至約 3 天，交付吞吐量翻倍，推理成本從線性增長轉變為可預測的單位經濟學。

Fireworks AI 宣佈收購專為低延遲實時工作負載打造全球容器編排平台的公司 Hathora。此次收購旨在將 Hathora 在遊戲領域積累的毫秒級延遲優化技術應用於 AI 推理，以提升全球推理速度和可靠性。

Fireworks AI 宣佈在 Microsoft Foundry 上推出公開預覽版，將其高性能開源模型推理服務集成到 Azure 平台。該合作使開發者能夠通過統一的 Foundry 平台訪問 DeepSeek V3.2、Kimi K2.5 等領先開源模型，並支持自帶權重、按需擴展及企業級治理。