跳到主要內容
AI News HubLIVE
站內改寫2 分鐘閱讀

Fireworks 推出 Ember-1:在保持 Kimi K3 質量的同時減少 40% token

文章摘要

Fireworks Research 釋出 Ember-1,一個基於 Kimi K3 的專用模型,在多項基準測試和實際客戶 A/B 測試中保持同等質量,同時將推理 token 減少 35-50%。該模型現已在 Fireworks 無伺服器平臺以研究預覽形式提供。

Fireworks 推出 Ember-1:在保持 Kimi K3 質量的同時減少 40% token
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

Fireworks Research 今日釋出了 Ember-1,這是一款基於 Kimi K3 構建的專用模型,旨在解決推理模型在長鏈思考中產生的過高 token 消耗問題。Ember-1 在保持與原始 K3 相當質量的同時,將推理 token 數量減少了約 40%,在客戶實際 A/B 測試中甚至實現了 35% 的 token 節省。該模型現已在 Fireworks 無伺服器平臺上以研究預覽形式提供。

推理模型如 Kimi K3 通常將超過 90% 的生成 token 用於內部推理,而非最終答案。這在單次請求中已經昂貴,在多輪代理工作負載中更是急劇放大:每一輪都會重新讀取並重新計費之前的所有推理內容,導致上下文長度隨輪次近似二次增長。Fireworks 團隊透過實驗發現,K3 的推理鏈遠長於任務實際需要,多餘部分可以移除而不影響答案正確性,這成為 Ember-1 的出發點。

為了教會模型更高效地思考,Fireworks Research 進行了超過 50 次訓練實驗和 200 多次評估,並開發了新的訓練演算法來縮短推理過程而不損失準確率。整個訓練過程在 Fireworks 無伺服器訓練平臺上完成,無需管理 GPU,團隊可以快速啟動實驗並按使用量付費,從而大幅縮短了從研究到釋出的週期和成本。訓練資料覆蓋數學、程式設計、指令遵循、對話、搜尋、工具使用和軟體工程等多個領域,既包括獨立問題也包含擴充套件互動,以確保 token 節省效果能遷移到多種工作負載。

在公開基準測試中,Ember-1 表現優異。例如在 Terminal Bench 2.1 上,Ember-1 達到 82.0% 的透過率,超過 K3 最高推理努力設定的 80.9%;在 SWE-bench Verified 上達到 92.2%,與 K3 最高設定的 93.2% 接近;在 DeepSWE 1.1 上更是以 75.2% 大幅領先 K3 最高設定的 66.4%。在 τ-2 Bench Airline 上,Ember-1 獲得 66% 的透過率,高於 K3 所有設定的 64%。總體而言,在七個基準和兩家客戶的生產流量中,Kimi K3 的推理鏈可縮短 35-50% 而不犧牲準確率。

Fireworks 還使用其新推出的 Specialized Intelligence Index (SII) 對 Ember-1 進行了評估。在 Doximity 的 Bedside Bench(涵蓋 10 個專科類別的 500 個臨床案例)上,Ember-1 在成本/任務維度上為開源和閉源模型(包括 GPT-5.6 Sol、GPT-6 Astra 和 Claude Opus 5)設定了新的帕累託前沿。在多個行業基準上,Ember-1 也位於或接近質量-成本帕累託前沿,以遠低於 K3 最高設定的成本匹配其質量,並嚴格優於 K3 低推理努力設定。

除了基準測試,Fireworks 還在兩家客戶的生產編碼工作負載上進行了即時 A/B 測試。結果顯示,Ember-1 在質量相當的情況下,每個任務平均減少約 35% 的 token 使用量。大多數下游產品指標保持或改善,包括任務完成率、成功分數和失敗率均朝著積極方向發展,而 token 成本大幅降低。其中一家客戶已在生產環境中執行 Ember-1,並計劃擴大規模以完全替換基礎模型。

在內部,Fireworks 讓自家開發者在日常編碼工作中使用 Ember-1,結果令人滿意:開發者沒有察覺到模型切換,但 token 消耗顯著減少。對於一款以“相同答案、更少 token”為價值主張的模型來說,這種無感的內部部署是最有力的驗證。

Ember-1 目前作為 Kimi K3 的替代服務選項在 Fireworks 無伺服器平臺上以研究預覽形式推出。Fireworks 還推出了研究版本計劃,為開發者提供為期兩週的新研究模型無伺服器訪問許可權,並根據社群需求決定是否永久保留。此外,Fireworks 還推出了針對 Ember-1 的訓練支援,使企業能夠使用自己的資料構建定製化的、token 高效的模型。Ember-1 是 Fireworks Research 系列專用模型中的第一個,未來將繼續推出更多 Ember 系列模型,推動模型效率的前沿。

展開要點與分析

文章情報

工程師進階

要點

  • Ember-1 基於 Kimi K3 構建,在保持質量的同時減少了 40% 的 token 使用量。
  • 模型在七個基準和兩家客戶生產流量中實現 35-50% 的推理縮短,且準確率不降。
  • 採用 Fireworks 無伺服器訓練,進行了 50 多次訓練實驗和 200 多次評估。
  • Ember-1 在 Bedside Bench 等基準上設定了新的成本/任務帕累託前沿。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。