AI News HubLIVE
站內改寫3 分鐘閱讀

Fireworks AI 釋出 Fireworks Nexus:一個即插即用的路由和成本控制層,將常規編碼工作遷移至開源模型

Fireworks AI 推出了 Fireworks Nexus,這是一個面向工程組織的AI管理和路由平臺。它將開發者常用的編碼工具連線到託管層開源模型,旨在解決企業AI成本飆升問題。平臺包含企業控制、FireConnect工作流持續性和智慧流量管理三大元件,初步測試顯示可降低3-5倍成本。

來源MarkTechPost作者: Michal Sutter

Fireworks AI 釋出了 Fireworks Nexus,這是一個面向工程組織的AI管理和路由平臺。它旨在將開發者日常使用的編碼工具連線到託管層開源模型,從而解決企業AI成本失控的問題。

該平臺主要解決的是成本效益錯配問題。據《福布斯》報道,優步在四個月內用完了其2026年整個AI預算。Claude Code在12月推出後已覆蓋約5000名工程師。Fireworks引用同一報告指出,智慧體採用率在兩個月內從約三分之一工程師上升到超過五分之四。

Fireworks認為核心問題並非超支,而是不匹配。大多陣列織以前沿模型的價格執行常規工作。運營複雜性使得平臺團隊轉向開源模型缺乏吸引力。

Fireworks Nexus 包含三大元件:

  1. 企業控制和成本可觀測性:團隊可在團隊或公司級別設定預算,跨模型和工具追蹤ROI,並統一執行策略。請求執行在Fireworks生產推理平臺上,擁有美國託管端點、零資料保留,覆蓋20個全球資料中心。
  1. 工作流連續性:FireConnect 是一行程式碼的安裝外掛,將工具插槽對映到Fireworks模型。它基於Apache 2.0許可釋出,可從Fireworks儀表盤一鍵安裝。Claude Code、Codex和OpenCode可保持原樣執行。FireConnect執行在相容Anthropic和OpenAI的Fireworks Serverless API上,因此大多數工具只需一個基礎URL和模型ID即可連線。
  1. 智慧流量管理:一個自定義訓練模型對每個請求的難度進行評分。常規請求被路由到Fireworks提供的成本效益高的開源模型,而困難請求則透過使用者自己的金鑰傳遞到現有提供商,Fireworks宣告該金鑰不會儲存在伺服器端。研究團隊報告稱,這通常可降低3-5倍成本。

值得注意的是,路由器目前是研究預覽版。它當前在Claude Opus 5和GLM-5.2之間路由,因此後向通道需要Anthropic金鑰。全開源配置則在Kimi K3和GLM-5.2之間路由。

效能方面,Fireworks研究團隊與包括Notion和Doximity在內的開發團隊進行了測試。初步結果顯示每個合併拉取請求的成本降低了三分之一。研究團隊還報告混合令牌費率約為閉源模型實驗室的四分之一。這些是預覽計劃中的供應商資料,應謹慎看待。

更有效的證據來自Fireworks引用的兩項獨立評估。

Faros AI 在七個模型和工具路徑上,從12個程式碼倉庫中選取了211個真實工程任務。Claude Code on GLM-5.2 在基於模型的評委上得分為0.568,而Claude Code on Opus 4.8得分為0.521。成本差距大於質量差距:每項任務0.92美元對比1.76美元。快取份額分別為89.7%和99.7%,因此快取並不能解釋結果。Faros強調該結果是公司特定的,並非通用排行榜。

Arize與Fireworks聯合研究了10個模型在40個Terminal-Bench任務上的表現,每個任務進行6次試驗,共2400次執行和626美元API開銷,由每個任務自己的測試套件評分。關鍵指標是每項成功任務的成本,包括所有失敗和重試嘗試。

該研究的兩項發現直接關係到Nexus的設計。在簡單任務上,前沿模型的溢價沒有帶來收益:Kimi K2.6透過率為73%,而GPT-5.5為69%。在困難任務上,只有頂級模型才能競爭,GPT-5.5為51%,Kimi K3為32%。Arize的評估工具是開源的,團隊可以在自己的負載上重新執行。

在這些執行上模擬路由優於任何單一模型策略。一個精心設計的升級階梯達到了每成功任務0.525美元,同時可靠地解決了40個任務中的32.3個。僅GPT-5.5成本為0.636美元,可靠解決25個任務。透過所有10個模型簡單升級的成本為1.319美元,比任何單一模型都差。階梯設計並非可有可無。

團隊實際部署有三種路徑,其影響範圍不同。

FireConnect路徑摩擦最小。安裝器需要Claude Code CLI已在PATH中,提示一次輸入Fireworks API金鑰,註冊外掛市場,並寫入帶有時間戳備份的Claude Code設定。它暴露了/fireconnect:on、/fireconnect:off、/fireconnect:setup、/fireconnect:models和/fireconnect:set-models命令。

第二種路徑完全跳過外掛。設定ANTHROPIC_BASE_URL和Fireworks金鑰,或使用相容OpenAI的客戶端,更改基礎URL和模型ID。Arize指出,在其工具中新增一個模型只需一行配置。這種互換性使得構建升級階梯成為可能。

第三種路徑是路由器本身,位於現有前沿合約之前。

總結:獨立執行(Faros AI的211項任務和Arize的2400次執行)支援按難度而非按品牌路由。Fireworks Nexus是一個即插即用的AI管理和路由層,適用於工程組織,於2026年7月26日釋出。其三個部分包括企業成本控制、FireConnect用於工作流連續性以及難度感知路由器。FireConnect基於Apache 2.0,一行安裝,保持Claude Code、Codex和OpenCode不變。Fireworks引用的初步客戶測試顯示3-5倍成本降低和每個合併PR成本降低33%。

來源:Fireworks Nexus公告、FireConnect倉庫、Faros AI評估和Arize每成功任務成本基準。