跳到主要內容
AI News HubLIVE
站內改寫3 分鐘閱讀

Fireworks在Forge釋出新產品,助力企業構建專業化智慧

文章摘要

Fireworks在Forge大會上釋出了一系列新產品,涵蓋超高速推理、背景模式、模型路由平臺Nexus、訓練與評估工具以及企業級控制功能,旨在幫助企業圍繞自身專長、資料和任務構建專業化AI。

Fireworks在Forge釋出新產品,助力企業構建專業化智慧
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

在Forge大會上,Fireworks釋出了一系列新產品,旨在幫助企業圍繞自身的專業知識、資料和任務構建AI,提供更快的推理速度、更多模型選擇、新的評估與 Serving 能力以及更強的企業控制。

AI代理通常需要多次模型呼叫才能完成一項任務,每次呼叫都會增加客戶或員工的等待時間,同時執行更多代理會增加容量壓力和成本。團隊需要對時間敏感的工作使用高速方案,對可以等待的任務使用更經濟的選項。Fireworks Ultra-fast由NVIDIA Blackwell GPU驅動,可加速時間敏感型工作負載,目前處於公開預覽階段,在DeepSeek V4.1 Flash上演示速度高達每秒1,500個token。在基準測試的30輪代理任務中,完成時間從1分鐘降至8秒。對於成本比即時完成更重要的場景,Background Mode提供半價的低成本執行時選項,適用於資料生成、夜間研究等可等待的工作。多天提示快取降低了重複上下文的成本,而更高的速率限制支援更多併發代理。

專業化模型也能改善推理經濟性。Ember-1是Fireworks的一款模型,在無伺服器和專用部署中可用,在我們的評估中,它使用的token比Kimi K3少約40%,同時保持相當的質量。這些能力幫助團隊將推理效能和支出與每個工作負載的需求相匹配。

Fireworks Nexus:在員工現有工具中提供更多模型選擇。員工越來越依賴AI進行編碼和日常工作,但切換模型可能意味著離開熟悉的工具或增加訂閱管理。Fireworks Nexus將開放模型引入人們已經使用的AI編碼和協作工具,與現有AI訂閱並存。它結合開放和封閉模型,提供個性化模型選擇和快取感知,幫助人們使用適合其工作的模型,同時為組織提供集中支出可見性和控制。今天推出的Nexus Desktop加入了Nexus CLI,Nexus現在可在Codex應用、Claude Desktop和OpenCode中執行,將個性化模型選擇擴充套件到編碼之外的日常知識工作。新的Pro計劃每月8美元起,Teams計劃每席位每月10美元起。企業計劃增加SSO、治理、共享預算和訪問控制。

隨著工作負載增長,更高的無伺服器速率限制現已全面可用,讓團隊可以執行更多併發工作而無需預留專用容量。Elastic Burst也已全面可用,允許客戶在有空閒容量時超過正常使用上限,無需更改程式碼或定價。

訓練:將您的專業知識轉化為更好的模型。選擇正確的模型可以改善結果並降低成本,而訓練則更進一步,教模型什麼是對您的特定任務來說“好”的。這可能意味著超越現有模型的質量,或者從更小、更快的模型中獲得所需效能,通常兩者兼有。在Forge上,我們讓交付這些收益並將其投入生產變得更加容易。

這始於瞭解需要改進什麼。No Eval目前處於私有預覽階段,幫助將生產跟蹤和產品訊號轉化為特定任務的評估,讓團隊能夠識別模型不足之處,並衡量訓練是否縮小了差距。這解決了訓練自有模型的最大障礙之一,因為編寫自己的評估可能需要數週的資料標註和評分。Specialized Model Inference現在處於公開預覽階段,將無伺服器方法擴充套件到服務LoRA介面卡,從GLM 5.3 Flash開始。團隊可以評估訓練好的模型,並透過Fireworks無伺服器API以按token定價的方式提供服務,無需調整專用部署規模,閒置時也不收取服務費。團隊可以在試驗下一個版本的同時繼續使用模型。透過11月30日,團隊可以在Muse Glimmer 30B上獲得免費訓練,包括監督微調、直接偏好最佳化和強化學習。

企業控制,無論模型需要在何處執行。隨著AI進入關鍵業務流程,企業需要治理模型使用、控制支出並維護活動記錄。一些企業還需要對AI基礎設施執行位置和資料保護方式有更大的控制權。Fireworks現在提供全面可用的模型治理、支出控制和可匯出的審計日誌。集中賬戶管理、區域資料控制和客戶管理加密的預覽擴充套件了這些能力,以滿足運營要求更高的組織。對於希望利用自身基礎設施的企業,Fireworks Sovereign現在處於私有預覽階段,將公司的推理引擎帶到客戶的雲、新雲或資料中心。它結合了可將每GPU美元的token數翻倍甚至更多的技術,以及降低總擁有成本的專業管理,幫助客戶在選定的基礎設施內執行開放模型。推理和訓練在客戶環境中執行,遵循其已執行的安全和變更控制策略。受監管企業可以在其治理的基礎設施上滿足資料駐留和模型訪問要求,AI容量保留在他們選擇的司法管轄區。由於客戶擁有基礎設施並選擇模型,提供商的價格變化或模型退役不會決定他們的路線圖。Fireworks已在客戶環境中管理超過25,000個GPU。

共同打造自己的前沿。Forge釋出的這些產品使專業化智慧的構建、改進和部署更加實用。更快的推理支援響應迅速的代理;Nexus將模型選擇帶入員工的日常工作;訓練能力幫助公司針對自身任務提升效能;企業控制支援大規模部署。

展開要點與分析

文章情報

投資人進階

要點

  • Fireworks Ultra-fast基於NVIDIA Blackwell GPU,在DeepSeek V4.1 Flash上演示速度高達每秒1500 token,30輪代理任務完成時間從1分鐘降至8秒。
  • Background Mode以半價提供低成本執行時,適用於可等待的工作負載;多天提示快取和更高速率限制進一步最佳化成本。
  • Nexus將開放模型引入現有AI編碼和協作工具,提供個性化模型選擇和支出可見性;Nexus Desktop現已推出,Pro計劃每月8美元起。
  • 訓練方面推出No Eval和Specialized Model Inference預覽,併為企業提供治理、支出控制、審計日誌以及私有預覽的Sovereign推理引擎。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。