AI News HubLIVE
站內改寫4 分鐘閱讀

Cursor、Ramp 和 Meta 都在構建模型路由器——但其中兩家自身有着重大模型抱負

Cursor 推出模型路由器 Cursor Router,可根據任務需求自動選擇最合適的 AI 模型,節省成本並保持質量。Ramp 和 Meta 也發佈了類似工具。Cursor 自身也在開發強大模型,並開始掌控自己的 AI 堆棧。

來源The New Stack AI作者: Paul Sawers

Cursor 是一款人工智能編碼工具,近期被埃隆·馬斯克旗下的 SpaceX 以 600 億美元的全股票交易收購。如今,它推出了一款模型路由器,旨在將每個編碼請求導向最擅長處理該請求的模型,從而避免為不需要前沿模型的任務支付高昂費用。

Cursor Router 的內部機制類似於醫院急診室的分診系統:它會分析請求的實際需求——難度、用途、周圍代碼等——然後選擇最合適的模型。簡單的修復會交給便宜的模型,而真正困難的問題則會升級到接近前沿級別的模型。值得注意的是,開發者和管理員還可以使用三種不同的模式來調整這種平衡,根據需要在速度和成本之間做出取捨。

據 Cursor 的現場 CTO David Pan 在週三的社交媒體帖子中表示,構建 Cursor Router 的更廣泛理由是,開發者不應該為了編寫代碼而成為模型性能方面的專家。他寫道:“我們曾短暫地瘋狂了,認為每個軟件工程師都應該成為模型基準、思維層級和緩存命中率的專家。”早期社區反饋也基本認同這一觀點:PlanetScale 的軟件工程師 Fatih Arslan 在 X 上指出,工程師們已經手動在成本和能力之間做出選擇——日常任務使用便宜快速的模型,而“嚴肅任務”則保留慢速昂貴的模型。Arslan 寫道:“我們已經花了很多時間在選擇模型上。為什麼不自動化這部分呢?Cursor Router 就是這種自動化。”

在一篇週三發佈的博客文章中,Cursor 聲稱早期接入客户相比將所有請求路由到 Opus 4.8 節省了 30-50% 的成本,且輸出質量沒有下降。

此次發佈之前,Cursor 已採取一系列措施來控制更多自己的 AI 堆棧。今年五月,該公司發佈了 Composer 2.5,這是對其內部編碼模型的更新,專為長任務設計,成本低於 Anthropic 和 OpenAI 的前沿模型。Composer 2.5 與前代產品一樣,基於 Moonshot AI 的 Kimi K2.5,這是一個來自中國的開放權重模型。如今,憑藉 SpaceX 的支持(SpaceX 自 6 月 IPO 以來市值已達 1.5 萬億美元),Cursor 正在推出自己的強大前沿模型。7 月 8 日,Cursor 和 SpaceXAI 聯合發佈了 Grok 4.5,這是一個混合專家模型,基於名為 V9 的新基礎架構,馬斯克此前曾指出其參數約為 1.5 萬億。該模型使用了數萬億 token 的真實 Cursor 使用數據進行訓練,對所有 Cursor 計劃開放,輸入 token 價格為每百萬 2 美元,輸出 token 價格為每百萬 6 美元。

有了 Composer 處理廉價快速的工作,以及 Grok 品牌的前沿模型處理更重的任務,Cursor 在常規的外部提供商之外,也有了自家模型可供選擇。這正是 Cursor 構建 Router 的核心原因:大多數開發者無論任務如何都只選擇一種模型,導致簡單工作也支付了前沿模型的價格。如果將所有請求都導向自家模型,雖然可以輕鬆將錢留在內部,但意味着某些任務上的輸出質量會下降。因此,Router 會將每個請求發送給最適合的模型,無論是否是 Cursor 自家的。

模型路由本身並非全新概念。OpenRouter 自 2023 年起就提供了類似服務:一個單一 API 位於 400 多個模型和 60 多個提供商之前,包括 OpenAI、Anthropic 和 Google。其自動路由功能大致類似於 Cursor Router——對請求進行分類,然後將其發送給適合任務且符合用户成本與質量偏好的模型。最近,OpenRouter 推出了 Fusion,它採用不同的方法:不是選擇一個模型,而是將提示發送給多個模型,並使用一個評判模型綜合出最強的答案。本月,日本的 Sakana AI 在 6 月發佈了 Fugu,它將單個任務分解為子任務,並將每個部分路由給不同的模型,Sakana 將其定位為對抗依賴單一 AI 提供商的策略。

然而,並非所有人都看好這些嘗試。週三,Nethermind 的 AI 產品負責人 Kirill Balakhonov 在 LinkedIn 上表示,Cursor 的版本之所以成功,正是因為它專注於編碼,而不是試圖成為通用路由器。他寫道:“這是一個技術革新立即轉化為產品改進的絕佳例子……而不是像 Sakana Fugu 或 OpenRouter Fusion 那樣抽象的想法。”他預測這兩個更廣泛的路由努力將逐漸被遺忘。

或許新的變化在於,一些知名企業也開始涉足模型多樣性。7 月初,微軟成立了一個名為 Microsoft Frontier Company 的 25 億美元服務部門,在客户現場嵌入數千名工程師,幫助他們使用多種 AI 模型進行構建。微軟商業業務 CEO Judson Althoff 當時告訴路透社,此舉部分源於觀察到 DeepSeek 和 Google 的 Gemini 等競爭對手正在縮小與 OpenAI 的差距。他承認:“我們犯了一個錯誤,將 Copilot 與 OpenAI 模型綁定。”

如果行業中與單一模型關係最深的公司都在後退,那麼模型靈活性的理念顯然已成為主流——至少從本週的情況來看確實如此。

週二,價值 440 億美元的支出管理巨頭 Ramp 開放了 Ramp Router 的早期公開版本,這是它內部用於管理 AI 賬單的模型路由器,據稱可將 LLM 成本降低約 30%。該工具免費使用,無需 Ramp 賬户,可通過 OpenAI 兼容端點跨 OpenAI、Gemini 和包括 Kimi 在內的精選開源模型進行路由。同一天,The Information 的 Jyoti Mann 報道稱,Meta 也在開發模型路由器。根據報道中引用的內部文件,Meta 內部的一個孵化器 AAI Labs 正在開發一款名為 Switchboard 的新產品,該產品會對每個請求進行難度評分,並將簡單請求發送給更小、更便宜的模型——最初旨在降低 Meta 自身的 AI 代理成本,但據報道最終可能公開推出。

Meta 有特別的理由需要這款產品。來自 Runpod 的《AI 現狀報告》數據顯示,Meta 的開放式 Llama 模型在生產中的部署率很低:Llama 4 幾乎零實際部署,而阿里巴巴的 Qwen 已取代它成為最廣泛部署的自託管 LLM。Meta 也在構建專有模型作為回應。Muse Spark 是其新成立的 Meta Superintelligence Labs 推出的首個模型,於 4 月發佈。隨後在 7 月,Meta 發佈了 Muse Spark 1.1,這是 Meta 首個具有公開付費 API 的模型,定價約為 OpenAI 和 Anthropic 類似模型價格的四分之一。Meta 正在積極瞄準現有企業,Switchboard 符合這一模式:一種讓用户更容易降低成本、自由切換模型的方法,並在合適的情況下將請求導向 Meta 自家模型。

然而,在所有這些關於模型路由的熱議中,或許存在一個更廣泛的開放性問題。不是模型本身的開放(這本身就是一個激烈的爭論),而是路由決策本身——決定哪個模型處理哪個請求的邏輯——是否應該放在供應商的封閉產品中。DAIR.AI 聯合創始人、前 Meta AI 技術產品營銷經理 Elvis Saravia 在 X 上表示不應該,因為團隊對成本和質量的權衡不同。他問道:“有人以開源方式構建這個嗎?感覺這是你不應該交由 API 處理的事情。我們都在進行不同的權衡,因此需要實現自定義路由的能力。”

至於 Cursor 的版本,Router 目前僅面向 Teams 和 Enterprise 客户,覆蓋桌面、網頁、iOS、CLI 和 Cursor SDK。目前尚不清楚最終是否會登陸個人計劃。