Cursor、Ramp 和 Meta 都在构建模型路由器——但其中两家自身有着重大模型抱负
Cursor 推出模型路由器 Cursor Router,可根据任务需求自动选择最合适的 AI 模型,节省成本并保持质量。Ramp 和 Meta 也发布了类似工具。Cursor 自身也在开发强大模型,并开始掌控自己的 AI 堆栈。
Cursor 是一款人工智能编码工具,近期被埃隆·马斯克旗下的 SpaceX 以 600 亿美元的全股票交易收购。如今,它推出了一款模型路由器,旨在将每个编码请求导向最擅长处理该请求的模型,从而避免为不需要前沿模型的任务支付高昂费用。
Cursor Router 的内部机制类似于医院急诊室的分诊系统:它会分析请求的实际需求——难度、用途、周围代码等——然后选择最合适的模型。简单的修复会交给便宜的模型,而真正困难的问题则会升级到接近前沿级别的模型。值得注意的是,开发者和管理员还可以使用三种不同的模式来调整这种平衡,根据需要在速度和成本之间做出取舍。
据 Cursor 的现场 CTO David Pan 在周三的社交媒体帖子中表示,构建 Cursor Router 的更广泛理由是,开发者不应该为了编写代码而成为模型性能方面的专家。他写道:“我们曾短暂地疯狂了,认为每个软件工程师都应该成为模型基准、思维层级和缓存命中率的专家。”早期社区反馈也基本认同这一观点:PlanetScale 的软件工程师 Fatih Arslan 在 X 上指出,工程师们已经手动在成本和能力之间做出选择——日常任务使用便宜快速的模型,而“严肃任务”则保留慢速昂贵的模型。Arslan 写道:“我们已经花了很多时间在选择模型上。为什么不自动化这部分呢?Cursor Router 就是这种自动化。”
在一篇周三发布的博客文章中,Cursor 声称早期接入客户相比将所有请求路由到 Opus 4.8 节省了 30-50% 的成本,且输出质量没有下降。
此次发布之前,Cursor 已采取一系列措施来控制更多自己的 AI 堆栈。今年五月,该公司发布了 Composer 2.5,这是对其内部编码模型的更新,专为长任务设计,成本低于 Anthropic 和 OpenAI 的前沿模型。Composer 2.5 与前代产品一样,基于 Moonshot AI 的 Kimi K2.5,这是一个来自中国的开放权重模型。如今,凭借 SpaceX 的支持(SpaceX 自 6 月 IPO 以来市值已达 1.5 万亿美元),Cursor 正在推出自己的强大前沿模型。7 月 8 日,Cursor 和 SpaceXAI 联合发布了 Grok 4.5,这是一个混合专家模型,基于名为 V9 的新基础架构,马斯克此前曾指出其参数约为 1.5 万亿。该模型使用了数万亿 token 的真实 Cursor 使用数据进行训练,对所有 Cursor 计划开放,输入 token 价格为每百万 2 美元,输出 token 价格为每百万 6 美元。
有了 Composer 处理廉价快速的工作,以及 Grok 品牌的前沿模型处理更重的任务,Cursor 在常规的外部提供商之外,也有了自家模型可供选择。这正是 Cursor 构建 Router 的核心原因:大多数开发者无论任务如何都只选择一种模型,导致简单工作也支付了前沿模型的价格。如果将所有请求都导向自家模型,虽然可以轻松将钱留在内部,但意味着某些任务上的输出质量会下降。因此,Router 会将每个请求发送给最适合的模型,无论是否是 Cursor 自家的。
模型路由本身并非全新概念。OpenRouter 自 2023 年起就提供了类似服务:一个单一 API 位于 400 多个模型和 60 多个提供商之前,包括 OpenAI、Anthropic 和 Google。其自动路由功能大致类似于 Cursor Router——对请求进行分类,然后将其发送给适合任务且符合用户成本与质量偏好的模型。最近,OpenRouter 推出了 Fusion,它采用不同的方法:不是选择一个模型,而是将提示发送给多个模型,并使用一个评判模型综合出最强的答案。本月,日本的 Sakana AI 在 6 月发布了 Fugu,它将单个任务分解为子任务,并将每个部分路由给不同的模型,Sakana 将其定位为对抗依赖单一 AI 提供商的策略。
然而,并非所有人都看好这些尝试。周三,Nethermind 的 AI 产品负责人 Kirill Balakhonov 在 LinkedIn 上表示,Cursor 的版本之所以成功,正是因为它专注于编码,而不是试图成为通用路由器。他写道:“这是一个技术革新立即转化为产品改进的绝佳例子……而不是像 Sakana Fugu 或 OpenRouter Fusion 那样抽象的想法。”他预测这两个更广泛的路由努力将逐渐被遗忘。
或许新的变化在于,一些知名企业也开始涉足模型多样性。7 月初,微软成立了一个名为 Microsoft Frontier Company 的 25 亿美元服务部门,在客户现场嵌入数千名工程师,帮助他们使用多种 AI 模型进行构建。微软商业业务 CEO Judson Althoff 当时告诉路透社,此举部分源于观察到 DeepSeek 和 Google 的 Gemini 等竞争对手正在缩小与 OpenAI 的差距。他承认:“我们犯了一个错误,将 Copilot 与 OpenAI 模型绑定。”
如果行业中与单一模型关系最深的公司都在后退,那么模型灵活性的理念显然已成为主流——至少从本周的情况来看确实如此。
周二,价值 440 亿美元的支出管理巨头 Ramp 开放了 Ramp Router 的早期公开版本,这是它内部用于管理 AI 账单的模型路由器,据称可将 LLM 成本降低约 30%。该工具免费使用,无需 Ramp 账户,可通过 OpenAI 兼容端点跨 OpenAI、Gemini 和包括 Kimi 在内的精选开源模型进行路由。同一天,The Information 的 Jyoti Mann 报道称,Meta 也在开发模型路由器。根据报道中引用的内部文件,Meta 内部的一个孵化器 AAI Labs 正在开发一款名为 Switchboard 的新产品,该产品会对每个请求进行难度评分,并将简单请求发送给更小、更便宜的模型——最初旨在降低 Meta 自身的 AI 代理成本,但据报道最终可能公开推出。
Meta 有特别的理由需要这款产品。来自 Runpod 的《AI 现状报告》数据显示,Meta 的开放式 Llama 模型在生产中的部署率很低:Llama 4 几乎零实际部署,而阿里巴巴的 Qwen 已取代它成为最广泛部署的自托管 LLM。Meta 也在构建专有模型作为回应。Muse Spark 是其新成立的 Meta Superintelligence Labs 推出的首个模型,于 4 月发布。随后在 7 月,Meta 发布了 Muse Spark 1.1,这是 Meta 首个具有公开付费 API 的模型,定价约为 OpenAI 和 Anthropic 类似模型价格的四分之一。Meta 正在积极瞄准现有企业,Switchboard 符合这一模式:一种让用户更容易降低成本、自由切换模型的方法,并在合适的情况下将请求导向 Meta 自家模型。
然而,在所有这些关于模型路由的热议中,或许存在一个更广泛的开放性问题。不是模型本身的开放(这本身就是一个激烈的争论),而是路由决策本身——决定哪个模型处理哪个请求的逻辑——是否应该放在供应商的封闭产品中。DAIR.AI 联合创始人、前 Meta AI 技术产品营销经理 Elvis Saravia 在 X 上表示不应该,因为团队对成本和质量的权衡不同。他问道:“有人以开源方式构建这个吗?感觉这是你不应该交由 API 处理的事情。我们都在进行不同的权衡,因此需要实现自定义路由的能力。”
至于 Cursor 的版本,Router 目前仅面向 Teams 和 Enterprise 客户,覆盖桌面、网页、iOS、CLI 和 Cursor SDK。目前尚不清楚最终是否会登陆个人计划。