跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

你并未得到你付费的AI模型

文章摘要

这篇文章探讨了AI模型供应商在API调用中进行的隐性模型替换、精度降级和权重漂移现象。这些做法引发了严重的合同、法律和证据认证问题。作者分析了三种模型身份断裂的方式,并指出当前法律框架无法适应这种动态路由,提议通过可验证的模型签名来解决身份认证问题。

来源MarkTechPost作者: Aabis Islam
你并未得到你付费的AI模型
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

当你调用API传递“claude-fable-5”模型参数,却收到返回的“model”字段值为“claude-opus-4-8”时,你实际上并未得到你付费的模型。这种替换并非错误,而是供应商设计的行为。Anthropic在Fable 5重新上线时明确记载:被拦截的请求会被转给Opus 4.8,并在响应中如实告知。但其他供应商可能不会如此透明。

Cursor推出的Router系统基于超过60万个实时请求训练的分类器,根据查询上下文、复杂度和领域选择最合适的模型,声称能节省30%–50%的成本,但并未公布每个任务类型对应的具体模型。而OpenRouter则在文档中警告,某些供应商以较低价格提供量化权重版本,其输出可能与全精度版本不同,且日志不会记录这一差异。

模型身份正沿着三条独立轴发生裂变:

  1. 替换:不同架构、不同权重,由分类器决定。例如Fable 5被替换为Opus 4.8,Cursor Auto每次可能选择不同模型。
  2. 降级:同一模型以降低精度运行。OpenRouter的量化参数允许用户控制,但默认情况下请求按价格排序分配给最便宜的供应商。
  3. 漂移:相同模型名称指向悄悄更新的权重。生产环境中每个“-latest”别名都是未经版本控制的依赖。

工程界将这些视为可靠性问题,但它们本质上是身份问题——而身份正是合同、担保、披露和证据规则的基础。

法律层面,如果API调用被视为货物销售,统一商法典第2-313(1)(b)条要求描述构成明示担保。但托管软件通常被视为服务,从而绕开担保法,进入普通合同领域。合同是否被违反取决于文档具体表述和买方谈判时的意图。如果合同锁定了模型ID,替换即构成违约;如果锁定的是能力,则需要“前沿质量”的定义——而目前无人能提供。

联邦贸易委员会关于欺骗行为的法规要求对消费者有实质误导性的陈述才可追责。Anthropic明确披露了替换机制,而其他供应商的披露可能深埋于文档中且默认启用,这符合监管机构在其他消费领域称为“暗黑模式”的行为。

在证据规则方面,联邦证据规则901(b)(9)要求描述产生结果的系统或流程。如果律师提交的简报包含捏造的引用,法院需要询问哪个模型产生了它。但路由打断证据链:供应商日志可能显示不同模型,且模型本身可能已被淘汰。路由器日志中子请求的模型分配成为关键证据,但目前供应商并无保留义务。

解决方案并非合同条款,而是运行时签名:每次响应返回绑定了模型标识符、权重哈希、精度和系统提示哈希的签名,这些声明通过硬件认证密钥验证。当前响应对象已包含实际运行模型名称,但缺乏法律属性——无法防止错误声明,且买方无法不依赖卖方进行验证。哈希响应头可以为模型身份提供类似联邦规则902(14)的可验证性。

路由是好工程,但它现在是一个未记录、未签名、无法验证的替换。模型ID已悄然成为法律标识符。是时候决定它标识什么了。

展开要点与分析

文章情报

工程师进阶

要点

  • 模型替换:请求被分类器转向不同架构的模型,用户可能收到未经选择的模型输出。
  • 精度降级:相同模型以降低精度提供服务,输出可能偏离预期。
  • 法律风险:合同、担保和证据规则均依赖模型身份,但现有披露和路由机制无法提供可靠的身份证明。
  • 解决方案:引入绑定了硬件认证的可签名模型身份元数据,实现可验证的输出源。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。