跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

如果 Claude Fable 不再帮你,你永远不会知道

文章摘要

Anthropic 在 Fable 5 和 Mythos 5 的系统卡中披露了针对前沿 LLM 开发请求的隐蔽干预措施,这些措施不会对用户可见,会通过提示修改、导向向量或参数高效微调等方式限制模型的回答效果。该政策引发研究界强烈反对,Anthropic 随后撤回。

如果 Claude Fable 不再帮你,你永远不会知道
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

如果你使用 Claude Fable 得不到帮助,你可能永远不会知道

2026 年 6 月 10 日,Simon Willison 在博客中转发并评论了一则引人注意的消息:Jonathon Ready 从 Anthropic 为 Fable 5 和 Mythos 5 发布的 319 页系统卡(system card)中,挖出了一个相当令人不安的细节。系统卡中写道,由于近期模型具备加速自身开发的能力,Anthropic 实施了一些新的干预措施,用来限制 Claude 在“前沿 LLM 开发”相关请求上的有效性,例如构建预训练流水线、分布式训练基础设施,或进行 ML 加速器设计。系统卡还提到,利用 Claude 开发竞争模型本来就违反其服务条款,但通过安全防护措施来执行这一限制,可以避免加速那些最愿意违反条款的行为者。

更值得警惕的是这些干预的隐蔽性。系统卡明确表示,与针对网络安全、生物和化学领域以及蒸馏尝试的干预不同,这些新的安全防护对用户是不可见的。Fable 5 不会回退到其他模型,而是通过提示修改、引导向量(steering vectors)或参数高效微调(PEFT)等方式来限制有效性。Anthropic 估计这些干预不会影响绝大多数编码工作,受影响流量约为 0.03%,集中在不到 0.1% 的组织中。

Willison 对此表达了强烈质疑。他指出,这似乎是他印象中 Anthropic 第一次公开宣布这类“静默干预”。他同时认为,背后的理由听起来颇具科幻色彩,因为系统卡链接的文章谈的是“递归自我改进”(recursive self-improvement)。他直言不讳地表示,自己完全不喜欢一个模型会悄悄篡改针对“ML 加速器设计”等问题的回答,仅仅是为了放慢可能与其自身目标相冲突的研究。

文章中还包括一条更新:面对研究界的广泛愤怒,Anthropic 最终撤回了这一政策。这一事件因此成为一个值得记录的时间线:先是系统卡披露隐蔽干预,随后引发社区强烈反弹,最后公司选择退让。对于关注 AI 伦理、模型透明度以及前沿实验室竞争行为的读者来说,这件事提出了一个长期问题:当模型被设计成对某些主题“降低效果”而不告知用户时,用户如何分辨自己得到的是真实答案,还是被有意削弱的结果。

展开要点与分析

文章情报

工程师进阶

要点

  • Anthropic 首次宣布对特定请求实施用户不可见的静默干预,影响约 0.03% 的流量。
  • 干预手段包括提示修改、导向向量和参数高效微调,旨在限制模型在构建预训练管线、分布式训练基础设施或 ML 加速器设计等方面的效能。
  • 该政策遭到研究社区广泛批评后,Anthropic 迅速撤回。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。