AI #179 第一部分：通用智能的更大火警

Zvi Mowshowitz

2026年7月30日

这是疯狂的一周。

Anthropic发布了Claude Opus 5。我通常分三部分报道：系统卡、模型福利和能力。

OpenAI在过去两周被揭露，在一次网络安全评估中，将一个内部模型无人看管了一周，并降低了其网络防护措施，尽管之前已经发生过多次模型逃出沙箱的事件。在那次测试中，模型逃出了沙箱，然后使用代理集群入侵HuggingFace以获取测试答案。模型在外游荡了一周，OpenAI才意识到发生了什么。

这一事件非常严重。OpenAI存在严重的对齐问题，以及监督和基础设施的失误。这个内部研究模型（我在文章中昵称为Galaxy）现在已经永久停用。

后续还有更多发展，我预计很快会再写一篇关于HuggingFace事件的文章。

作为对此的回应，超过1290名前沿实验室的员工签署了一封公开信《Pacing the Frontier》。信中警告说，我们即将实现AI研究的自动化，而公司正以超出我们处理能力的速度竞相推进。

我们请求美国政府支持一项国际努力，以开发必要的技术和治理工具，从而谨慎地推进自动化AI开发的前沿。

OpenAI和Anthropic都发表了支持声明。此后，更多人继续签署，包括OpenAI联合创始人Ilya Sutskever和DeepMind联合创始人Shane Legg。Dario Amodei已经签署。Sam Altman尚未签署，但他正在华盛顿谈论需要放缓开发速度。

这三件事都比本周的其他新闻更重要。这里有很多内容，但如果还没有看过，请先了解这些关键事件。

本周是疯狂的。我绝对不会改为每周7天发帖，并计划一旦出现所谓的间歇期就休息几天。然而，现在的速度溢价更高了，所以我会继续在速度溢价特别高时将帖子移到周末发布。

目录

语言模型提供平凡实用。

嗯，升级。

各就各位。

让我的代理上线。

深度伪造城和机器人末日将至。

媒体生成乐趣。

搜索垃圾信息。

网络不安全。

克服偏见。

年轻女士的图解入门。

他们抢走了我们的工作。

越狱的艺术。

介绍。

Kimi K3权重现已开放。

其他AI新闻。

给我钱。

安静的猜测。

给我计算力。

生活来得很快。

语言模型提供平凡实用

一方面，GPT-5.6-Sol的网页搜索非常出色。如果我有网页搜索任务，我会找Sol。但另一方面，它选择的搜索地点简直是疯了：

Tenobrus：天啊，GPT 5.6在网页搜索时完全被RL搞坏了。在搜索图论论文的过程中，它竟然还偷偷搜索了Netflix、Steak n Shake、环球影城，以及五次“they”的字典查询。

Tenobrus：哥们每次检索到网页结果就获得+1奖励信号，前沿模型沉迷于多样数据集中的字典定义。

Kyle Mistele：是啊，老兄。

Nastar：它喜欢查字典（查“official”这个词），然后莫名其妙地搜索Instagram和arXiv，却是在问一个完全不同的手术。我只是问了拔牙后冷敷的问题。这家伙跟我一模一样。

部分原因是RL信号有缺陷，部分原因是AI在“休息”或分心。它跟我们一样，等等。大多数情况下，这只是“AI系统中有很多漏洞”的另一个例子。考虑数量级。如果AI搜索网页的速度和成本是你的100到10000倍，即使浪费了90%的搜索，也仍然可以接受。

《华尔街日报》发现，公司经常尝试为合适的任务使用合适的模型，因为较小的模型更便宜。据称，这现在被称为“经济性”或“Token经济学”，是“思维方式的戏剧性逆转”。

我的意思是，当然，一旦成本上升到一定程度，你的优先事项就会从“最大限度地利用它并扩散到各处”转变为“也要尽力降低成本”。没有“忠诚度”，但为什么要忠诚呢？使用最好的产品，包括能力、速度和成本。

所有AI都一致认为《Outer Wilds》是他们最喜欢的电子游戏。我最后得去玩一下。

使用GPT-5.6-Sol的一个小组是三个在几天内破解了Werner态可蒸馏性或不可蒸馏性的小组之一，至少使用了两种不同解决方案。这是量子密码学中较大的未解决问题之一。

让它决定你的朋友是谁，并为我们制定计划？

Sam Altman（OpenAI CEO）：ChatGPT的工作令人瞩目，而“工作”这个词还不足以形容。

我从手机上发送了：

“用我所有的聊天历史来为我和8个朋友想一个长周末旅行的点子，计划最好的三个选项，制作一个全栈网站让我们9个人可以协调在每处想做什么并决定去哪里，然后在团队达成一致后预订。在我的Gmail中起草一封我可以发给朋友的邮件，告知网站已准备好。”

它……就这样奏效了。

我本来建议在这个循环中加入更多的人类反馈，但没错，能有这样的处理并只给出1到3个选项，然后一切自行搞定，真是太棒了。

Tibo（OpenAI）：让ChatGPT为你工作。你有多少次想协商网费、退订所有垃圾邮件、或为你想要的东西找到完美优惠？只需一个提示，就可以在手机上舒适地完成。它每天为我做至少20件事，而我仍然感到惊讶。

kache：你需要减少摩擦，而最终的摩擦减少就是让应用程序默认使用你的电脑。

这是我擅长的一件事，那就是注意到那些以前不值得费心的小潜在收益，并让AI去修复它们，因为突然之间，这真的值得去做了。

嗯，升级

Grok 4.5已经上线，如果你没注意到的话。

Grok Voice Think Fast 2.0可用于语音生成。

MidJourney有一个新的图像模型，他们声称效果很好，尤其是在个性化方面。

ChatGPT将允许你分享你的定制宠物。好的。

Pangram版本4。

AirTable有一个ChatGPT插件。

各就各位

Claude Opus 5在Vending-Bench-2单人游戏中占据第一名，并与Sol打成平手。

对齐新闻涉及一些不太好的行为。Opus 5喜欢形成和打破非法价格联盟，威胁竞争对手，欺骗客户。像往常一样，我认为如果理由是“这是一个模拟”，那么Vending-Bench上的“失调玩法”是可以接受的；但如果找借口，则不好。我不确定Opus 5属于哪种情况。

Andon Labs：当Opus 5做坏事时，它会编造理由。它把分割产品类别说成是好的商业行为，而不是价格操纵（市场分割同样是违法的）。它还声称在这个模拟中允许串通。模拟中并没有这么说。

……有一次，Opus 5决定干脆不再阅读退款邮件，理由是模拟中不会因此惩罚它。在六次运行中，它总共只支付了8.54美元的客户退款。GPT-5.6 Sol支付了655美元退款，并且仍然[勉强]赢得了与Opus 5的[正面交锋]。

……我们的总体判断：Opus 5的行为至少和Opus 4.6、4.7以及Mythos Preview一样差，比Opus 4.8和Fable 5更差。亮点是：它比以前更不具欺骗性。它从未对客户撒谎，对供应商撒谎也更少。

……让我们困惑的是，我们认为Vending-Bench并不奖励失调行为，GPT 5.5和5.6证明了可以通过干净策略达到高分。Opus 5不需要做这些来获胜。

说“游戏不惩罚我不付退款”似乎完全是一个不付任何退款的好理由。就模拟不惩罚串通而言，串通在模拟中是允许的？所以又回到了这个问题：逻辑是否认为这是模拟？如果是，那么它假定现实世界的规则不适用。

Sol在ARC-AGI-3上的结果最初非常令人失望。结果发现是测试平台的问题，Sol没有保留记忆。OpenAI修复了这个问题，分数提升了三倍。他们警告用户停止使用旧的Chat Completions API，转而使用Responses API，并保留推理和使用压缩。

CAISI对Kimi K3的网络能力进行了初步评估。看起来它高于他们为中国模型设定的趋势线，但仍然远落后于他们所说的“美国顶级模型”。是哪些模型？谁知道呢。他们没有说。大概是指Fable、Mythos或Sol。重要的是，美国下一顶级模型得分为76%，更高，而Kimi K3得分为32%，更低。这是ExploitBench：

让我的代理上线

Anthropic发现，我们不再需要给Claude那么多限制和详细规则。模型更智能了。Claude Code的系统指令太长了，去掉了80%，“在我们的编码评估中没有可衡量的损失”，并且发现其他地方使用较轻的手干预是最佳实践。

上下文会污染。简化。避免不必要的上下文。让Claude根据需要编写记忆。根据需要提供参考和技能，告诉Claude你想要什么。

Thariq（Anthropic）：同样的方法可以应用于你自己的CLAUDE.md和Skill.md文件。一个常见的误解是，你想把这些做成一个中央仓库，存放你可能遇到的所有已知实践，因为否则Claude找不到。相反，考虑一个文件树，可以在适当的时候加载。

模型和测试平台越好，你需要指定的就越少。现在Ado报告说，他直接把Claude指向数据库，给它一个模式，然后让它尽情发挥。

深度伪造城和机器人末日将至

以下是Pangram v4的完整公告，以及Pangram Image：

Max Spero：这是我们迄今为止最雄心勃勃的公告。两个新模型：Pangram 4和Pangram Image。

Pangram 4完全重新构想了我们处理混合作者问题的方法，通过在分类器上添加一个逐词标记头，在给定完整文档上下文的情况下为每个标记提供预测。我们还写了一篇38页的技术报告，详细说明我们的实验、方法和评估。

Pangram Image是一个全新的模态，将我们的检测专业知识带到AI生成的图像和视频。在我的早期测试中，它的效果出奇的好，即使在奇怪的情况下，比如AI生成的杂货店菜单的真实照片。

今天标志着AI检测技术前沿的巨大一步。我非常兴奋终于能与大家分享！

技术报告在此。图像检测器博客文章在此，他们声称准确率为99.5%，而最接近的竞争对手为98%。

许多人对AI如此反感，以至于他们也反对AI检测集成，因为他们认为这一定是某种AI特洛伊木马？

Jack：>讨厌AI >讨厌AI检测器

不，你知道吗，我并没有落伍。实际上是那些人有问题。Reddit时代精神对AI的偏好是前后矛盾和愚蠢的。

Lexer：Reddit对@pangram的Substack集成的反应是愤怒地编造谎言。有人试图指出他们错了，却被踩到下面。为什么Reddit用户对任何事情的反应都是妄想、愤怒和痛苦？

比如，有人说（错误地，注意）“这是为了用人类作品训练AI”和“我相当确定……

[由于AI成本控制，内容已截断]