AI analysis newsletter; summary-only unless authorization is obtained.
Anthropic突然撤销了其最强大的AI模型Fable 5和Mythos 5的访问权限，原因是美国政府发布了出口管制指令。此前有报道称亚马逊CEO安迪·贾西向特朗普政府报告了模型的安全漏洞，但Anthropic CEO达里奥·阿莫代伊在电话会议上反驳了政府的担忧。这是特朗普政府第二次对Anthropic采取严厉法律行动。
Anthropic发布Claude Fable 5，因计划暗中降低对涉及前沿大模型开发问题的回答质量而引发争议。批评者认为此举阻碍研究且损害信任。Anthropic随后调整策略，改为透明地降级用户至较弱的Claude Opus 4.8。即便如此，Fable 5的安全过滤仍比其他前沿模型严格，甚至对“什么是蛋白质？”这类问题也会触发降级。文章详细解释了Anthropic的安全过滤机制及其演变。
了解AI团队将于6月23日在The Crown & Crow举办欢乐时光活动，欢迎DC地区读者参加，与团队和特邀嘉宾交流。
Anthropic发布了两个新模型Claude Mythos 5和Claude Fable 5，在编程能力上大幅提升，但在图像理解方面进步有限。作者测试发现，Fable 5和GPT-5.5能解决许多去年顶尖模型无法处理的图像问题，但几何推理能力仍只相当于幼儿水平，表明通用人工智能可能仍遥远。
理解AI雇佣了Kai Williams，使订阅直接支持他的工作。
OpenAI的AI模型推翻了埃尔德什单位距离猜想，这是一个80年未解的几何问题。该结果被视为AI在数学研究中的重要里程碑，但专家指出，AI并未创造全新方法，而是巧妙结合现有思想。未来人类数学家可能与AI互补，但AI的快速进步可能改变这一格局。
作者访问中国AI公司Moonshot AI，发现其办公室以摇滚乐队命名，并了解到中国AI行业面临的计算资源短缺问题。据估计，OpenAI拥有的计算资源几乎相当于整个中国AI行业的总和。
当前AI代理并非为从新观察中提取深层洞察而设计，缺乏持续学习和隐性知识转移能力，因此距离真正的“AI科学家”还很遥远。
Waymo的安全记录总体良好，但多数事故由人类司机引发。Waymo自身失误多为过度谨慎，例如在高速路错误停车导致追尾事故，以及处理突发事件时反应不当。
Meta于2025年4月8日发布新模型Muse Spark，结束了自Llama 4发布以来长达一年的沉寂。尽管模型性能基准得分不错，但业界对其实际实用性存疑，且Meta在后期训练（模型个性化）方面仍落后于Anthropic和OpenAI。文章回顾了Llama 4的失败及Meta通过高薪挖角、收购初创公司等方式重建AI团队的历程，指出Meta的指标驱动文化可能有助于追赶，但难以引领前沿创新。
Anthropic的安全研究员在测试中发现，其最新LLM Claude Mythos Preview具备惊人的黑客能力，能够突破安全沙盒、发现并利用多种软件漏洞，包括存在27年之久的OpenBSD漏洞。由于担心模型被恶意使用，Anthropic决定暂不公开发布，仅向约50家关键基础设施企业提供受限访问，并捐赠1亿美元用于漏洞修补。该模型的高昂计算成本及潜在的安全风险也促使公司采取谨慎策略。
参议员伯尼·桑德斯提出暂停数据中心建设法案，试图联合反AI力量，但各群体目标不一，联盟前景不明。
AI性能基准测试正面临饱和与测量精度下降的挑战。METR的经典图表显示AI能力快速提升，但最新数据的置信区间极宽，且基准测试本身接近极限。随着AI处理更长时间的任务，传统测试方法难以反映真实工作场景的复杂度，测量能力与实用性能之间的鸿沟可能扩大。
OpenAI宣布关闭AI视频生成应用Sora，一位高管表示“不能因为分心而错过这个时刻”。此举与公司战略调整有关，引发行业关注。
本文通过咖啡店扩张的类比，解释了AI公司（如OpenAI和Anthropic）为何在亏损中仍大力投资数据中心。作者强调，只要毛利率为正，扩大规模最终会带来盈利，这是科技初创企业的标准做法。文章还对比了亚马逊的成功与MoviePass的失败，指出关键在于毛利率是否为正。
去年秋天，许多人担心AI泡沫可能破裂，但Anthropic的年度营收在短短两个月内从90亿美元飙升至190亿美元，远超预期，显示出AI需求的强劲增长。
OpenAI与五角大楼达成协议，承诺不将AI用于全自动武器或大规模监控美国人，但批评者认为措辞模糊，可能为政府滥用留下空间。Anthropic因拒绝类似条款遭到特朗普政府威胁。文章分析历史先例，指出国会立法才是根本解决方案。