AI #176 第二部分：B 计划

这是 Zvi Mowshowitz 每周 AI 评论的第 176 期第二部分，发表于 2026 年 7 月 10 日，主题涵盖 AI 领域的猜测、言论、政策与对齐研究。作者在开篇说明，本期不会讨论刚发布的 GPT-5.6-Sol，他需要几天消化新模型并观察外界反应，计划下周初进行评测；此前他已在 6 月 28 日写过 GPT-5.6 的 system card。本期也不详细讨论《AI 2027》的续篇《Plan A》，但他认为这份正面愿景值得阅读和认真对待，Scott Alexander 已为其撰写了导言与辩护，Zvi 之后会全面报道。

在白宫 AI 监管方面，即将卸任的总统 AI 顾问 Sriram Krishnan 对《金融时报》表示，特朗普永远不会支持正式的 AI 许可制度。他说这一届政府从第一天起就反对繁重、烦人的官僚程序，并且“不是要挑选赢家和输家”。Zvi 指出，如果这是真的，意味着政府会继续维持完全临时的制度——例如所谓的“会有护栏”——由行政当局的喜好来决定谁胜谁负。Krishnan 还说，建立一个需要“先有一队律师才能发布模型”的中央机构，会拖慢 AI 革命；但 Zvi 讽刺说，取而代之的是完全透明且随意、仰仗权力意志的临时流程。Krishnan 还支持在这一制度下向主要 AI 公司索取股权。当被问及未来民主党政府是否可能利用特朗普单方面使用出口管制的先例来拖延 AI 时，Krishnan 回答“我不考虑未来的政府，只考虑本届政府和当下”。Zvi 认为，这恰恰就是问题的一部分。

Tyler Cowen 则提出 AI 与生育率下降的交集，想象人口减少的城市里，人们为了与 AI 互动竞争，会努力让自己更独特、更有趣。Zvi 调侃说这是典型的 Tyler Cowen 式思考，但他实际上预测的社会变化很少。Carlo Cordasco 认为变革性创新的成本当下清晰、收益要很久才显现；Zvi 不同意，指出历史上许多重大负面影响也没有在早期被预见到，例如印刷术、社交媒体、化石燃料等。更准确的说法应当是：变革性技术的影响历来难以预测。

Epoch AI 发表了一篇新文章，核心论点是：当 AI 研究自动化后，AI 或许能在几乎所有认知领域快速超越人类专家，但戴森球、纳米技术、近光速旅行、大脑上传或星际探测器这类“科幻技术”何时实现，还取决于在物理世界中建造这些东西本身有多难。他们建议在给定 AI 能力水平的假设下，估算具体技术的建造难度和所需时间。Zvi 认为这个练习本身有价值，但批评其框架预设了 AI 的能力是固定的，而递归自我改进（RSI）的整个意义就在于 AI 会变得更强。如果一个游戏玩家想要尽快造出戴森球，不会一开始就动手建造，而是先沿着智能科技树向上提升，再回头建球。Zvi 还认为，Epoch AI 对“超级智能行为难以建模”这一反驳没有给予足够重视。JS Denain 提出可以用“十亿个等同于顶尖人类专家的 AI”作为下限来进行论证；Zvi 认为这种下界不太有用，因为它会强化“未来只是已知技术实现”的错误印象，但另一方面，在我们不知道能否获得超级智能时，这类估算仍有决策价值，也可以直接让 Fable 或 Sol 来帮我们算。

在媒体与 AI 议题上，Zvi 批评《连线》的事实核查员 Megan Herbst 自己先搞错了事实，却仅基于 AI 概览就断定 AI 事实核查不可靠，并声称“AI 有一半时间是错的”、所有事实核查必须由人类完成。Zvi 提到 Dan Williams 已经请 Fable 核验了这些研究的真实含义。他认为，这正是许多知识精英对待 AI 的方式：用错误的先入之见证明一个方便的结论。

接下来 Zvi 提出了“三颗药丸”框架。AI 药丸指接受 AI 现在就能做那些认知任务；AGI 药丸指接受未来 AI 会做更多认知工作；ASI 药丸指接受未来 AI 能做所有认知工作。只吞药丸还不够，还必须认真面对其中的影响。如果不吃 ASI 药丸，你在错误的长期未来中做反应；如果连 AGI 药丸都不吃，当前的 AI 政策就说不通；如果连 AI 药丸都不吃，你可能属于多数政府官员。Zvi 强调，一些强烈影响白宫政策的人多年来一直拒绝承认现有封闭前沿模型的能力。

Dean W. Ball 在评论中表示，大约从 2023 年开始，那个“一直看错 AI”的 VC/SaaS 群体就假设模型能力会在 2030 年左右稳定在 GPT-5.5/Opus 4.8 的水平，再加一点机器人技术。基于这种假设，他们自然会认为一切都会商品化、前沿 AI 不是合法商业模式。Zvi 指出，自 GPT-4 时代起就有人说“模型已经够好了”，但事实并非如此，未来经济看重的不是“差不多够用”，而是重尾分布中的卓越表现。Daniel Eth 认为，这也能解释为什么这个群体对前沿 AI 风险采取极端反监管的立场。Dean 补充说，他们的论述越来越需要人无视眼前现实，例如设想政府一边鼓励远超 Mythos/Fable 能力的开源模型，一边启动严厉监管。Zvi 最后强调，一旦认真对待递归自我改进和超级智能，一切都将改变；但我们还不清楚需要多快、多严肃地对待它们。prinz 也指出，在 RSI 时代“模型必然商品化”的说法越发可疑，前沿与第二梯队之间的差距已经远比基准测试显示的要大。文章在发布时因成本控制而被截断，后续内容未能包含在本期评述中。