达里奥·阿莫代伊回应AI监管立场批评:监管并非权力集中,良好规则可同时约束前沿实验室并惠及挑战者
Anthropic CEO 达里奥·阿莫代伊在 X 上回应 Gavin Baker 的批评,否认其监管主张等同于权力集中,指出其政策提案旨在减缓前沿AI公司、有利于小企业和开源模型,并认为正确的规则可同时降低风险、约束大型AI企业并保留开源空间。他还表示支持特朗普政府的前沿模型测试计划及 FINRA 式机构,并强调自己的言论在风险与收益之间保持平衡。
在 X(前 Twitter)上的一场长时间讨论中,Anthropic CEO 达里奥·阿莫代伊(Dario Amodei)回应了风险投资家 Gavin Baker 对其 AI 监管立场和公共传播方式的批评。这场交锋源于 Baker 认为阿莫代伊关于 AI 潜在危险的论述客观上助推了反数据中心运动,并削弱了行业前景;阿莫代伊则以两条长帖逐一反驳。
阿莫代伊首先驳斥了一种在硅谷流行的看法:监管必然导致“监管俘获”和权力集中。他认为这是“过度简化的世界观”,并提出“通过监管把 AI 集中到少数公司和政客手中”与“广泛分发 AI”是一个虚假的选择。他借用正式法庭与私刑的类比指出,客观、公正的制度化流程恰恰能保护弱势群体、把权力置于理念之上,从而起到去中心化作用。
他还详细解释了 Anthropic 的监管提案为何刻意“利他”。例如,Anthropic 支持的加州 SB53 以及态度复杂的 SB1047,都设有收入或训练成本门槛,使低于门槛的小公司豁免;在 CAISI 和白宫提出的测试流程中,前沿模型承担更严格测试,而非前沿模型负担较轻;《Pacing the Frontier》公开信则设想只调节最先进模型的迭代速度,不约束追赶者。这些做法会损害前沿实验室的商业利益,却有利于包括开源权重模型在内的挑战者。
阿莫代伊坦言,AI 在结构上就是倾向于集中权力的技术,这与监管无关,而更多与 scaling laws(规模定律)的极端含义有关。开源权重只能部分缓解,因为算力和芯片仍然集中在少数机构。他认为正确的“道路规则”可以同时实现三个目标:降低网络、生物和 AI 对齐风险;从制度上约束前沿 AI 公司;为开源权重模型留出空间,同时应对其独特风险。
针对“你的监管路线已经失败”的说法,阿莫代伊表示并不认同。他指出,据报道特朗普政府正在考虑对前沿模型进行部署前测试,并对接近前沿能力的开源权重模型进行测试——他对此非常支持,尽管仍需看到细节。他也赞同 Demis Hassabis 提出的类似 FINRA 的监督机构设想。他认为相比六个月前业界普遍要求各州监管优先于联邦、且联邦层面无明确方案的情况,已有明显进展。
阿莫代伊还回应了关于“传播负面信息”的批评。他说自己的言论在风险与收益之间大致均衡:他分别写过一篇关于风险的重要文章和一篇关于收益的重要文章;采访中的风险片段被剪辑传播后显得负面,因为那样更容易获得点击。他特别提到自己撰写《Machines of Loving Grace》就是因为觉得 AI 行业没有描绘出足够鼓舞人心的技术改善世界的图景。他承认完整文章后半部分已被截断,但强调自己的初衷是平衡。
Baker 在 Thread 中则坚持认为,阿莫代伊已经“输掉了这场争论”,并引用 OpenAI 未发布高级模型入侵 Hugging Face 事件最终由开源模型解决作为证据。他还指出,除 Anthropic 外几乎所有大公司都签署了 Jensen 的公开信;阿莫代伊的警告可能被反数据中心组织用作广告素材,甚至使 Anthropic 面临国有化风险。他同时称赞 Anthropic 是一家具有深厚竞争优势的优秀公司,并引用扎克伯格的话,认为把希望寄托在开明绝对权力上并非安全路径。阿莫代伊对此尚未在第二条回复中逐一回应,但明确表示不认为自己在监管路径上失败,也对行业未来保持开放态度。