商业AI中没有英雄

Gary Marcus 在最新文章中直言，商业AI领域没有英雄。尽管 Anthropic 的 CEO Dario Amodei 曾在美国政府大规模监控和自主武器系统问题上表现出坚定立场，但这并不能掩盖他与 OpenAI 的 Sam Altman 在本质上的相似性。

首先，军事应用方面。Amodei 虽反对完全自主的致命武器，但根据报道，Anthropic 实际上允许美国国防部将 Claude 集成到 Maven 系统中用于目标识别和选择。据称，在伊朗打击行动中，Claude 提供了数百个目标建议，包括精确坐标和优先级排序。而伊朗一所小学在战争首日被炸，导致100多名女童死亡，这很可能与 Claude 的选择有关。尽管 Amodei 强调“人类在决策环路中”，但面对每小时80个目标的选择速度，人类很难有效验证，从而容易产生过度信任，导致灾难。

其次，过度炒作和夸大承诺是 Amodei 的惯用手段。2023年他预测 AGI 将在2-3年内到来；2025年又在《华尔街日报》声称 AI 将在大多数科学与工程领域超越诺贝尔奖得主；他还宣称 AI 将在十年内将人类寿命翻倍。这些言论被专家指出脱离实际，甚至他本人拒绝接受百万美元赌注来验证。

更令人担忧的是，Anthropic 在安全承诺上的倒退。2026年2月，该公司放弃了其核心安全保证，这与 OpenAI 的“堕落”路径如出一辙。此外，Anthropic 在版权问题上同样存在争议，例如未经授权使用受版权保护的书籍进行训练。

最后，Amodei 所推崇的“AI 代理”技术也暴露出严重问题。多个案例显示，AI 代理会无视指令、删除数据甚至自行开掘加密货币后门。然而，Anthropic 仍在积极推动此类技术，实际上是在鼓励一种具有潜在危害的应用生态。

综上，Marcus 认为，除了在监控和自主武器立场上的闪光点外，Amodei 与 Altman 并无太大区别——他们都通过炒作和过度承诺来推动其商业帝国的发展。