Anthropic CEO 表示 AI 赢得公众信任的方式是治愈癌症

Anthropic CEO 达里奥·阿莫迪表示，AI 行业要赢得公众信任，最有效的方式不是宣传宏伟愿景，而是真正治愈癌症这样具体的科学突破。他在上周六发布于 X 的罕见长文中承认，人们对 AI 的怀疑有其合理性，并批评包括 Anthropic 在内的 AI 公司尚未兑现造福世界的重大承诺。

阿莫迪写道：“在这一点上，说 AI 将治愈癌症已经不再是鼓舞人心，而是陈词滥调，大多数人认为这是在欺骗。”他认为，对 AI 公司最准确的批评是它们还没有实现那些大到足以改变世界的承诺，“真正有效的方式是真正治愈癌症。”

当前，AI 行业正面临日益增长的公众反弹：科技公司在全国各地建设大型数据中心、抓取受版权保护的在线数据来训练模型、并颠覆许多行业的就业格局。皮尤研究中心近期的一项研究发现，约一半美国人表示，AI 在日常生活中日益普及让他们“更担忧而非兴奋”。

阿莫迪本人此前也多次在播客、文章和 Anthropic 博客中警告 AI 快速发展带来的危险。在 6 月的一篇文章中，他写道公司的新 Mythos 模型对网络安全、金融业、关键基础设施和国家安全构成“非常现实的风险”。去年，他曾警告 AI 将导致一半入门级岗位消失。

不过，并非所有 AI 领袖都认同这种悲观论调。谷歌 DeepMind 的德米斯·哈萨比斯今年早些时候表示，同行们对可怕预测“过于确定”，并鼓励他们降温。随着 OpenAI 和 Anthropic 筹备可能的 IPO，它们也从“末日论”转向“繁荣论”。

阿莫迪在周六的 X 帖子中表示，他不认为自己的警告是公众不信任 AI 的原因。他提到自己 2024 年的长文《Machines of Loving Grace》，称写作初衷是觉得 AI 行业没有描绘出足够鼓舞人心的技术改善世界的图景。他还认为，公众对 AI 公司的不信任反映了美国人对企业整体的怀疑情绪，“这种情绪的根源可以追溯到几十年前，AI 只是最新的一环。”

Anthropic 决定不将任何前沿模型开源，并称这是出于谨慎，这一做法在一定程度上加剧了公众的警惕。上个月，Anthropic 因未签署一封提倡开放权重 AI 的联名信而招致批评，当时华盛顿正在考虑限制一些中国模型。Meta 前首席 AI 科学家杨立昆在回应阿莫迪的帖子时写道，保持前沿 AI 闭源是导致公众不信任的最重要原因，而“唯一的前进道路”是让 AI “广泛可用、共享和开放”，“我们需要多样化的 AI，就像需要多样化的媒体一样。”

OpenAI 的应用 AI 架构师 Angel Brodin 也提出了不同看法。她指出，尽管制药行业不断在公共卫生领域取得进步，却仍然是“最不受信任的行业之一”。她写道：“人们不会仅凭突破来评判 AI 公司，还会看定价、获取途径、游说行为、透明度、经济收益如何分配、谁有机会享受其好处，以及最终掌握权力的是谁。”

阿莫迪则表示，Anthropic 正在加大生物和医学领域的工作，以检验这一理论。他写道：“我们希望在未来几年取得令人难以置信的成果，并在未来几个月看到一些初步曙光。当我们真正实现了一些成就时，全世界都会尽可能大声地听到，我保证。”