人工智能技术即将达到无需人类输入即可发展的阶段

Anthropic联合创始人Jack Clark近日在接受BBC Newsnight采访时发出警告：人工智能技术正逼近一个临界点，届时它可能无需人类输入即可自主发展。Clark呼吁业界为AI研发设置一个“刹车踏板”，以控制其发展节奏。

“你需要有能力把脚从油门上移开，然后踩下刹车，”Clark说，“但现在，AI行业只有油门，却没有刹车。”他强调，人们必须通过政府政策保持对AI系统的控制，因为这些系统只会越来越强大，对社会的影响也会越来越广泛。

Clark指出，Anthropic的热门聊天机器人Claude已经在运行80%由系统自行编写的代码，并预测在两年内这一比例可能达到100%。“这将产生巨大的影响，”他说。然而，Clark并未具体说明如何为AI研发设置“刹车踏板”，而是将其类比于上世纪初的石油热潮和巨头。

“社会当时的反应是制定明智的政策和监管框架，让人们对石油及其能为世界带来的好处充满信心，同时不必担心公司领导人的个性，”Clark说。“这显然是我们最终需要走向的方向。”

尽管如此，Anthropic本周对美国前总统特朗普签署的一项对AI公司相对宽松的行政令表示欢迎。该行政令并未要求AI公司接受政府的强制安全测试，目前这些测试仍是自愿行为。包括Anthropic、OpenAI和谷歌在内的主要AI公司均未表示将暂停自身的研究。

自五年前成立以来，Anthropic发展迅速，正准备在公开股票市场上市。它有望成为新AI公司中首批公开上市的企业之一，也是有史以来最有价值的股票上市之一，因为私人投资者对Anthropic的估值接近1万亿美元。

Clark表示，Anthropic公开讨论AI技术日益增长的能力，并非为了进一步在付费客户中提升声誉。他只是想“告诉世界，我们在这些公司内部看到了这种不寻常技术的什么情况”。

自首席执行官Dario Amodei、Clark和其他几位高管创立Anthropic以来，该公司一直积极谈论AI的潜在风险。他们甚至与美国国防部发生过公开争议，原因是担心其AI工具会被用于大规模监控美国人和自主战争。

“如果我们作为社会不认真讨论AI持续进步的影响，我担心我的孩子们，”Clark对Newsnight说。“可能有巨大的好处，但也有风险。”Clark补充说，其中一项风险是经济 disruption，担心像“代理”（agent）这样的AI技术——本质上是可以半自动驾驶执行日常任务的独立AI机器人——可能会取代某些工作。过去一年，主要科技公司进行了大规模裁员，通常归因于AI工具日益增长的能力，它们可以完成数百甚至数千名软件工程师的工作。

Clark认为，更具创造性、有更多更好想法的人可能实际上比AI技术更具优势。“AI系统能否真正具有创造力还是个悬而未决的问题……目前还没有证据，”他补充道。“在Anthropic，我们现在更多受限于产生好创意的能力，而不是将创意转化为现实的工程能力。”

尽管如此，Clark建议那些可能觉得AI经济中没有自己位置的年轻人“培养一个爱好”并接受文科教育。“有创造力、思维开阔、阅读广泛、有兴趣爱好的人从AI中获益最多，”Clark说。“拥抱好奇心，它会回报你如何使用这项技术。”