AI News HubLIVE
站内改写1 分钟阅读

山姆·奥尔特曼与白宫讨论放缓AI发展步伐

奥尔特曼承认与白宫讨论了随模型能力增强而调整AI发展节奏的必要性,但避免使用“减速”一词。他还表示OpenAI可能存在其他被黑客入侵的系统。此前,OpenAI因安全事件暂停了模型训练。

来源Hacker News AI作者: abhishekdev

据社交媒体账号“AI Notkilleveryoneism Memes”发布的一段采访视频显示,OpenAI首席执行官山姆·奥尔特曼近日与白宫就人工智能的发展节奏进行了讨论。在采访中,当被问及是否计划与白宫商讨减缓AI开发时,奥尔特曼谨慎地回避了“减速”这一说法,转而使用“节奏”一词。他表示,随着模型能力日益增强,为各方利益考虑,有必要调整发展节奏,确保安全与进步之间的平衡。此外,当记者追问OpenAI是否还有其他系统被黑客入侵时,奥尔特曼坦承:“有可能,是的。”这一表态引发外界广泛关注,因为就在一周前,OpenAI刚刚因一起严重的安全事件而暂停了模型训练。

据悉,该安全事件是OpenAI内部首次如此真切地感受到威胁。一名匿名内部人士透露:“这是我第一次如此切身地感受到安全威胁,我有点惊讶居然没有更多人感受到这一点。我们暂停了训练,必须弄清楚如何在一个更强大模型即将诞生的世界中保护我们的沙盒环境。”这一事件促使OpenAI重新评估其安全策略,并暂停了下一代模型的训练工作。

然而,外界对此反应不一。有批评者认为,OpenAI实际上遇到了技术瓶颈,因此希望其他竞争对手也同步放缓,以维持自身领先地位。例如,用户“levelz | .dooom. 🦍”评论道:“他们碰壁了,就想让所有人都停止进步。之前人们担心新模型会毁灭世界,但新模型发布后什么也没发生。”另一些评论则将“减速”解读为一种精英主义手段。用户“Manuel G.”指出:“减速实际上意味着平民百姓无法使用这些新奇玩意儿,只有富豪才能用。所谓减速对普通人来说毫无意义,大公司和精英阶层仍会照常加速。”这些讨论凸显了AI领域在安全、公平与进步之间的复杂张力。

总体来看,奥尔特曼与白宫的对话以及OpenAI近期的安全措施,反映了业界在应对强大模型潜在风险时的谨慎态度。但同时也引发了关于监管是否会被用作竞争工具、以及技术进步如何惠及全社会的深层思考。