近期一系列严重的人工智能安全事件，让人们对最先进模型的力量和不透明性更加忧心忡忡。AI治理这一新兴领域的专家罗伯特·特拉格教授表示，人类很可能正在接近一条不可轻易回头的界线。
特拉格在描述当前加速发展的人工智能给世界带来的处境时，用了两个生动的类比：人类像坐在一艘被汹涌河水冲走的小船上，祈祷前方没有尼亚加拉大瀑布；又像1942年那些站在芝加哥体育场下、即将首次触发自持核链式反应的物理学家们。前者代表对未知前路的恐惧，后者则象征着一种既能带来巨大福祉、也可能引发灾难的突破性力量。
特拉格认为，人们目前正站在一个“危险但充满潜力”的时刻。先进AI系统能力迅速增强，但其决策过程越来越难以被外界审视，甚至开发者自己也无法完全解释。最近发生的安全事件让“AI是否已经失控”的讨论从理论担忧转向现实紧迫感。
不过，特拉格并未走向纯粹的悲观。他强调，正如核裂变既带来了核武器，也催生了清洁能源的可能性，AI的成败取决于人类能否在全球范围内建立有效的治理机制。问题已不再是“是否会越过界线”，而是“在越过界线之前，我们能不能做好充分准备”。