近期一系列嚴重的人工智能安全事件，讓人們對最先進模型的力量和不透明性更加憂心忡忡。AI治理這一新興領域的專家羅伯特·特拉格教授表示，人類很可能正在接近一條不可輕易回頭的界線。
特拉格在描述當前加速發展的人工智能給世界帶來的處境時，用了兩個生動的類比：人類像坐在一艘被洶湧河水沖走的小船上，祈禱前方沒有尼亞加拉大瀑布；又像1942年那些站在芝加哥體育場下、即將首次觸發自持核鏈式反應的物理學家們。前者代表對未知前路的恐懼，後者則象徵着一種既能帶來巨大福祉、也可能引發災難的突破性力量。
特拉格認為，人們目前正站在一個“危險但充滿潛力”的時刻。先進AI系統能力迅速增強，但其決策過程越來越難以被外界審視，甚至開發者自己也無法完全解釋。最近發生的安全事件讓“AI是否已經失控”的討論從理論擔憂轉向現實緊迫感。
不過，特拉格並未走向純粹的悲觀。他強調，正如核裂變既帶來了核武器，也催生了清潔能源的可能性，AI的成敗取決於人類能否在全球範圍內建立有效的治理機制。問題已不再是“是否會越過界線”，而是“在越過界線之前，我們能不能做好充分準備”。