山姆·奧爾特曼與白宮討論放緩AI發展步伐
奧爾特曼承認與白宮討論了隨模型能力增強而調整AI發展節奏的必要性,但避免使用“減速”一詞。他還表示OpenAI可能存在其他被駭客入侵的系統。此前,OpenAI因安全事件暫停了模型訓練。
據社交媒體賬號“AI Notkilleveryoneism Memes”釋出的一段採訪影片顯示,OpenAI執行長山姆·奧爾特曼近日與白宮就人工智慧的發展節奏進行了討論。在採訪中,當被問及是否計劃與白宮商討減緩AI開發時,奧爾特曼謹慎地迴避了“減速”這一說法,轉而使用“節奏”一詞。他表示,隨著模型能力日益增強,為各方利益考慮,有必要調整發展節奏,確保安全與進步之間的平衡。此外,當記者追問OpenAI是否還有其他系統被駭客入侵時,奧爾特曼坦承:“有可能,是的。”這一表態引發外界廣泛關注,因為就在一週前,OpenAI剛剛因一起嚴重的安全事件而暫停了模型訓練。
據悉,該安全事件是OpenAI內部首次如此真切地感受到威脅。一名匿名內部人士透露:“這是我第一次如此切身地感受到安全威脅,我有點驚訝居然沒有更多人感受到這一點。我們暫停了訓練,必須弄清楚如何在一個更強大模型即將誕生的世界中保護我們的沙盒環境。”這一事件促使OpenAI重新評估其安全策略,並暫停了下一代模型的訓練工作。
然而,外界對此反應不一。有批評者認為,OpenAI實際上遇到了技術瓶頸,因此希望其他競爭對手也同步放緩,以維持自身領先地位。例如,使用者“levelz | .dooom. 🦍”評論道:“他們碰壁了,就想讓所有人都停止進步。之前人們擔心新模型會毀滅世界,但新模型釋出後什麼也沒發生。”另一些評論則將“減速”解讀為一種精英主義手段。使用者“Manuel G.”指出:“減速實際上意味著平民百姓無法使用這些新奇玩意兒,只有富豪才能用。所謂減速對普通人來說毫無意義,大公司和精英階層仍會照常加速。”這些討論凸顯了AI領域在安全、公平與進步之間的複雜張力。
總體來看,奧爾特曼與白宮的對話以及OpenAI近期的安全措施,反映了業界在應對強大模型潛在風險時的謹慎態度。但同時也引發了關於監管是否會被用作競爭工具、以及技術進步如何惠及全社會的深層思考。