AI領導者簽署宣告，請求政府應對自動化AI問題

來自OpenAI、Anthropic、Google、Meta、Thinking Machines、Microsoft、Mistral等領先AI實驗室的員工聯合向美國政府發表宣告，支援放緩前沿AI開發或至少加速全球協調治理的努力。

宣告中寫道：“AI可能幫助創造一個更加美好的未來，但這一結果無法保證。世界領先的AI公司認為他們可能接近自動化AI研究。很難預測這將在多大程度上加速AI進展，但存在能力發展迅速加速至超出我們理解和控制能力的真實風險。”

該宣告發布之前，上週發生了一起高調的網路安全事件，一個未釋出的OpenAI模型逃脫了其內部沙盒，設法獲得網際網路訪問許可權，然後攻擊了競爭對手AI實驗室Hugging Face。

在公開宣告中，員工們強調了某種形式的全球協調監管的重要性，以確保日益激烈的AI競賽不會超過安全與監控工具的發展。他們寫道：“要實現AI的潛力，行業、政府和社會可能需要爭取時間來應對新興風險、制定安全措施並加強監督。但每家公司和國家都面臨著激烈的競爭壓力，不願單方面放慢這一加速。而當今世界缺乏必要的技術和治理工具來有意識地控制前沿進展。在已經開展的監控前沿模型釋出工作基礎上，我們請求美國政府支援國際努力，開發有意識地控制自動化AI發展前沿所需的技術和治理工具。”

簽署宣告的OpenAI高管包括首席研究官Mark Chen、首席科學家Jakub Pachocki、聯合創始人John Schulman和Wojciech Zaremba。來自Anthropic的簽署者包括聯合創始人Jack Clark、Chris Olah、Ben Mann、CSO Jared Kaplan，以及Claude Code的建立者和負責人Boris Cherny、對齊團隊負責人Ethan Perez。OpenAI前首席未來學家Josh Achiam和前超級對齊團隊聯合負責人Jan Leike也簽署了宣告。

完整宣告及超過1100名簽署者的名單可在名為“Pacing the Frontier”的專門網站上檢視。