預印本警告：五年內若不採取行動，AI將帶來災難性風險

2026年6月5日，一項由昆士蘭大學和麻省理工學院未來科技研究所聯合進行的國際研究警告稱，人工智能（AI）對國家安全、金融部門和信息技術部門構成嚴重威脅。該研究基於對來自AI行業、學術界、政府和社區的272名專家的調查。

昆士蘭大學心理學學院的Michael Noetel副教授表示，專家們判斷未來五年內AI導致災難性後果的概率至少為10%。專家們評估了24類AI風險，並回答了三個問題：哪些AI風險最嚴重、誰最易受這些風險影響、誰應負責解決這些風險。

專家認為，最優先應對的風險包括AI網絡攻擊、武器開發、AI開發中的競爭壓力以及治理失敗。如果未來五年內不採取任何降低風險的措施，專家認為24類風險中有18類有超過10%的概率導致災難性後果。這些災難性後果可能包括超過100萬人死亡、超過1000億美元的財務損失，或民主和人權的全球崩潰。

研究還發現，即使未來五年內採取務實的緩解措施，24類風險中仍有5類被認為有超過10%的概率導致災難性後果。麻省理工學院未來科技研究所的Neil Thompson博士表示，這一評估結果令人極為擔憂。Thompson博士説：“如果我們考慮其他成熟技術領域，如核電或航空，這種風險水平將被視為不可容忍。這些發現是對AI建設者和治理者的警鐘，必須確保最壞的情況不會發生。”

研究還指出，隨着AI嵌入決策關鍵系統，許多行業面臨重疊風險。專家還擔心，即使沒有災難性後果，許多AI風險（如虛假和誤導信息、對AI系統的過度依賴以及欺詐和 scams）也可能重塑商業和社會。麻省理工學院未來科技研究所的Peter Slattery博士表示，雖然公眾和AI模型的用户承受了AI危害的主要衝擊，但他們緩解危害的能力有限。“由於AI開發競爭激烈，實驗室和政府缺乏足夠的動力來放慢速度或投資於安全。這就是為什麼法律、條約和其他集體行動機制可能成為必要。”

研究人員採用德爾菲法收集了三輪專家匿名意見，並對答案進行去標識化和彙總報告，以限制個人利益影響結果的可能性。研究由昆士蘭大學的Alexander Saeri博士、Jess Graham和Michael Noetel副教授，以及麻省理工學院未來科技研究所的Peter Slattery博士和Neil Thompson博士共同撰寫。