预印本警告：五年内若不采取行动，AI将带来灾难性风险

2026年6月5日，一项由昆士兰大学和麻省理工学院未来科技研究所联合进行的国际研究警告称，人工智能（AI）对国家安全、金融部门和信息技术部门构成严重威胁。该研究基于对来自AI行业、学术界、政府和社区的272名专家的调查。

昆士兰大学心理学学院的Michael Noetel副教授表示，专家们判断未来五年内AI导致灾难性后果的概率至少为10%。专家们评估了24类AI风险，并回答了三个问题：哪些AI风险最严重、谁最易受这些风险影响、谁应负责解决这些风险。

专家认为，最优先应对的风险包括AI网络攻击、武器开发、AI开发中的竞争压力以及治理失败。如果未来五年内不采取任何降低风险的措施，专家认为24类风险中有18类有超过10%的概率导致灾难性后果。这些灾难性后果可能包括超过100万人死亡、超过1000亿美元的财务损失，或民主和人权的全球崩溃。

研究还发现，即使未来五年内采取务实的缓解措施，24类风险中仍有5类被认为有超过10%的概率导致灾难性后果。麻省理工学院未来科技研究所的Neil Thompson博士表示，这一评估结果令人极为担忧。Thompson博士说：“如果我们考虑其他成熟技术领域，如核电或航空，这种风险水平将被视为不可容忍。这些发现是对AI建设者和治理者的警钟，必须确保最坏的情况不会发生。”

研究还指出，随着AI嵌入决策关键系统，许多行业面临重叠风险。专家还担心，即使没有灾难性后果，许多AI风险（如虚假和误导信息、对AI系统的过度依赖以及欺诈和 scams）也可能重塑商业和社会。麻省理工学院未来科技研究所的Peter Slattery博士表示，虽然公众和AI模型的用户承受了AI危害的主要冲击，但他们缓解危害的能力有限。“由于AI开发竞争激烈，实验室和政府缺乏足够的动力来放慢速度或投资于安全。这就是为什么法律、条约和其他集体行动机制可能成为必要。”

研究人员采用德尔菲法收集了三轮专家匿名意见，并对答案进行去标识化和汇总报告，以限制个人利益影响结果的可能性。研究由昆士兰大学的Alexander Saeri博士、Jess Graham和Michael Noetel副教授，以及麻省理工学院未来科技研究所的Peter Slattery博士和Neil Thompson博士共同撰写。