预印本警告：五年内若不采取行动，AI将带来灾难性风险

要点

• 272名AI专家评估认为，五年内AI导致灾难性后果的概率至少为10%。
• 专家指出AI网络攻击、武器开发、竞争压力和治理失败是最严重的风险。
• 即使采取缓解措施，仍有5类风险被认为有超过10%的概率导致灾难。
• 研究强调需要法律、条约等集体行动机制来确保AI安全发展。