プレプリントが警告：5年以内に行動を起こさなければAIによる壊滅的リスク
国際的なAIリスク専門家の調査により、今後5年以内にAIが壊滅的な結果を引き起こす確率は少なくとも10%であることが明らかになった。専門家はAIサイバー攻撃、兵器開発、開発競争、ガバナンスの失敗を最優先リスクとし、早急な対応を求めている。
2026年6月5日、クイーンズランド大学とMIT FutureTechによる国際共同研究が、人工知能（AI）が国家安全保障、金融セクター、情報技術セクターに深刻な脅威をもたらすと警告した。この研究は、AI業界、学界、政府、コミュニティから集まった272名のAI専門家を対象にした調査に基づく。
クイーンズランド大学心理学部のMichael Noetel准教授によると、専門家たちは今後5年以内にAIが壊滅的な結果をもたらす確率は少なくとも10%と判断した。専門家たちは24のカテゴリーにわたるAIリスクを評価し、3つの質問に回答した：どのAIリスクが最も深刻か、誰が最も脆弱か、そして誰が対処責任を負うか。
専門家たちは、最優先事項としてAIサイバー攻撃、兵器開発、AI開発における競争圧力、ガバナンスの失敗を挙げた。今後5年以内にリスク低減のための行動を取らなければ、専門家は24のリスクのうち18が壊滅的な結果を引き起こす可能性が10%以上あると見ている。壊滅的な結果には、100万人以上の死亡、1000億米ドル以上の経済損失、あるいは民主主義と市民権の世界的崩壊が含まれる。
研究では、今後5年以内に現実的な緩和策を採用したとしても、24のリスクカテゴリーのうち5つは壊滅的な結果を引き起こす確率が10%以上と推定された。MIT FutureTechのNeil Thompson博士は、この専門家の推定は非常に憂慮すべきものだと述べた。「原子力発電や航空などの成熟した技術分野を考えれば、このレベルのリスクは許容できないものとして扱われるでしょう。これらの発見は、AIを構築し統治する者にとって、最悪の結果が起こらないようにするための警鐘です。」
研究結果は、AIが意思決定に不可欠なシステムに組み込まれるにつれて、多くのセクターが重複するリスクにさらされていることを示唆している。専門家はまた、壊滅的な結果がなくても、虚偽・誤解を招く情報、AIシステムへの過度の依存、詐欺など、多くのAIリスクがビジネスや社会を一変させる可能性があると懸念を表明した。
MIT FutureTechのPeter Slattery博士は、AIモデルの公衆やユーザーがAI被害の矢面に立つ一方で、それらを緩和する力は限られていると指摘する。「AI開発は競争が激しいため、ラボや政府は減速や安全への十分な投資を行うインセンティブが限られています。だからこそ、法律、条約、その他の集団行動メカニズムが必要になるかもしれません。」
研究者らはデルファイ法を用いて、3ラウンドにわたる専門家の匿名での貢献を収集した。回答は個人を特定できない形で集計され、個々の利益が結果に影響を与える可能性を制限した。この研究は、クイーンズランド大学のAlexander Saeri博士、Jess Graham、Michael Noetel准教授、およびMIT FutureTechのPeter Slattery博士とNeil Thompson博士によって共同執筆された。