OpenAI の Jakub Pachocki 氏は、論考「異質な知性」において、ますます高性能になる AI について考察を述べています。同氏は、AI の能力が高まるほど、その行動や目的が人間の意図から乖離する可能性が高まるとして、AI の「アライメント」を維持することが一層困難な課題になると指摘します。
こうした課題に対処するため、Pachocki 氏はより強力な安全保護策を講じるとともに、国際的な連携と調整を強化する必要があると強調しています。AI のリスクを管理し、その発展を人類の利益につなげるには、各国・各組織が協力して取り組むことが不可欠だとしています。