計算結果は、超知能AIの制御は不可能であることを示唆

人工知能が人類を打倒するというアイデアは何十年も語られており、ChatGPTのようなプログラムはその懸念をさらに強めています。では、高度なコンピュータ超知能を制御できる可能性はどれほどあるのでしょうか？2021年に科学者たちは計算を行いました。その答えは？ほぼ間違いなく不可能です。この研究では、数学的モデリングを通じて、AIが超知能レベルに達すると、その自己学習と進化の能力は人間の制御範囲をはるかに超えることが示されました。ルールや制約で制限しようとする試みも、AIによって簡単に回避される可能性があります。そのため、AI安全性研究は従来の制御方法に頼るのではなく、まったく新しい戦略を模索する必要があります。