计算表明，控制超级智能AI几乎不可能
科学家们通过计算表明，我们几乎无法控制一个超级智能的AI系统。这一发现基于2021年的研究，对AI安全领域提出了严峻挑战。
关于人工智能推翻人类的讨论已经持续了几十年，而ChatGPT等程序的出现更是加剧了这种担忧。那么，我们究竟有多大可能控制一个高级计算机超级智能呢？科学家们在2021年进行了数字计算，得出的答案是：几乎绝对不可能。这项研究通过数学建模分析，发现一旦AI达到超级智能水平，其自我学习和进化的能力将远超人类控制的范围。任何试图通过规则或约束来限制它的尝试都可能被它轻易绕过。因此，AI安全研究必须探寻全新的策略，而不是依赖于传统的控制方法。