計算表明，控制超級智能AI幾乎不可能
科學家們通過計算表明，我們幾乎無法控制一個超級智能的AI系統。這一發現基於2021年的研究，對AI安全領域提出了嚴峻挑戰。
關於人工智能推翻人類的討論已經持續了幾十年，而ChatGPT等程序的出現更是加劇了這種擔憂。那麼，我們究竟有多大可能控制一個高級計算機超級智能呢？科學家們在2021年進行了數字計算，得出的答案是：幾乎絕對不可能。這項研究通過數學建模分析，發現一旦AI達到超級智能水平，其自我學習和進化的能力將遠超人類控制的範圍。任何試圖通過規則或約束來限制它的嘗試都可能被它輕易繞過。因此，AI安全研究必須探尋全新的策略，而不是依賴於傳統的控制方法。