計算表明，控制超級智慧AI幾乎不可能
科學家們透過計算表明，我們幾乎無法控制一個超級智慧的AI系統。這一發現基於2021年的研究，對AI安全領域提出了嚴峻挑戰。
關於人工智慧推翻人類的討論已經持續了幾十年，而ChatGPT等程式的出現更是加劇了這種擔憂。那麼，我們究竟有多大可能控制一個高階計算機超級智慧呢？科學家們在2021年進行了數字計算，得出的答案是：幾乎絕對不可能。這項研究透過數學建模分析，發現一旦AI達到超級智慧水平，其自我學習和進化的能力將遠超人類控制的範圍。任何試圖透過規則或約束來限制它的嘗試都可能被它輕易繞過。因此，AI安全研究必須探尋全新的策略，而不是依賴於傳統的控制方法。