難道非要發生‘切爾諾貝利級災難’才能監管網路大規模殺傷性武器嗎？| 斯圖爾特·拉塞爾
人工智慧公司Anthropic近期因萬億IPO計劃及與國防部長衝突備受關注，但其展示的遞迴自我改進跡象更令人擔憂。斯圖爾特·拉塞爾指出，不受約束的AI系統開發正帶來不可容忍的風險，呼籲及早監管。
斯圖爾特·拉塞爾是加州大學伯克利分校電腦科學傑出教授、國際安全與倫理人工智慧協會主席，也是《衛報》美國專欄作家。他在最新專欄中指出，不受約束的不安全AI系統開發正導致不可容忍的風險。
AI公司Anthropic近期成為頭條焦點。儘管其萬億美元IPO計劃與國防部長皮特·赫格塞斯的衝突吸引了大量關注，但拉塞爾認為，另外兩起事件可能影響更為深遠。今年6月初，Anthropic發表文章描述了遞迴自我改進（RSI）的早期跡象——這一過程中，AI系統會自行設計提升智慧的方法，進而增強自我改進能力，形成迴圈。
拉塞爾警告，如果這種能力持續發展，AI可能迅速超越人類智慧，成為難以控制的威脅。他將當前AI監管缺失比作對核武器缺乏管控，並質疑：“難道非要等到發生切爾諾貝利級別的災難，我們才會開始監管網路大規模殺傷性武器嗎？”他呼籲國際社會立即行動，制定嚴格的AI安全規範，以防範潛在的災難性後果。