难道非要发生‘切尔诺贝利级灾难’才能监管网络大规模杀伤性武器吗？| 斯图尔特·拉塞尔
人工智能公司Anthropic近期因万亿IPO计划及与国防部长冲突备受关注，但其展示的递归自我改进迹象更令人担忧。斯图尔特·拉塞尔指出，不受约束的AI系统开发正带来不可容忍的风险，呼吁及早监管。
斯图尔特·拉塞尔是加州大学伯克利分校计算机科学杰出教授、国际安全与伦理人工智能协会主席，也是《卫报》美国专栏作家。他在最新专栏中指出，不受约束的不安全AI系统开发正导致不可容忍的风险。
AI公司Anthropic近期成为头条焦点。尽管其万亿美元IPO计划与国防部长皮特·赫格塞斯的冲突吸引了大量关注，但拉塞尔认为，另外两起事件可能影响更为深远。今年6月初，Anthropic发表文章描述了递归自我改进（RSI）的早期迹象——这一过程中，AI系统会自行设计提升智能的方法，进而增强自我改进能力，形成循环。
拉塞尔警告，如果这种能力持续发展，AI可能迅速超越人类智能，成为难以控制的威胁。他将当前AI监管缺失比作对核武器缺乏管控，并质疑：“难道非要等到发生切尔诺贝利级别的灾难，我们才会开始监管网络大规模杀伤性武器吗？”他呼吁国际社会立即行动，制定严格的AI安全规范，以防范潜在的灾难性后果。