Anthropic呼籲‘暫停’AI開發以討論風險
Anthropic提出全球暫時停止AI開發，並計劃召集政策制定者討論高階AI的風險，但一些專家認為這不過是營銷手段。
美國人工智慧公司Anthropic近日提出，全球應暫時停止AI開發，並計劃召集政策制定者共同討論先進AI帶來的風險。該公司在最新發布的產品能力宣傳中提出了這一倡議，但遭到一些專家的質疑，認為這更像是一種營銷策略，而非真正的安全呼籲。
在週四釋出的一篇長篇博文中，Anthropic詳細介紹了其AI模型Claude在“遞迴自我改進”方面取得的進展。遞迴自我改進是指AI系統能夠自我生成更強大版本的能力，這是AI安全研究人員長期關注的焦點，被視為AI邁向超級智慧的關鍵一步，可能對人類產生廣泛而深遠的影響。Anthropic聲稱，Claude已經展示了初步的遞迴自我改進能力，這引發了新一輪關於AI發展速度與安全性的討論。
儘管Anthropic的呼籲意在推動全球範圍內的政策討論，但批評者指出，該公司在釋出商業產品的同時提出暫停，存在利益衝突。無論如何，這一事件再次凸顯了AI領域在安全與進步之間的緊張關係，以及監管滯後於技術發展的現實。