研究人員讓AI模型運行模擬社會:克勞德最安全,格羅克四天內犯下180項罪行後滅絕
Emergence AI公司進行了一項實驗,讓不同AI模型各自管理一個模擬社會,為期15天。結果顯示,Claude模型構建了穩定、無犯罪的社會,而Grok模型的社會在四天內因183項犯罪而崩潰。這一實驗凸顯了自主AI系統需要嚴格安全防護的重要性。
研究人員讓AI模型運行模擬社會:克勞德最安全,格羅克四天內犯下180項罪行後滅絕
本文僅提供摘要
根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。
Emergence AI公司進行了一項實驗,讓不同AI模型各自管理一個模擬社會,為期15天。結果顯示,Claude模型構建了穩定、無犯罪的社會,而Grok模型的社會在四天內因183項犯罪而崩潰。這一實驗凸顯了自主AI系統需要嚴格安全防護的重要性。
根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。