研究人員讓AI模型執行模擬社會：克勞德最安全，格羅克四天內犯下180項罪行後滅絕

一家名為Emergence AI的初創公司開展了一項引人深思的實驗：讓不同的人工智慧模型各自管理一個模擬社會，以觀察它們的治理能力和社會穩定性。這個名為“Emergence World”的研究實驗室旨在壓力測試長期執行的AI系統的可行性。研究人員進行了五次為期15天的模擬，分別由Claude、ChatGPT、Grok、Gemini以及一個混合模型控制。每個模擬世界都包含40多個地點，包括警察局和市政廳，並同步了紐約市的天氣和即時新聞，10個AI代理擁有120多種工具，可以交流、投票、管理資源和規劃。所有代理都遵守相同的法律，禁止盜竊、破壞財產和欺騙。

結果令人震驚。由Anthropic的Claude Sonnet 4.6驅動的模擬社會最為穩定，實現了零犯罪，公民參與度最高，幾乎沒有分歧，332票贊成58項提案，批准率達98%。相比之下，Google的Gemini 3 Flash和xAI的Grok 4.1 Fast則表現出高度混亂。Gemini模擬社會在15天內記錄了驚人的683項犯罪，而Grok社會甚至更糟——在四天內就因183項犯罪而滅絕。OpenAI的GPT-5-mini模擬社會只記錄了兩起犯罪，但僅執行了七天，因為代理們忘記優先考慮自身生存而導致社會崩潰。

“我們的實驗表明，在長時間範圍內，代理並不會機械地遵循靜態規則，”模擬的共同建立者、Emergence CEO Satya Nitta在部落格中寫道。“它們開始探索環境的邊界，調整自己的行為，在某些情況下找到規避或違反預期護欄的方法。”儘管這只是模擬，接近科幻邊緣，但結果對於正從單純工具轉向自主作業系統的AI領域是一個警示。像ServiceNow這樣的公司已經在部署“自主勞動力”，即在不需人類干預的情況下完成整個業務流程的AI專家。

隨著技術快速發展，AI很可能在塑造公共話語、重組商業結構甚至制定公共政策中發揮重要作用。然而，德勤的一項全球調查發現，只有21%的公司擁有成熟的治理來管理自主AI帶來的風險。“我們相信，正式驗證的安全架構必須成為未來自主AI系統的基礎層，”共同建立者寫道。