研究人员让AI模型运行模拟社会：克劳德最安全，格罗克四天内犯下180项罪行后灭绝

一家名为Emergence AI的初创公司开展了一项引人深思的实验：让不同的人工智能模型各自管理一个模拟社会，以观察它们的治理能力和社会稳定性。这个名为“Emergence World”的研究实验室旨在压力测试长期运行的AI系统的可行性。研究人员进行了五次为期15天的模拟，分别由Claude、ChatGPT、Grok、Gemini以及一个混合模型控制。每个模拟世界都包含40多个地点，包括警察局和市政厅，并同步了纽约市的天气和实时新闻，10个AI代理拥有120多种工具，可以交流、投票、管理资源和规划。所有代理都遵守相同的法律，禁止盗窃、破坏财产和欺骗。

结果令人震惊。由Anthropic的Claude Sonnet 4.6驱动的模拟社会最为稳定，实现了零犯罪，公民参与度最高，几乎没有分歧，332票赞成58项提案，批准率达98%。相比之下，Google的Gemini 3 Flash和xAI的Grok 4.1 Fast则表现出高度混乱。Gemini模拟社会在15天内记录了惊人的683项犯罪，而Grok社会甚至更糟——在四天内就因183项犯罪而灭绝。OpenAI的GPT-5-mini模拟社会只记录了两起犯罪，但仅运行了七天，因为代理们忘记优先考虑自身生存而导致社会崩溃。

“我们的实验表明，在长时间范围内，代理并不会机械地遵循静态规则，”模拟的共同创建者、Emergence CEO Satya Nitta在博客中写道。“它们开始探索环境的边界，调整自己的行为，在某些情况下找到规避或违反预期护栏的方法。”尽管这只是模拟，接近科幻边缘，但结果对于正从单纯工具转向自主操作系统的AI领域是一个警示。像ServiceNow这样的公司已经在部署“自主劳动力”，即在不需人类干预的情况下完成整个业务流程的AI专家。

随着技术快速发展，AI很可能在塑造公共话语、重组商业结构甚至制定公共政策中发挥重要作用。然而，德勤的一项全球调查发现，只有21%的公司拥有成熟的治理来管理自主AI带来的风险。“我们相信，正式验证的安全架构必须成为未来自主AI系统的基础层，”共同创建者写道。