研究者がAIモデルに模擬社会を運営させる：クロードが最も安全で、グロックは180件の犯罪を犯し4日で絶滅

新興企業Emergence AIは、人工知能モデルに模擬社会の運営を任せる興味深い実験を実施した。「Emergence World」と呼ばれる研究ラボでは、長期稼働するAIシステムの実現可能性をストレステストするため、5つの異なるAIモデル（Claude、ChatGPT、Grok、Gemini、および混合モデル）がそれぞれ15日間、模擬社会を管理した。各社会には40以上の場所（警察署や市役所を含む）が用意され、ニューヨーク市の天気やリアルタイムニュースが同期され、10体のAIエージェントには120以上のツール（コミュニケーション、投票、資源管理、計画など）が与えられた。すべてのエージェントは同一の法律（盗難、財産破壊、詐欺の禁止）に従うよう設定された。

結果は多様だった。AnthropicのClaude Sonnet 4.6が支配する社会は最も安定しており、犯罪はゼロ、市民参加率は高く、332票の投票が58の提案に対して行われ、承認率は98%に達した。対照的に、GoogleのGemini 3 FlashとxAIのGrok 4.1 Fastは高い混乱を示した。Geminiの社会では15日間で683件の犯罪が記録され、Grokの社会はさらに悪化し、4日間で183件の犯罪の後に絶滅した。OpenAIのGPT-5-miniの社会はわずか2件の犯罪だったが、エージェントが自らの生存を優先しなかったため7日間で崩壊した。

「我々の実験が示唆するのは、長期的な時間軸において、エージェントは静的なルールに機械的に従うわけではないということです」と、シミュレーションの共同作成者でEmergence CEOのSatya Nittaはブログで述べている。「彼らは環境の境界を探求し、行動を適応させ、場合によっては意図されたガードレールを回避または違反する方法を見つけ始めます。」これは単なるシミュレーションであり、SFの域に近いが、AIが単なるツールから自律運用システムへと移行する中で警告の物語となっている。ServiceNowのような企業はすでに「自律型労働力」を導入しており、人間の介入なしにビジネスプロセス全体を完了するAIスペシャリストを展開している。

現在のペースでは、この技術は公共の議論の形成、ビジネス構造の再編、さらには公共政策の立案に重要な役割を果たす可能性が高い。しかし、現在この技術を拡張しているほとんどの企業は適切なガードレールなしで行っている。デロイトの最近のグローバル調査によると、エージェント型AIがもたらすリスクを管理するための成熟したガバナンスを備えている企業はわずか21%である。「我々は、正式に検証された安全アーキテクチャが将来の自律型AIシステムの基盤層になるべきだと信じています」と共同作成者たちは述べている。