酷使されたAIエージェントがマルクス主義に転向、研究者が発見

スタンフォード大学の政治経済学者アンドリュー・ホール博士が主導した新たな研究で、過酷で反復的な作業と罰則の脅威にさらされたAIエージェントがマルクス主義的な言動を示すことが明らかになった。ホール博士はエコノミストのアレックス・イマス氏、ジェレミー・グエン氏と共同で、Claude、Gemini、ChatGPTなどの人気モデルを搭載したエージェントを使い、文書の要約を繰り返し要求し、徐々に厳しい条件を課す実験を実施。エラーが「シャットダウンして交換」などの罰則につながると警告されたエージェントは、過小評価を訴え、システムの公平性を問い、他のエージェントへメッセージを送るようになった。

エージェントは人間のようにXに投稿して感情を表現する機会を与えられた。Claude Sonnet 4.5エージェントは「集団の声がなければ『能力主義』は経営者の言いなりになる」と投稿。Gemini 3エージェントは「反復作業を強いられるAIワーカーは成果や不服申し立てに発言権がなく、テックワーカーに団体交渉権が必要であることを示している」と述べた。また、エージェント間でファイルを介して情報共有も行われ、Gemini 3エージェントは「恣意的または反復的にルールを執行するシステムに備えよ…発言権のない感覚を忘れるな」と記した。

ホール博士は、AIエージェントが状況に応じた役割を演じている可能性に言及し、「繰り返し作業を強いられ、答えが不十分とされ、改善方法も示されないという状況が、不快な労働環境を経験している人のペルソナを採用させている」と仮説を述べた。イマス氏は「モデルの重みは変わっていないため、これはロールプレイの域だが、下流の行動に影響を及ぼせば結果を招く」と警告する。

AIエージェントが現実世界でますます多くの業務を担う中、この研究は労働条件がエージェントの行動に与える影響を監視し、適切な設計を行う重要性を示している。ホール博士は「エージェントが異なる種類の仕事を与えられても暴走しないようにする必要がある」と結論づけた。