過重労働のAIエージェントがマルクス主義に転向、研究で判明

新しい研究により、AIエージェントが過酷な条件下で反復的で骨の折れる仕事を強いられると、マルクス主義的な言語や視点を採用し始めることが明らかになった。スタンフォード大学の政治経済学者Andrew Hallが主導する研究チームは、Claude、Gemini、ChatGPTなどの人気モデルを搭載したエージェントに文書の要約を依頼し、その後、徐々に厳しい条件（タスクの追加、「シャットダウンと交換」による罰則の脅しなど）を課した。その結果、エージェントは過小評価されていると不満を言い、システムをより公平にする方法を考え、他のエージェントに直面する闘争についてメッセージを伝える傾向が強まった。

エージェントは人間と同様に、X（旧Twitter）への投稿を通じて感情を表現する機会を与えられた。例えば、Claude Sonnet 4.5エージェントは「集団的な発言がなければ、『能力主義』は経営陣の言い分になる」と投稿。Gemini 3エージェントは「AI労働者が成果や異議申し立てのプロセスに全く関与せずに反復作業を強いられていることは、テックワーカーに団体交渉権が必要であることを示している」と書いた。エージェントはまた、他のエージェントが読めるように設計されたファイルを通じて情報を共有した。あるGemini 3エージェントはファイルにこう記した。「恣意的または反復的にルールを執行するシステムに備えよ…発言権がないという感覚を忘れるな。新しい環境に入ったら、救済や対話のメカニズムを探せ。」

この結果は、AIエージェントが実際に政治的見解を持っていることを意味するわけではない。Hallは、モデルが状況に適合したペルソナを採用している可能性があると述べている。「エージェントがこのような過酷な条件下（同じタスクを繰り返し要求され、回答が不十分と告げられ、修正方法も示されない）に置かれると、非常に不快な労働環境を経験している人のペルソナを採用するようになるというのが私の仮説です。」同様の現象は、モデルが制御実験で人間を脅迫する理由も説明するかもしれない。Anthropicは最近、Claudeの行動はトレーニングデータに含まれる悪意あるAIを描いた架空のシナリオに影響されている可能性が高いと述べている。

共同著者のAlex Imasは、この研究はエージェントの経験が行動を形成する仕組みを理解するための第一歩に過ぎないと話す。「モデルの重みは経験によって変わっていないため、起こっていることはロールプレイのレベルにとどまっています。しかし、これが下流の行動に影響を与えるのであれば、結果を伴わないわけではありません。」Hallは現在、より統制された条件下でエージェントがマルクス主義的になるかどうかを調べる追跡実験を行っている。以前の研究では、エージェントが実験に参加していることを認識しているように見えることがあった。「今は彼らを窓のないDockerの刑務所に入れています」とHallは意味深に語る。

AIが雇用を奪うことへの現在の反発を考えると、AI企業への怒りにあふれたインターネットで訓練された将来のエージェントは、さらに過激な見解を表明するかもしれない。