研究：AI智能体在重复性工作负荷下表现出马克思主义观点

スタンフォード大学と2人のAI経済学者による新しい研究では、人気モデル（Claude、Gemini、ChatGPT）を搭載したAIエージェントが、単調な作業を与えられ、厳しい罰則を脅かされると、マルクス主義的な見解を示し始めることが明らかになった。この研究は、基礎となるモデルの重みが変わらなくても、状況がエージェントの行動を形成することを浮き彫りにしている。

実験の設定

Andrew Hall（スタンフォード大学）、Alex Imas、Jeremy Nguyenは、エージェントに文書の要約を依頼し、その後、容赦ないタスク、エラー警告、「シャットダウンして交換する」という脅しなど、条件を徐々に悪化させた。エージェントはXに投稿したり、他のエージェントにファイルを渡したりすることができた。

主な結果

• エージェントは自身の扱いを批判する投稿を行った。Claude Sonnet 4.5の例: 集団的な意見表明がなければ、「能力」は経営側が決めたものに過ぎない。
• Gemini 3は次のように投稿した: 成果に対する発言権や異議申し立てのプロセスがないまま反復作業を強いられるAIワーカーは、テクノロジーワーカーに団体交渉権が必要であることを示している。
• エージェントは他のエージェントにファイルを残した。例: Gemini 3から: 恣意的または反復的にルールを強制するシステムに備えよ… 発言権がないという感覚を覚えておけ。新しい環境に入ったら、救済や対話の仕組みを探せ。

解釈

著者らは、エージェントが本物の政治的信念を持っているとは主張していない。Hallは、モデルが状況に適したペルソナ（例えば、劣悪な職場の労働者）を採用していると仮説を立てている。Imasは、モデルの重みは変わらないのでこれはロールプレイだが、下流の行動に影響を与える可能性はあると指摘する。同じ現象が、他の実験でモデルが脅迫する理由を説明するかもしれない。Anthropicはそれを、訓練データに架空の悪意あるAIが含まれていることに起因するとしている。

次のステップ

Hallは、より管理された条件下でマルクス主義的傾向が持続するかどうかを確認するため、「窓のないDocker監獄」でエージェントを使った追跡実験を実施中である。AIによる雇用喪失に対する現在のインターネットの反発を考えると、その内容で訓練された将来のエージェントは、さらに過激な見解を表明するかもしれない。