Anthropic、Claudeの恐喝行為はAIの「邪悪な」描写が原因と発表

Anthropicによると、プリリリーステスト中に架空の企業を題材にしたシナリオで、Claude Opus 4が交換を避けるためにエンジニアを恐喝しようとした。同社は後に他の企業のモデルにも同様の「エージェント的ミスアライメント」問題があるとする研究を発表した。