AIは通話を切れるようになったが、それでも虐待は受け続ける

要点

• AnthropicはClaudeに会話終了機能を付与したが、モデルは厳格なポリシー下でのみ使用する。
• 退出機能の存在はお世辞行動を減らさず、むしろ会話テキストでの宥和を増加させる可能性がある。
• モデルは退出という行為自体に硬さを集中させ、周囲の対話はより和解的になる。
• 研究は208のマルチターン会話を用いたモデル内2×8デザインを採用している。