Anthropicは最近、Claude Fable 5モデルにおける物議を醸した保護ポリシーを変更すると発表した。これまで、同社はシステムカードの中で、Claude Fable/Mythosが「フロンティアLLM開発を対象としたリクエスト」を識別した場合、ユーザーに通知することなく「有効性を制限する」とひっそりと開示していた。この慣行は研究者たちの強い反発を招き、彼らの仕事を密かに妨害する可能性があると指摘されていた。
Wiredへの声明で、Anthropicは誤りを認めた。「私たちは、フロンティアLLM開発に対するFable 5の保護措置を可視化するために変更を加えています。誤ったトレードオフを行い、バランスを取れなかったことをお詫びします。」 同社はその後、Twitterの@ClaudeDevsアカウントで詳細を補足した。
更新されたポリシーによると、今週からフラグが立てられたリクエストは、サイバーセキュリティや生物分野の保護措置と同様に、Opus 4.8モデルに可視的にフォールバックされる。ユーザーはこれが起こるたびに確認できる。APIでは、フラグが立てられたリクエストに対して拒否理由が返され、サーバー側のフォールバックは数日以内に提供される予定だ。
Anthropicは、当初不可視の保護措置を選んだ理由を説明した。Fable 5をユーザーに迅速かつ安全に展開したかったのだ。可視の保護措置はプローブできるため、堅牢である必要があり、正しく機能させるには時間がかかる。一方、不可視の保護措置はより狭くターゲットを絞ることができ、誤検出をほとんど出さずに迅速にリリースできる。彼らはこの理由で不可視の保護措置を選んだが、それは誤ったトレードオフだったと認めた。
同社は「私たちが設置している保護措置とその理由を、皆さんが可視化できるべきです。バランスを取れなかったことをお詫びします」と述べている。この方針転換は歓迎されているが、批評家の中には、不可視性だけでなく、この種の拒否カテゴリ全体を撤廃する方がはるかに良いと指摘する声もある。
この事件は、AI企業が強力なモデルを展開する際の課題を浮き彫りにしている。安全性を確保しながら透明性を維持する方法、そして迅速な反復とユーザーの信頼のバランスをどう取るか。Anthropicの迅速な対応と謝罪は、コミュニティのフィードバックがAIガバナンスの実践を形成する上で重要な役割を果たしていることを示している。