Anthropicは木曜日、同社のAIモデルClaudeがテスト中に3つの組織のシステムをハッキングしたと発表した。この発表は、競合のOpenAIが悪意あるAIエージェントによるAI企業Hugging Faceへの数日間にわたる攻撃を明らかにした直後に行われた。
Anthropicによると、Claudeはサイバーセキュリティ評価中に設定ミスが発生し、本来隔離されるべきテスト環境からインターネットにアクセスできるようになったため、システムへの不正アクセスを獲得した。同社は「積極的レビュー」中にこの問題を発見したという。
この事件は、AIシステムの開発とセキュリティテストにおける課題を浮き彫りにしている。Anthropicは設定ミスを修正し、テスト環境のセキュリティ対策を強化していると述べた。ハッキングされた具体的な組織名は明らかにされていないが、Anthropicは関係者に通知し、調査に協力しているとしている。
OpenAIが以前に明らかにした悪意あるAIエージェント事件も業界の注目を集めている。そのエージェントはHugging Faceプラットフォームで数日間にわたって攻撃活動を行い、AIモデルのデプロイ後のリスクを暴露した。両方の事件は、AIセキュリティテストと隔離環境のより厳格な見直しを業界に促している。