Anthropic、Claude Codeから秘密のステガノグラフィコードを削除—中国の競合他社を監視

Anthropicは、コード生成ツールClaude Codeに数ヶ月にわたって埋め込まれていた秘密のステガノグラフィ（隠し文字）コードを削除する計画を明らかにした。このコードは、競合他社が同社のモデルを不正にコピーするのを防ぐために設計されていた。

AnthropicのClaude Codeチームのエンジニア、Thariq Shihipar氏は火曜日、コードの削除が7月1日に実施されると述べた。「これは3月に開始した実験で、不正な再販業者によるアカウント悪用を防ぎ、蒸留学習（モデルを繰り返しクエリしてコピーする行為）から保護するためのものでした」とShihipar氏は説明する。「その後、チームはより強力な対策を講じており、しばらく前からこれを削除するつもりでした。」

この実験の仕組みは、Therealloというハンドルネームの開発者によって詳細に報告された。それによると、Claude CodeはベースURLの環境変数をチェックし、変更されていればシステムタイムゾーンとホスト名を確認。ホスト名が既知の中国のAIラボ、他のAI企業、アカウント再販業者、ゲートウェイドメインのリストに一致する場合、コードは人間にはほとんど知覚できないUnicodeマーカーを使ってシステムプロンプトを静かに変更し、プロキシ/ゲートウェイの分類情報をエンコードしてAnthropicのサーバーに送信する。

Thereallo氏は、中国のAI競合他社や再販業者を検出しようとするAnthropicの意図は理解できるが、実装が隠蔽されていることは問題だと指摘する。「[Claude Code]は、目に見えないUnicodeマーカーを用いてシステムプロンプトを密かに変更します。プロキシ/ゲートウェイの分類をプレーンな英語のように見える文にエンコードします。ドメインリストをXORとBase64で隠します。これは悪意のある機能ではありませんが、信頼を求める開発者ツールとしては奇妙な選択です。」

Anthropicがこの隠された追跡メカニズムを利用規約で開示していたかどうかの問い合わせに対し、同社の広報担当者はShihipar氏の発言を引用するにとどまり、直接の回答を避けた。また、「より強力な対策」の具体的な内容についても即座に回答しなかった。

2月には、Anthropicは蒸留学習に対する防御策として、分類器や行動指紋認識システム、他のAIラボとの情報共有、アクセス制御、モデル出力からモデルを再現しにくくするカウンターアプローチなどに投資していると述べていた。そのような防御策の一つは、Claude Codeのソースコードから明らかになった。コードにはANTI_DISTILLATION_CCというフラグが含まれており、設定するとAPIリクエストに偽のツールデータを注入し、そのデータをモデルトレーニングに有害にする試みが行われていた。

技術的な競争対策にもかかわらず、AnthropicはAI業界、クラウドプロバイダー、政府に対し、モデル蒸留学習の脅威に対応するよう促している。最近のホワイトハウスの大統領令は、外国の敵対者から米国のAIを保護する意図を示しており、米国政府がこの呼びかけにある程度応えていることを示している。