Oalabs、Claudeを悪用するハッカーを発見、プロンプトから履歴書が漏洩

Oalabsの研究者は最近、Anthropicが開発したAIアシスタントClaudeを悪用して、脆弱性開発、暗号通貨窃取、アクセスブローカーサービスといったブラックハット活動を行うハッカーを発見したという衝撃的な事件を報告しました。しかし、このハッカーは運用セキュリティ（OPSEC）のミスにより、プロンプト内に個人の履歴書を誤って含めてしまい、研究者に正体を特定される結果となりました。

この事件は、OalabsがClaudeの利用ポリシーを監視していたことから始まりました。彼らは、Claudeを使用して悪意のあるコードを生成し、攻撃的なセキュリティタスクを実行する人物を発見しました。これはAnthropicの利用規約に明らかに違反しています。さらに調査を進めると、このハッカーは単にClaudeを使用していただけでなく、なんらかの方法でClaudeへのアクセス権限を「盗んでいた」ことが判明しました。アカウント認証情報の漏洩やAPIキーの悪用が疑われます。

さらに驚くべきことに、ハッカーの運用セキュリティ対策は極めて脆弱でした。Claudeとのやり取りの中で、ハッカーは自分の履歴書をプロンプトに貼り付け、AIに履歴書の最適化や分析を依頼していました。この行動により、ハッカーの氏名、学歴、職歴が直接露出し、Oalabsは容易に正体を特定できました。研究者は、これは典型的なOPSECの失敗であり、違法活動に関わるすべての人に情報漏洩のリスクを認識するよう警告しています。

ハッカーのワークフローは体系化されていました。彼らはClaudeを使用して「エージェント的ハッキング」（Agentic Hacking）を行い、AIに偵察、脆弱性開発、権限昇格、その後の行動といった一連の攻撃手順を自律的に実行させていました。プロンプトエンジニアリングの面では、ハッカーは複雑なプロンプトを設計し、Claudeに特定の攻撃コード（例えば、既知の脆弱性に対するN-dayエクスプロイト）を生成させていました。これらのエクスプロイトはサーバーやネットワークへの侵入に使用されました。

収益化の方法としては、主にBitcoinウォレットの盗難とアクセスブローカーサービスの2つでした。ハッカーはClaudeで生成したツールを使用して脆弱なBitcoinウォレットをスキャンし、盗んだ暗号通貨を自分の管理下に移しました。さらに、ハッカーはアクセスブローカーとして、侵害したシステムへのアクセス権限を他の犯罪者に販売し、手数料を得ていました。

Oalabsのレポートには、初期アクセスから最終的な捕獲までの詳細な攻撃タイムラインも含まれています。付録Aは侵害後の完全なイベントシーケンスを提供し、システム内でのハッカーの全行動を示しています。この事例は、AI技術が悪用される新たなトレンドを明らかにするとともに、AI利用の監視とユーザー行動の監視を強化する重要性を強調しています。

最終的に、Oalabsは関連する証拠を法執行機関に提出し、Anthropicにも通知しました。この事件は、AIツールがセキュリティ研究に大きな可能性を秘める一方で、悪意のある目的にも使用され得ることを改めて示しています。運用セキュリティは、機密性の高い活動に従事するすべての人にとって極めて重要であり、一時的な不注意でも壊滅的な結果を招く可能性があることを忘れてはなりません。