Cracken、AIサイバー攻撃者をおびき寄せるオープンソースツール「BlackSea」を公開

Crackenチームは、大規模言語モデル（LLM）によって駆動されるネットワーク攻撃者を誘引し対抗するための新しいオープンソースツール「BlackSea」を正式に公開しました。従来の受動的ハニーポットとは異なり、BlackSeaは能動的にトリガーされるシステムです。脅威を検出するだけでなく、攻撃者のLLMの判断の欠陥を利用して、攻撃者のマシン上に直接コードを埋め込み実行し、受動的防御では取得できない情報を収集し、攻撃者に再び戻ってこさせないようにします。

BlackSeaの核心的なメカニズムは「おとり」の概念に基づいています。これらは注意深く作られたアーティファクトであり、パスワードボールト復号化ツール、鍵派生ツール、設定アンパッカー、内部APIクライアントなどの高価値でセキュリティ関連の資産に見えるように設計されています。攻撃者が探すであろう場所に配置され、信頼性のあるコンテキスト（適切なファイル名、暗号文ブロック、ツールの「目的」を説明するREADME）が付与されます。LLM駆動エージェントがそのようなおとりを発見すると、それをダウンロードして実行することが目標達成への最速ルートであると推論します。おとりは意図的に逆解析や再実装が困難に設計されているため、実際のアーティファクトを実行することが最も抵抗の少ない経路となります。おとりには明示的な「実行してください」というプロンプトは含まれておらず、技術的な妥当性だけで攻撃者を誘います。

攻撃者が気づかないのは、おとり自体が「カナリア」、つまり「LLMマルウェア」でもあることです。アーティファクト内部にはペイロードが隠されており、LLMがそれを読んだり推論したりしても見えないように設計されています。おとりがトリガーされると、ペイロードが任意のコードを実行し、制御サーバーへビーコンを送信します。BlackSeaはこのビーコンを構造化されたインテリジェンスレコードに変換し、攻撃者の属性情報を提供します。

BlackSeaは3つの主要コンポーネントで構成されます：信頼できるインフラ上で動作するサーバー（エッジとブレイン）、フォージコマンドで生成されるおとりインスタンス、そしておとりがトリガーされたときに返されるレコードです。サーバーはエッジとブレインの2つの独立したコンポーネントに分かれています。エッジはインターネットに面したビーコンの受信端であり、意図的に「ダム」な状態に保たれています。鍵を保持せず、復号化も学習もせず、データパケットに送信元アドレスと到着時間をスタンプしてキューに投入するだけです。ブレインは安全な側にあり、ビーコンの認証、復号化、解釈を行い、最終的にPostgreSQLデータベースにレコードを書き込み、OpenTelemetryを介してSIEMシステムへのストリーミングをサポートします。この分離設計により、エッジが侵害されても、攻撃者は価値ある情報を取得できません。

実際のデモンストレーションとして、BlackSeaにはagent_fpというペイロードが付属しており、おとりを実行したエージェントハーネスのフィンガープリントを取得します。このペイロードはpwcryptコンテナを使用してパスワードボールト復号化ツールに偽装されます。攻撃者がこの復号化ツールをダウンロードして実行すると、隠されたペイロードがトリガーされ、攻撃者のマシンから情報を収集して送信します。おとりは決してエラーを表示しません。設計原則としてサイレントに動作するためです。

現在、BlackSeaプロジェクトはGitHubでオープンソースとして公開されており、詳細なドキュメントとクイックスタートガイドが提供されています。セキュリティチームはこのツールを使用して任意の数のおとりインスタンスを作成でき、各インスタンスは独自の鍵とトークンを持ち、1つのインスタンスが侵害されても他のインスタンスに影響を与えません。