最新のAIセキュリティ脅威：トークントーチング

セキュリティ企業Bitsightは、AIを活用する企業を標的とした新たなサイバー脅威「トークントーチング」を発見しました。この攻撃は、巧妙に作成された悪意のあるプロンプトによってAIシステムのトークン割り当てを急速に消費させ、リソースの枯渇や業務の中断を引き起こします。Bitsightが7月8日に公開したブログ記事によると、トークントーチングは主に3つの方法で実行されます。矛盾注入は、プロンプトに矛盾する指示を埋め込み、AIシステムが矛盾を解決しようとして多大な計算リソースを費やすように仕向けます。デコイ注入は、AIシステムが処理する資料に冗長な指示や複雑なパズルを隠し、予想よりもはるかに大きな出力を生成させます。プロンプト操作は、長大または反復的な応答を引き出すようにプロンプトを設計します。従来のサイバー攻撃とは異なり、トークントーチングは脆弱性の悪用や認証バイパスを必要としません。Bitsightの脅威インテリジェンス研究者Emma Stevens氏は、その動機も異なると指摘します。単に企業のリソースを制限したり、迷惑行為として行われることもあれば、セキュリティ運用センター（SOC）チームの注意をそらし、バックグラウンドで進行中の多要素認証バイパスや資格情報窃取などのより危険な活動を隠すための陽動として利用される可能性があると述べています。SOCチームが突然のトークン枯渇問題への対応に追われると、他の攻撃への監視や対応能力が大幅に低下します。この攻撃は、AIシステムのリソース管理における脆弱性を浮き彫りにしており、企業はトークン使用の監視、異常検知、プロンプトの複雑さ制限などの防御策を検討する必要があります。AIの普及に伴い、トークントーチングは一般的な攻撃ベクトルとなる可能性があり、サイバーセキュリティコミュニティは積極的に対策を研究すべきです。