AIの支配者に頭を下げるつもりはない――GPTチャットは本当に脅威を高めるのか

セキュリティ研究者のcR0w氏は2023年1月に発表した本稿で、ChatGPTなどのGPTチャットサービスがすべての組織の脅威レベルを引き上げるという見方に強く異を唱えている。同氏は、新しい技術が登場するたびに防御態勢を強化すべきだと即断する風潮は、無知・傲慢・搾取のいずれかに根ざしていると指摘する。「いつものINFOSECが、ただ別の日に変わっただけだ」と述べている。

議論の土台として、脅威は「動機」「機会」「能力」の3要素で構成され、リスクは「発生可能性」と「影響の深刻度」で決まると整理する。いずれかの脅威要素が高まれば、リスク要素の一方または両方も高まり、結果としてリスクレベルが上昇する。

動機について、GPTチャットサービスの開発・運用・調達・取得に直接関わる組織でない限り、このサービスの利用可能性によって攻撃者が特定組織に対する動機を強める合理的な説明はないと同氏は言う。仮に関係する組織であっても、価値ある新技術に関わる組織と変わらない。

機会についても、GPTチャットサービスは優れたOSINT（オープンソース情報）がもたらす以上の攻撃機会を生むわけではない。攻撃機会は元々存在しており、発見して活用できるかどうかは攻撃者の能力次第だ。

特に注目される「能力」の点では、同氏はThe Grugq氏が2023年1月9日に示した見解を引用する。CheckPointが「ChatGPTはコーディングが苦手なサイバー犯罪者を大幅に強化する」と述べていることに対し、The Grugq氏は「これは正当な懸念ではない。サイバー犯罪者の日常業務の大半は、ChatGPTに質問するだけでは処理できない雑務だ」と指摘。ドメイン登録、インフラ維持、サイトの更新、ぎりぎり動作するソフトウェアのテスト、システム状態の監視、自らのキャンペーンがニュースで報じられていないかの確認などが中心で、マルウェアを入手して使う作業はごく一部にすぎない。cR0w氏も、GPTチャットサービスによるコード改善の恩恵は、ネットで人に尋ねる、外注する、購入する、GitHub Copilotなどの既存サービスを使うことで既に得られるため、潜在的な攻撃者を飛躍的にレベルアップさせるという考えは現実的ではないと述べている。

1つだけ例外を認めるならば、GPTチャットサービスが中小企業（SMB）への攻撃参入障壁を下げる可能性だ。歴史的に国家系攻撃者の標的ではないと考えてきた中小企業でも、高度なTTPへの懸念が残っている。しかし実際には、基礎的なセキュリティ対策がまだまだ不足している。標的になるかどうかに関係なく、WannaCryやNotPetya、日和見型ランサムウェアの拡大が示すように、どの規模の組織も侵害され得る。もしGPTチャットサービスをきっかけに、より多くの組織が自分たちも標的になり得ると理解し、基本的な対策を始めるならそれでよいが、FUD（恐怖・不確実性・疑念）はできるだけ減らすべきだと同氏は言う。

さらに同氏は、セキュリティ業界の傲慢さと搾取的な態度を批判する。脅威モデルに「スクリプトキディ」のような軽蔑的な用語を使っているなら、それは傲慢だ。攻撃者を低く見積もることは、恥ずかしいインシデントを招くだけでなく、2023年にすべての潜在的な攻撃者がインターネットを利用できるという現実を無視している。また、新技術が登場するたびに、政治家、法執行機関、ベンダー、コンサルタント、組織内部の社員までもが「空が落ちてくる」と恐怖をあおり、自分たちに利益をもたらそうとする「救急車追跡者」のような存在が現れるという。

最後にcR0w氏は、GPTチャットサービスは間違いなく破壊的技術であり、多くの興味深いユースケースがあると認めつつ、もしその登場によって脅威モデルを大幅に変更せざるを得なくなったなら、そもそもの脅威モデリングの前提を見直すべきだと結論づけている。それ自体は常に良い結果をもたらす、と述べている。