AI音声フィッシング：低コストで人間の詐欺師に匹敵する性能

Fred Heiding氏とSimon Lermen氏による大規模研究（n=4100）では、AIによる音声フィッシング（ビッシング）が人間の詐欺師と同等以上の成功率を達成し、コストを大幅に削減できることが示されました。研究では、Llama Full Duplex、Sesame、Gemini、OpenAI AVM、Play.AI、ElevenLabsの6つの主要なAI音声モデルを比較し、5つの詐欺シナリオでテストしました。参加者は米国の成人インターネットユーザーを代表する4100人で、37の実験条件にランダムに割り当てられ、各参加者は1つのシナリオの音声または書き起こしを評価しました。

結果、最も効果的なシナリオ（親族が困っているという偽の電話）では、ElevenLabsのクローン音声が36.1%の成功率を記録しました。全体の成功率（「はい」または「わからない」と回答した参加者）は16.5%でした。詐欺の説得力が最も重要な予測因子であり、参加者がAIか人間かを認識できるかどうかは影響しませんでした。参加者はAI音声を70.3%の精度でしか検出できず、人間の声をAIと誤認する割合が高かった（24.3%～45.8%）。

経済分析では、従来の人間によるビッシングは米国の賃金水準では採算が取れない（1時間あたり27ドルの損失）のに対し、Gemini、Sesame、ElevenLabsは1時間あたり1～3ドルの利益が見込まれます。開発コスト（約260時間、16,120ドル）は、継続運用により226～655日で回収可能です。また、AIの使用頻度が高い参加者も低い参加者も、AI音声の検出能力に差はなく、現在の消費者教育では防御にならないことが示唆されました。

研究者らは、モデルガバナンスの強化、消費者教育の見直し、規制の近代化を求めています。AIによるビッシングは規模拡大が容易で、被害が不可逆的になる前に対策が必要だと警鐘を鳴らしています。具体的には、AI開発者は表面的な安全対策を超えて悪用防止メカニズムを設計すべきであり、消費者教育はAI音声の検出ではなく操作的な会話戦略の認識に焦点を当てるべきであり、規制機関は自動化による詐欺の新たな経済性を想定した枠組みを構築すべきだと主張しています。