AI語音釣魚詐騙：成本低廉，效果媲美人類騙子

一項由Fred Heiding和Simon Lermen進行的大規模研究（n=4100）揭示了AI驅動的語音釣魚詐騙在成功率和效率上已接近甚至超越人類騙子。該研究對比了六款領先的AI語音模型（包括Llama Full Duplex、Sesame、Gemini、OpenAI AVM、Play.AI和ElevenLabs），並設置了五種詐騙場景進行測試。研究招募了代表美國成年互聯網用户的4100名參與者，隨機分配到37個實驗條件下，每個參與者評估一個場景的音頻或轉錄。

研究結果顯示，在“親屬遇險”類詐騙場景中，AI語音模型的最高成功率達到了36%，整體成功率（包括不確定的參與者）為16.5%。這一數字在考慮AI自動化詐騙的低成本和高可擴展性後尤為驚人。值得注意的是，詐騙呼叫的説服力是預測參與者是否上當的最強指標，而與呼叫是否被識別為AI無關。參與者普遍難以區分AI與人類語音，在語音條件下的AI檢測準確率僅為70.3%，對人類聲音的錯誤識別率高達54.2%至75.7%。

經濟分析進一步表明，傳統的語音釣魚因人力成本高昂而難以盈利（預計每小時損失27美元），但AI模型如Sesame和ElevenLabs每小時可產生1至3美元的預期利潤。儘管開發AI釣魚系統需要約260小時的初始投入（約16,120美元），但持續運行226至655天即可收回成本。隨着AI技術的快速進步，這種自動化詐騙的盈利空間還將擴大。

研究還發現，頻繁使用AI的參與者並不比不使用AI的人更能識別AI語音，表明當前消費者對AI的熟悉度無法提供有效防護。研究人員呼籲加強模型治理、消費者教育和監管現代化，以應對這一新型詐騙威脅。他們強調，AI系統大幅降低了欺騙的成本，防禦機制必須跟上，以保護數字系統中的信任。