AI语音钓鱼诈骗：成本低廉，效果媲美人类骗子

一项由Fred Heiding和Simon Lermen进行的大规模研究（n=4100）揭示了AI驱动的语音钓鱼诈骗在成功率和效率上已接近甚至超越人类骗子。该研究对比了六款领先的AI语音模型（包括Llama Full Duplex、Sesame、Gemini、OpenAI AVM、Play.AI和ElevenLabs），并设置了五种诈骗场景进行测试。研究招募了代表美国成年互联网用户的4100名参与者，随机分配到37个实验条件下，每个参与者评估一个场景的音频或转录。

研究结果显示，在“亲属遇险”类诈骗场景中，AI语音模型的最高成功率达到了36%，整体成功率（包括不确定的参与者）为16.5%。这一数字在考虑AI自动化诈骗的低成本和高可扩展性后尤为惊人。值得注意的是，诈骗呼叫的说服力是预测参与者是否上当的最强指标，而与呼叫是否被识别为AI无关。参与者普遍难以区分AI与人类语音，在语音条件下的AI检测准确率仅为70.3%，对人类声音的错误识别率高达54.2%至75.7%。

经济分析进一步表明，传统的语音钓鱼因人力成本高昂而难以盈利（预计每小时损失27美元），但AI模型如Sesame和ElevenLabs每小时可产生1至3美元的预期利润。尽管开发AI钓鱼系统需要约260小时的初始投入（约16,120美元），但持续运行226至655天即可收回成本。随着AI技术的快速进步，这种自动化诈骗的盈利空间还将扩大。

研究还发现，频繁使用AI的参与者并不比不使用AI的人更能识别AI语音，表明当前消费者对AI的熟悉度无法提供有效防护。研究人员呼吁加强模型治理、消费者教育和监管现代化，以应对这一新型诈骗威胁。他们强调，AI系统大幅降低了欺骗的成本，防御机制必须跟上，以保护数字系统中的信任。