诈骗本就可怕，如今又有了AI加持

近日，一则新闻揭露了南加州女性阿比盖尔的遭遇：她在Facebook上结识“史蒂夫”并坠入爱河，随后被诱导低价出售房产并准备汇款7万美元。她的女儿薇薇安发现“史蒂夫”发来的视频是深度伪造——这正是生成式AI加持下的新型诈骗。最终，阿比盖尔损失超过8.1万美元，包括汇票、现金、比特币、Zelle转账和礼品卡，而追回希望渺茫，案件仍在法庭审理中。

这并非孤例。联邦调查局数据显示，2024年约有5.9万人报告遭遇婚恋诈骗，实际数字可能更高，因为近半数美国人羞于承认被骗。男女受害模式不同：女性报告经济损失的可能性是男性的两倍，但男性损失金额通常更大。诈骗手法不断演变，但目标不分性别、年龄、收入或地域，骗子正利用AI等新兴技术完善其说服犯罪。

生成式AI让诈骗更加逼真。在阿比盖尔的案例中，视觉确认替代了文字说服。美国人正在学习一个教训：语音和视频不再能证明真人身份。然而，即便我们适应了这一转变，下一代诈骗——代理式AI——正在逼近。生成式AI是被动的，仅在提示下输出；代理式AI则更进一步：它能制定计划、执行多步骤行动、适应反馈并在有限监督下运作。在商业领域，AI代理可监控价格、发起交易和管理购买。这些能力带来效率和个性化，但也放大风险，引入新威胁。研究人员发现AI代理能维持人类级别的诈骗接触。行业领袖警告，随着代理式商务扩展，骗子会尝试入侵新工具或部署自己的系统，以远超人类的速度和规模发起欺诈交易。

然而，代理式AI同样有巨大潜力打击诈骗。当前AI已支持个性化消费者保护和实时干预：设备端AI分析通话和短信模式，在对话模式类似已知诈骗时提醒用户；金融机构利用机器学习模型毫秒级评估数百个行为信号，在资金转出前标记异常转账；法医场景中，AI辅助区块链分析可追踪非法交易和洗钱网络。初创公司如BeeSafe AI开发抗诈骗代理，实时与骗子互动，中断活跃诈骗并收集威胁情报；Charm Security的欺诈调查代理综合警报、案例和客户交互信号，甚至解读人类意图和行为心理学，指导更快、更自信的决策。这些系统运用犯罪分子试图利用的自动化、可扩展性和持久性，但用于防御。

技术只是反映使用者意图的工具。诈骗本身不新鲜，新鲜的是其速度和复杂性。监管至关重要，但难以跟上适应性的策略。防御技术可以。通过实时行为分析、嵌入式干预和情报驱动的干扰，我们能更直接地对抗诈骗。问题不在于AI代理是否会进入商业和通信——它们已经存在。问题在于我们的防御系统能否跟上威胁，以及我们是否愿意拥抱保护美国人的必要技术。