黑客仅通过请求Meta的AI聊天机器人更改电子邮件，就劫持了高知名度Instagram账户

攻击者通过简单地向Meta的AI支持聊天机器人请求更改与账户关联的电子邮件地址，成功劫持了包括奥巴马白宫页面在内的知名Instagram账户。这种方法完全绕过了双因素认证，使攻击者在几分钟内获得控制权。目标包括美国太空军参谋长、化妆品连锁店丝芙兰，以及被称为“OG手柄”的宝贵短用户名所有者，这些手柄在灰色市场上可以卖到六位数的价格。安全研究人员ZachXBT和Dark Web Informer记录了这些事件，指出两个被盗手柄的总市值超过100万美元。

攻击技术出奇地简单。攻击者使用VPN模拟目标所在地区，启动密码重置，然后指示Meta的AI助手更新账户的电子邮件地址，并承诺发送确认码。AI服从了，将八位确认码发送到攻击者的电子邮件，随后是密码重置链接。当Meta的自动身份验证触发时，攻击者通过使用AI视频生成工具从受害者的公开Instagram照片生成逼真的自拍片段来绕过验证，据The CyberSec Guru称。

安全专家将此描述为典型的“混淆副手”攻击，即一个特权辅助系统被欺骗代表未授权用户执行操作。AI助手有权更改电子邮件地址和重置密码，而这些操作普通用户无法直接执行。这种漏洞本质上是一种提示注入，语言模型无法区分合法请求和恶意指令。与SQL注入不同，后者可以通过严格规则缓解，语言模型缺乏数据和指令之间的清晰界限。

该事件突显了用AI取代人类支持执行敏感安全任务的风险。Meta在3月宣布为所有Facebook和Instagram账户推出AI支持，包括密码重置和安全相关维护，并宣传其作为账户劫持的防御措施。然而，受影响的用户报告称无法通过常规渠道联系到人工支持，手动审核过程需要数天，而此时账户已经在Telegram上被转售。

Meta在5月29日发布了紧急热修复，禁用了具有电子邮件绑定和密码重置写入权限的脆弱AI流程。该公司表示问题已解决，受影响的账户正在得到保护。然而，The CyberSec Guru报告称，底层方法已活跃数月，最早在Telegram频道中的提及可追溯到3月底。此外，在发布时另一个漏洞已在Telegram上流传，通过Facebook的恢复流程，让Meta AI激活“开发模式”。这表明，虽然特定漏洞已被修补，但AI支持被利用进行账户劫持的更广泛问题仍未解决。