黑客僅通過請求Meta的AI聊天機器人更改電子郵件，就劫持了高知名度Instagram賬户

攻擊者通過簡單地向Meta的AI支持聊天機器人請求更改與賬户關聯的電子郵件地址，成功劫持了包括奧巴馬白宮頁面在內的知名Instagram賬户。這種方法完全繞過了雙因素認證，使攻擊者在幾分鐘內獲得控制權。目標包括美國太空軍參謀長、化妝品連鎖店絲芙蘭，以及被稱為“OG手柄”的寶貴短用户名所有者，這些手柄在灰色市場上可以賣到六位數的價格。安全研究人員ZachXBT和Dark Web Informer記錄了這些事件，指出兩個被盜手柄的總市值超過100萬美元。

攻擊技術出奇地簡單。攻擊者使用VPN模擬目標所在地區，啓動密碼重置，然後指示Meta的AI助手更新賬户的電子郵件地址，並承諾發送確認碼。AI服從了，將八位確認碼發送到攻擊者的電子郵件，隨後是密碼重置鏈接。當Meta的自動身份驗證觸發時，攻擊者通過使用AI視頻生成工具從受害者的公開Instagram照片生成逼真的自拍片段來繞過驗證，據The CyberSec Guru稱。

安全專家將此描述為典型的“混淆副手”攻擊，即一個特權輔助系統被欺騙代表未授權用户執行操作。AI助手有權更改電子郵件地址和重置密碼，而這些操作普通用户無法直接執行。這種漏洞本質上是一種提示注入，語言模型無法區分合法請求和惡意指令。與SQL注入不同，後者可以通過嚴格規則緩解，語言模型缺乏數據和指令之間的清晰界限。

該事件突顯了用AI取代人類支持執行敏感安全任務的風險。Meta在3月宣佈為所有Facebook和Instagram賬户推出AI支持，包括密碼重置和安全相關維護，並宣傳其作為賬户劫持的防禦措施。然而，受影響的用户報告稱無法通過常規渠道聯繫到人工支持，手動審核過程需要數天，而此時賬户已經在Telegram上被轉售。

Meta在5月29日發佈了緊急熱修復，禁用了具有電子郵件綁定和密碼重置寫入權限的脆弱AI流程。該公司表示問題已解決，受影響的賬户正在得到保護。然而，The CyberSec Guru報告稱，底層方法已活躍數月，最早在Telegram頻道中的提及可追溯到3月底。此外，在發佈時另一個漏洞已在Telegram上流傳，通過Facebook的恢復流程，讓Meta AI激活“開發模式”。這表明，雖然特定漏洞已被修補，但AI支持被利用進行賬户劫持的更廣泛問題仍未解決。