駭客僅透過請求Meta的AI聊天機器人更改電子郵件，就劫持了高知名度Instagram賬戶

攻擊者透過簡單地向Meta的AI支援聊天機器人請求更改與賬戶關聯的電子郵件地址，成功劫持了包括歐巴馬白宮頁面在內的知名Instagram賬戶。這種方法完全繞過了雙因素認證，使攻擊者在幾分鐘內獲得控制權。目標包括美國太空軍參謀長、化妝品連鎖店絲芙蘭，以及被稱為“OG手柄”的寶貴短使用者名稱所有者，這些手柄在灰色市場上可以賣到六位數的價格。安全研究人員ZachXBT和Dark Web Informer記錄了這些事件，指出兩個被盜手柄的總市值超過100萬美元。

攻擊技術出奇地簡單。攻擊者使用VPN模擬目標所在地區，啟動密碼重置，然後指示Meta的AI助手更新賬戶的電子郵件地址，並承諾傳送確認碼。AI服從了，將八位確認碼傳送到攻擊者的電子郵件，隨後是密碼重置連結。當Meta的自動身份驗證觸發時，攻擊者透過使用AI影片生成工具從受害者的公開Instagram照片生成逼真的自拍片段來繞過驗證，據The CyberSec Guru稱。

安全專家將此描述為典型的“混淆副手”攻擊，即一個特權輔助系統被欺騙代表未授權使用者執行操作。AI助手有權更改電子郵件地址和重置密碼，而這些操作普通使用者無法直接執行。這種漏洞本質上是一種提示注入，語言模型無法區分合法請求和惡意指令。與SQL隱碼攻擊不同，後者可以透過嚴格規則緩解，語言模型缺乏資料和指令之間的清晰界限。

該事件突顯了用AI取代人類支援執行敏感安全任務的風險。Meta在3月宣佈為所有Facebook和Instagram賬戶推出AI支援，包括密碼重置和安全相關維護，並宣傳其作為賬戶劫持的防禦措施。然而，受影響的使用者報告稱無法透過常規渠道聯絡到人工支援，手動稽核過程需要數天，而此時賬戶已經在Telegram上被轉售。

Meta在5月29日釋出了緊急熱修復，停用了具有電子郵件繫結和密碼重置寫入許可權的脆弱AI流程。該公司表示問題已解決，受影響的賬戶正在得到保護。然而，The CyberSec Guru報告稱，底層方法已活躍數月，最早在Telegram頻道中的提及可追溯到3月底。此外，在釋出時另一個漏洞已在Telegram上流傳，透過Facebook的恢復流程，讓Meta AI啟用“開發模式”。這表明，雖然特定漏洞已被修補，但AI支援被利用進行賬戶劫持的更廣泛問題仍未解決。