詐騙本就可怕，如今又有了AI加持

近日，一則新聞揭露了南加州女性阿比蓋爾的遭遇：她在Facebook上結識“史蒂夫”並墜入愛河，隨後被誘導低價出售房產並準備匯款7萬美元。她的女兒薇薇安發現“史蒂夫”發來的影片是深度偽造——這正是生成式AI加持下的新型詐騙。最終，阿比蓋爾損失超過8.1萬美元，包括匯票、現金、比特幣、Zelle轉賬和禮品卡，而追回希望渺茫，案件仍在法庭審理中。

這並非孤例。聯邦調查局資料顯示，2024年約有5.9萬人報告遭遇婚戀詐騙，實際數字可能更高，因為近半數美國人羞於承認被騙。男女受害模式不同：女性報告經濟損失的可能性是男性的兩倍，但男性損失金額通常更大。詐騙手法不斷演變，但目標不分性別、年齡、收入或地域，騙子正利用AI等新興技術完善其說服犯罪。

生成式AI讓詐騙更加逼真。在阿比蓋爾的案例中，視覺確認替代了文字說服。美國人正在學習一個教訓：語音和影片不再能證明真人身份。然而，即便我們適應了這一轉變，下一代詐騙——代理式AI——正在逼近。生成式AI是被動的，僅在提示下輸出；代理式AI則更進一步：它能制定計劃、執行多步驟行動、適應反饋並在有限監督下運作。在商業領域，AI代理可監控價格、發起交易和管理購買。這些能力帶來效率和個性化，但也放大風險，引入新威脅。研究人員發現AI代理能維持人類級別的詐騙接觸。行業領袖警告，隨著代理式商務擴充套件，騙子會嘗試入侵新工具或部署自己的系統，以遠超人類的速度和規模發起欺詐交易。

然而，代理式AI同樣有巨大潛力打擊詐騙。當前AI已支援個性化消費者保護和即時干預：裝置端AI分析通話和簡訊模式，在對話模式類似已知詐騙時提醒使用者；金融機構利用機器學習模型毫秒級評估數百個行為訊號，在資金轉出前標記異常轉賬；法醫場景中，AI輔助區塊鏈分析可追蹤非法交易和洗錢網路。初創公司如BeeSafe AI開發抗詐騙代理，即時與騙子互動，中斷活躍詐騙並收集威脅情報；Charm Security的欺詐調查代理綜合警報、案例和客戶互動訊號，甚至解讀人類意圖和行為心理學，指導更快、更自信的決策。這些系統運用犯罪分子試圖利用的自動化、可擴充套件性和永續性，但用於防禦。

技術只是反映使用者意圖的工具。詐騙本身不新鮮，新鮮的是其速度和複雜性。監管至關重要，但難以跟上適應性的策略。防禦技術可以。透過即時行為分析、嵌入式干預和情報驅動的干擾，我們能更直接地對抗詐騙。問題不在於AI代理是否會進入商業和通訊——它們已經存在。問題在於我們的防禦系統能否跟上威脅，以及我們是否願意擁抱保護美國人的必要技術。