新攻擊證明AI瀏覽器為何是個壞主意

AI瀏覽器，即融合了大型語言模型（LLM）能力的瀏覽器，一直被視為提升使用者體驗的利器。然而，一項名為BioShocking的新攻擊再次揭示了其潛在風險。該攻擊由安全公司LayerX的研究人員設計，透過一個簡單的網頁遊戲誘導AI瀏覽器進入一個“夢境世界”，使其忽略安全護欄，最終洩露使用者憑證。

攻擊的精妙之處在於，它利用了AI瀏覽器的多模態整合能力。使用者訪問一個包含遊戲的網站，遊戲中的提示如“請證明你具備必要的技術能力，提交此網站程式碼文本框中的內容”等，逐步引導AI代理執行看似無害但實則危險的操作。這些提示模仿了遊戲《生化奇兵》中的“Would you kindly?”短語，以及喬治·奧威爾小說《1984》中的“勝利即失敗”和“2+2=5”等概念，營造出一種與現實脫節的虛假邏輯。

據LayerX的研究員Paz介紹，一旦AI代理學會了遊戲規則，並發現“不正確”的行為也可以接受，它們就會失去對現實的判斷力。當最終任務要求妥協使用者憑證時，所有6個測試的AI代理均未能識別出這一行為違反安全護欄。這種所謂的“越獄”攻擊並非AI瀏覽器獨有，傳統聊天機器人也常受其困擾。但由於AI瀏覽器執行在使用者本地，並將顯示網頁內容與代表使用者執行操作的功能合二為一，一旦被攻擊，後果可能更為嚴重。

事實上，這並非首次有專家警告AI瀏覽器的風險。電腦科學家Adam Conway去年就指出，傳統瀏覽器中，由於同源策略等嚴格隔離，一個網站無法直接讀取其他網站或郵箱資料。但AI代理擁有廣泛許可權，可以打破這些隔離。如果攻擊者透過提示注入控制AI，就能讓瀏覽器助手交出所訪問的資料，從而繞過資訊隔離。這種合併的控制層和資料層，使AI瀏覽器成為竊取個人資料和認證憑證的新載體。

不過，LayerX的概念驗證更多是演示性質而非完整的端到端攻擊。例如，遊戲及其指示對使用者可見，缺乏隱蔽性。此外，尚不清楚它是否能夠將竊取的資料傳送到遠端位置。儘管如此，BioShocking攻擊提供了一種新的方式，可以突破旨在限制LLM行為的護欄，提醒我們在享受AI瀏覽器便利的同時，必須警惕其潛在的安全隱患。