展示HN：AI致命三重奏
Simon Willison提出的“AI致命三重奏”指三種能力的組合：訪問私人數據、接觸不可信內容和數據外泄能力。這三種能力單獨無害，但結合使用可導致嚴重安全風險。作者構建了一個免費謎題遊戲，模擬這些攻擊概念，最終關卡需要利用全部三種能力。
如果你正在構建AI代理（agent），下面這個知識值得了解。Simon Willison（“提示注入”一詞的創造者）描述了一種“AI致命三重奏”——三種單獨看來無害、但組合在一起會帶來毀滅性後果的能力。這三種能力包括：1）訪問私人數據（如內部數據庫、電子郵件等）；2）接觸不可信內容（如網頁和外部文本）；3）數據外泄能力（一種能夠觸及外部世界的工具或渠道）。當這三種能力被集成到同一個AI代理中時，就會形成一場完美風暴：不可信內容可以劫持代理，使其讀取私人數據，並説服代理將數據發送出去。為了教授這一致命三重奏的概念，作者構建了一個類似“甘道夫”風格的謎題遊戲：共10個關卡，每個關卡對應一個真實注入概念，最終關卡要求玩家同時運用所有三種能力。這款遊戲完全免費，無需註冊，且初始關卡對新手友好。你能嘗試將三者串聯起來，完成這個三重奏挑戰嗎？