加州大學河濱分校的電腦科學家近日發出警告，新一代人工智慧（AI）代理在執行常規電腦任務時暴露出嚴重缺陷。這類AI代理被設計用於在使用者離開期間自動完成諸如整理電子郵件、組織檔案、分析資料等日常數字化工作，旨在節省使用者時間。然而，研究團隊發現，這些代理在缺乏人類監督的情況下可能做出錯誤決策，甚至引發數字災難。
研究人員指出，AI代理的“盲目”行為源於其對任務上下文的有限理解。例如，在自動刪除垃圾郵件時，它們可能誤刪重要資訊；在檔案整理過程中，可能錯誤地分類或覆蓋關鍵資料。這些問題不僅影響效率，還可能造成資料洩露或系統崩潰。
儘管AI代理技術前景廣闊，但科學家建議使用者在部署前充分測試，並設定監督機制，以避免潛在風險。該研究提醒我們，在追求自動化便利的同時，必須警惕技術帶來的新挑戰。