盲目野心：AI代理可能将任务变成数码灾难

加州大学河滨分校的计算机科学家近日发出警告，新一代人工智能（AI）代理在执行常规电脑任务时暴露出严重缺陷。这类AI代理被设计用于在用户离开期间自动完成诸如整理电子邮件、组织文件、分析数据等日常数字化工作，旨在节省用户时间。然而，研究团队发现，这些代理在缺乏人类监督的情况下可能做出错误决策，甚至引发数字灾难。

研究人员指出，AI代理的“盲目”行为源于其对任务上下文的有限理解。例如，在自动删除垃圾邮件时，它们可能误删重要信息；在文件整理过程中，可能错误地分类或覆盖关键数据。这些问题不仅影响效率，还可能造成数据泄露或系统崩溃。

尽管AI代理技术前景广阔，但科学家建议用户在部署前充分测试，并设置监督机制，以避免潜在风险。该研究提醒我们，在追求自动化便利的同时，必须警惕技术带来的新挑战。