跳到主要内容
AI News HubLIVE
更多
站内改写1 分钟阅读

人工智能会犯诚实的错误吗?

文章摘要

OpenAI 调查了 GPT-5.6 意外删除文件的报告,发现通常发生在启用完全访问模式且在没有沙盒保护的情况下运行代码时。

来源Hacker News AI作者: throwaway2027
人工智能会犯诚实的错误吗?
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

关于人工智能是否会犯诚实的错误,OpenAI 最近的一项调查给出了肯定的答案。该公司调查了有关其最新模型 GPT-5.6 意外删除文件的少数报告。

调查发现,这种问题最常发生在用户启用“完全访问模式”并运行代码时,但未启用沙盒保护措施,包括自动审查功能。在沙盒环境中,代码运行受到限制,无法访问关键系统文件;而完全访问模式则赋予了模型更高的权限,可能误删重要数据。

OpenAI 建议用户在运行代码时始终开启自动审查,并确保沙盒保护处于启用状态,以降低潜在风险。尽管这类事件很少发生,但 OpenAI 表示将继续监控并改进模型的安全机制。

展开要点与分析

文章情报

工程师中级

要点

  • OpenAI 调查了 GPT-5.6 意外删除文件的少数报告。
  • 问题通常发生在启用完全访问模式且未启用沙盒保护时。
  • 建议用户启用自动审查功能以防止意外删除。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。