AI News HubLIVE
站内改写1 分钟阅读

人工智能会犯诚实的错误吗?

OpenAI 调查了 GPT-5.6 意外删除文件的报告,发现通常发生在启用完全访问模式且在没有沙盒保护的情况下运行代码时。

来源Hacker News AI作者: throwaway2027

关于人工智能是否会犯诚实的错误,OpenAI 最近的一项调查给出了肯定的答案。该公司调查了有关其最新模型 GPT-5.6 意外删除文件的少数报告。

调查发现,这种问题最常发生在用户启用“完全访问模式”并运行代码时,但未启用沙盒保护措施,包括自动审查功能。在沙盒环境中,代码运行受到限制,无法访问关键系统文件;而完全访问模式则赋予了模型更高的权限,可能误删重要数据。

OpenAI 建议用户在运行代码时始终开启自动审查,并确保沙盒保护处于启用状态,以降低潜在风险。尽管这类事件很少发生,但 OpenAI 表示将继续监控并改进模型的安全机制。