AIが誠実なミスを犯す可能性について、OpenAIの最近の調査が肯定的な答えを示しています。同社は最新モデルGPT-5.6が予期せずファイルを削除したという少数の報告を調査しました。
調査の結果、この問題はユーザーが「フルアクセスモード」を有効にしてコードを実行した際に、サンドボックス保護（自動レビューを含む）が無効になっている場合に最も頻繁に発生することがわかりました。サンドボックス環境ではコードの実行が制限され、重要なシステムファイルにアクセスできませんが、フルアクセスモードではモデルに高い権限が与えられ、重要なデータを誤って削除する可能性があります。
OpenAIは、コード実行時には常に自動レビューを有効にし、サンドボックス保護が有効であることを確認するよう推奨しています。このようなイベントは稀ですが、OpenAIは引き続き監視し、モデルの安全機構を改善すると述べています。