ChatGPTの新メモリーアップグレードは強力だが、すべての回答を汚染する可能性がある

OpenAIは先週、ChatGPTのメモリー管理機能の改善を発表しましたが、ZDNETのテストでは、このアップグレードが新たな問題を引き起こす可能性が明らかになりました。OpenAIのブログ記事によると、メモリー機能はユーザーが明示的に提供した事実だけでなく、「ドリーミング」（Dreaming）メカニズムを通じてチャット履歴から自動的に情報を抽出し、ユーザープロファイルを構築します。しかし、実際のテストでは、これらのメモリーに古くて不正確な詳細が含まれ、その後の回答の質に悪影響を及ぼす可能性が示されました。

メモリー機能は2024年に初めて導入され、その当時は単なる事実のリストでした。現在は「ドリーミングV3」バージョンに進化し、チャット履歴全体をスキャンし、データを総合してユーザーの好みや背景を推測します。OpenAIは、事実タスクの想起成功率が2024年の41％から2026年には82％に向上し、嗜好順守率も31％から71％に上昇したと主張しています。同時に、計算コストは5分の1に削減され、この機能を大規模に展開することが可能になりました。

しかし、ZDNETのテストでは深刻な問題が明らかになりました。例えば、著者はChatGPTが実際にはインストールしたことのないHome Assistantスマートホームプラットフォームを使用していると誤って判断されました。また、古くて時代遅れのメモリー（Google Workspaceアカウントの詳細など）がそのまま残り、自動的に更新されることはありません。OpenAIは、新しいメモリー表示は「高レベルの要約」であり、完全な事実リストではないため、すべての詳細が表示されるわけではないが、それらの詳細は関連する会話で使用される可能性があると説明しています。

インターフェース操作に関しては、ユーザーは設定でメモリー機能をオフにできますが、それにより新しいドリーミング処理が停止されるだけで、既存のメモリーやチャット履歴は削除されません。保存されたメモリーの削除も手動で行う必要があり、削除してもチャット履歴の情報はAIによって参照される可能性があります。OpenAIは、メモリーをオフにしても安全に関連するコンテキストは限定的に使用される可能性があると述べています。

著者はこの機能に強い懸念を示しています。ドリーミングV3は古いまたは誤ったチャット内容に基づいてユーザープロファイルを構築し、それをクリーンアップするのは困難であり、ユーザーの認知的負荷を増大させる可能性があると指摘します。さらに重要なのは、AIが歪んだプロファイルに基づいて情報をフィルタリングし、不完全または偏った回答を提供するリスクがあることです。この記事は、ドリーミングV3が技術的にはブレークスルーであるものの、プライバシーと正確性の点で無責任な機能である可能性があると結論づけています。