ChatGPTのメモリーアップグレードに興奮するが、すぐに欠点に気づいた

OpenAIは最近のブログ投稿で、ChatGPTのメモリー管理機能が大幅に改善されたと誇らしげに発表した。しかし、実際のテストでは、これらの改善がむしろ問題を引き起こす可能性が明らかになった。

メモリーとは、ユーザーがChatGPTと共有した詳細情報を指す。2024年に初めて導入された当時は、AIが参照できる事実のリストに過ぎなかった。現在では、チャット履歴全体、明示的な指示、個人の制約、さらにはAIが過去の行動や何気ない発言から推測した暗黙の選好にまで拡大している。

本稿では3つのセクションに分けて説明する。まず、OpenAIのブログ投稿からChatGPTのメモリー機能改善に関する技術情報を解説する。次に、メモリーを調整するためのインターフェース要素を紹介する。最後に、この機能がなぜ私を不安にさせるか、そして読者にとっても懸念事項となり得る理由を述べる。

メモリー機能の進化は段階を経ている。2024年以前、ChatGPTにはメモリーがなく、各チャットセッションは独立していた。2024年にOpenAIはメモリーを導入したが、それは事実のリストに過ぎなかった。保存されたメモリーの多くはすぐに陳腐化した。例えば、筆者のメモリーには数年前に議論したKasaスマートプラグや、2つのGoogle Workspaceアカウントの複雑な設定が今も残っているが、どちらも現在は無関係である。

2025年、OpenAIは「夢見」（Dreaming）機能の開発を開始した。人間の夢が感情処理や記憶の固定化に役立つのと同様に、ChatGPTの夢見機能はモデルがバックグラウンドでチャット履歴を参照し、明示的な指示なしに自動的にメモリーを整理する。この時点で、ChatGPTのメモリー構造は「保存されたメモリー」と「Dreaming V0」で構成されていた。

2026年、夢見機能はV3に進化した。保存されたメモリーは依然として存在するが、夢見ベースのメモリーに置き換えられるか補完される。例えば、筆者が「Kasaを使った経験は？」と尋ねたところ、ChatGPTは「Kasa KP125M Matterスマートプラグをスマートホームエネルギー監視に使用した」と回答した。しかし、この型番は保存されたメモリーにはなく、回答自体も完全に誤りだった。筆者はHome Assistantをインストールしたことがなく、Kasaプラグは現在もギアボックスにしまったままである。

OpenAIの広報担当者はZDNETに対し、「表示されているのは新しい高レベルのメモリー要約であり、ChatGPTが記憶する可能性のあるすべての事実の完全な目録ではありません。全体的な状況をレビューして修正しやすくするためのものであり、技術スタックなどの詳細が必ずしも表示されるわけではありませんが、そのコンテキストは関連する会話で引き続き使用できます」と説明した。

現在のDreaming V3は、バックグラウンドでチャット履歴をスキャンするだけでなく、データ合成を実行し、ユーザーに関する一種の「ファイル」を作成する（常に正確とは限らない）。OpenAIによれば、V3は複雑なコンテキスト情報を引き継ぎ、複数セッションにわたる長期的なプロジェクトを追跡できる。タスク想起の成功率は2024年の41％から2026年には82％に向上し、長期にわたる正確性は9％から75％、選好の遵守は31％から71％に向上したという。

この自律的なバックグラウンド処理のスケーラビリティは、Dream V3を可能にした大きなブレークスルーの一部である。OpenAIはこのレベルの継続的分析の計算コストを5分の1に削減した。この効率性により、機能を大衆向けに提供することが現実的になった。AIはバックグラウンドで内部状態を常に修正し、情報の断片にタイムスタンプを付与し、理論上はユーザーとともに時間の経過を経験する。Dream V3は現在、PlusおよびProティアのサブスクライバーが利用でき、今後数週間ですべてのユーザー（無料ユーザーを含む）に展開される予定である。

筆者はChatGPTのブラウザ版で新しいメモリー機能を見つけた（macOSアプリはまだ旧インターフェース）。メモリーにアクセスするには、「設定」→「パーソナライゼーション」→「メモリー」セクションに進む。メモリー機能を無効にすることはできるが、既存のメモリーやチャット履歴は削除されない。ChatGPTは夢ベースのメモリー統合を行わなくなるが、データは残る。メモリーを削除するには、保存されたメモリーインターフェースで手動で削除し、さらに実際のチャット自体も削除する必要がある。また、OpenAIのFAQによると、メモリー/パーソナライゼーションをオフにしても、まれな高リスク状況で安全に関連するコンテキストを限定的に使用する安全機能は無効にならない。

新しい「管理」ボタンでは、ChatGPTがユーザーについて形成した統合プロファイルを表示できる。例えば、AIがユーザーの興味や選好を説明するナラティブを示す。特定の項目を選択して「これについて再度言及しない」とマークすることで、その項目を忘れさせることができる。また、コメントを追加してAIの理解をパーソナライズすることも可能だ。

確かに、堅牢なAIメモリーがミッションクリティカルなシナリオは存在する。しかし、ChatGPTの新しいメモリー機構には不安を感じる。前述のように、古い情報を保持して回答に使用する。Dreaming V3でさえ誤ることがある。筆者の例では、Home Assistantを使用したと主張したが、実際には一度もダウンロードしていない。AIは会話から導き出された個人的なレンズを通して世界全体をフィルタリングする。しかし、ChatGPTは実際にはユーザーを理解しておらず、示された情報に基づいて仮定を立てているにすぎない。また、すべての会話がユーザー自身に関するわけではない。記事やプロジェクトのリサーチ中に尋ねた質問が、個人の特徴として誤って解釈される可能性がある。新しいインターフェースでAIの集約された仮定は表示されるが、AIが自分について何を知っていると思っているのか完全には把握できず、その結果、どのような仮定に基づいて回答しているのかが不明確である。

Dreaming V3は明らかに技術的成果だが、筆者は無責任な機能だと考えている。第一に、古い会話を処理するが、これらの会話が行われた当時、ユーザーはAIが現在の会話しか知らないと認識していた。第二に、AIがユーザーについて記憶する内容を剪定することはほぼ不可能である。第三に、OpenAIの主張に反して、V3は現実の変化に追従できていない。AIは認知負荷を軽減するはずだが、実際には回答からバイアスや幻覚をフィルタリングするために思考負荷を増大させる。すべてのユーザーが各AI回答の正確性と完全性を検証する認知的規律を持っているわけではない。AIがユーザーに対する歪んだ見解に基づいて情報を都合よく省略したり、回答を修正したりする可能性は否定できない。