ChatGPT新記憶升級強大——但可能毒害它給你的每一個答案

OpenAI最近宣佈改進了ChatGPT的記憶管理功能，但ZDNET的測試發現，這項升級可能帶來新的問題。根據OpenAI的部落格文章，記憶功能現在不僅儲存使用者明確提供的事實，還會透過“夢境”（Dreaming）機制自動從聊天曆史中提取資訊，構建使用者畫像。然而，實際測試顯示，這些記憶可能包含過時、不準確甚至完全錯誤的細節，從而影響後續回答的質量。

記憶功能最初於2024年推出，當時只是簡單的事實列表。如今，它已演進到“夢境V3”版本，能夠掃描整個聊天曆史，進行資料綜合，甚至推斷使用者的偏好和背景。OpenAI聲稱，事實性任務召回成功率從2024年的41%提升到了2026年的82%，且偏好遵循率從31%提升到71%。同時，計算成本降低了5倍，使得該功能可以大規模推廣。

然而，ZDNET的測試揭示了嚴重問題。例如，作者發現ChatGPT錯誤地認為他使用了Home Assistant智慧家居平臺，而實際上他從未安裝過。此外，一些舊的、已過時的記憶（如關於Google Workspace賬戶的細節）仍然保留，且無法自動更新。OpenAI解釋稱，新版記憶顯示的是“高階總結”，而非完整事實列表，可能不包含所有細節，但這些細節仍會在相關對話中被使用。

在介面操作方面，使用者可以透過設定關閉記憶功能，但這僅停止新的夢境處理，已有記憶和聊天曆史不會被刪除。刪除儲存的記憶也需要使用者手動操作，而且即使刪除，聊天曆史中的資訊仍可能被AI引用。OpenAI還指出，即使在關閉記憶的情況下，安全相關的上下文仍可能被有限使用。

作者對這項功能表達了強烈擔憂。他認為，夢境V3基於過時或錯誤的聊天內容構建使用者畫像，且難以清理，可能增加使用者的認知負擔。更關鍵的是，AI可能根據扭曲的畫像過濾資訊，導致回答不完整或有偏見。文章強調，儘管“夢境V3”在技術上是一個突破，但它可能帶來不負責任的隱私和準確性風險。