OpenAIは2026年9月22日、GPT-6向けのプロンプトキャッシュ強化を発表した。GPT-6は、コードベースのリファクタリングから調査に基づく文書やプレゼンテーションの作成まで、複雑なタスクに数時間単位で取り組む常駐型エージェントを支える。こうしたエージェントの背後では、同一の指示、ツール定義、過去の文脈を引き継ぎながらAPIリクエストが連鎖する。OpenAIはこの共有コンテキストをキャッシュして計算を再利用し、応答時間を短縮するとともに、キャッシュされた入力トークンに最大90%の割引を提供する。
GPT-6ファミリーの投入に合わせ、OpenAIは既定でヒット率が高まるよう改良したプロンプトキャッシュを導入した。対象となる共有プレフィックスが30分のウィンドウ内で再利用されればキャッシュ割引が適用される。さらに、キャッシュの性能を監視し、ミスの原因を診断し、プロンプトのどこまでをキャッシュするかを選べる新ツールも追加した。
GitHubのChief Product Officer、Mario Rodriguez氏は次のように述べている。「OpenAIのプロンプトキャッシュは、GitHub Copilotが大規模に高速で効率的な体験を提供する上で極めて重要な役割を果たしている。ここ数カ月で、OpenAIモデルに対する数十億件のリクエストにおいて、新たな処理を必要とするプロンプトトークンの割合を以前のベースラインから50%以上削減した。その結果、より効率的な推論スタックと、開発者にとっての初回応答時間の短縮につながっている」。
新ツールのうちPrompt Caching Dashboardは、アプリケーションの入力のうちどれだけがキャッシュから供給されているかを表示する。ヒット率の推移を追跡でき、入力構成チャートでキャッシュ済みトークンと未キャッシュのトークンを比較できる。ヒット率の低下に気づいたり、アプリケーションの変更がキャッシュ性能に与える影響を評価したりするのに役立つ。
予期しないキャッシュミスが起きた場合は、プロンプトキャッシュ診断ツールで原因を調べられる。現在のリクエストを直近の応答と比較し、モデル、ツール、設定、入力のどの変化が再利用を妨げたのかを特定できる。影響を受けたトークンの推定数も示され、影響の規模を見積もり、統合方法を最適化してヒット率を最大化する判断に役立つ。
キャッシュ範囲の制御では、明示的なキャッシュブレークポイントによって再利用するプロンプトプレフィックスを開発者自身が選べる。更新されたプロンプトキャッシュガイドでは、ブレークポイントの使い方、キャッシュされたプレフィックスが有効であり続ける期間、ツールや入力の変更が再利用に与える影響が説明されている。
またGPT-6モデルでは、キャッシュを壊さずに推論強度を調整できる。リクエスト単位のreasoning effortは変えずにconfiguration_updateを追加することで、難しいタスクでは強度を上げ、定型的な追加質問では下げられる。再利用可能なコンテキストを保ちながら、タスクに必要な推論量を調整できる。
ツールや指示が変わってもキャッシュを保つため、OpenAIはツール定義、スキーマ、順序を安定させて以前のコンテキストを再利用可能なままにすることを勧める。allowed_toolsで関連するツールだけを呼び出し可能にし、ツールが不要なときは定義を削除するのではなくtool_choiceをnoneに設定する。新しい指示はコンテキストの後方に新しいdeveloperメッセージとして追加し、以前の指示を上書きする。プリウォーミングを使えば既知のコンテキストを事前に準備でき、例えば起動時に共有の指示、ツール定義、参考資料を温めておくことで、処理をユーザーの待ち時間の外に移せる。こうした任意の制御はエンジンの既定性能の上に成り立ち、ワークロードに合わせたキャッシュ設計を可能にする。
導入企業からは実測値も示されている。Strawberry BrowserのCTO、Arian Hanifi氏は、診断ツールとダッシュボードによってキャッシュヒット率を数ポイント改善し、コストを20%削減できたと述べる。キャッシュが予期せず壊れた際にはアラートが鳴り、Codexエージェントで根本原因を特定できる。明示的なブレークポイントにより、安定したコンテキストをキャッシュしつつ頻繁に変わる内容をプロンプト末尾に置けるようになり、バックグラウンドタスク用に会話を分岐させることが経済的に可能になったという。ManusのAgent Team Lead、Bin Fan氏は、OpenAIのエンジニアリングチームと協力してブレークポイントの位置を最適化し、明示的キャッシュと自動キャッシュを組み合わせ、実際のリクエストで予期しないミスを突き止めた結果、1週間足らずでOpenAIモデルのキャッシュヒット率が約85%から90%超で安定するようになり、本番環境の推論コストがさらに下がったと述べている。WordsmithのAIエンジニア、Eugene Mikhantyev氏は、明示的なキャッシュブレークポイントへ移行したことで、評価におけるヒット率が1週間で83%から91%に上昇し、同じワークロードでキャッシュ書き込みが約3分の2減り、推論コストが36%下がったとしている。
OpenAIは開発者に対し、Prompt Caching Dashboardでヒット率を監視し、診断ツールで異常なミスを調査し、プロンプトキャッシュガイドを参照して設定を改善するか、Codexを使ってコードをレビューし改善を適用して結果を測定することを勧めている。