Amazon Bedrock 上の OpenAI GPT-5.6 モデル向け明示的プロンプトキャッシングの導入

この記事は OpenAI の Chris Dickens との共著です。

OpenAI GPT-5.6 Sol、Terra、Luna が Amazon Bedrock で一般提供開始されました。Amazon Bedrock 上の GPT-5.6 により、最新世代の OpenAI フロンティアモデルを、従量課金制、AWS のセキュリティとガバナンス管理、既存の AWS コミットメントへの利用料金計上とともにご利用いただけます。このファミリーは3つの能力層をカバーします。GPT-5.6 Sol は最も複雑な推論とエージェンティックコーディング、GPT-5.6 Terra はバランスの取れた日常的な本番ワークロード、GPT-5.6 Luna は分類や要約といった高速・高スループットタスク向けです。

新モデルとともに、GPT-5.6 は Amazon Bedrock 上で明示的プロンプトキャッシングを導入します。これは、プロンプトのどの部分をキャッシュしてリクエスト間で再利用するかを正確に制御できる新機能です。キャッシュされた入力は90%割引で課金され（Amazon Bedrock 価格ページ参照）、30分間再利用可能です。エージェンティックワークフローでは、システム指示、ツール定義、参照ドキュメントが多数の呼び出しで繰り返されるため、最大のメリットが得られます。

この記事では、GPT-5.6 の Amazon Bedrock 上の明示的プロンプトキャッシングを紹介し、暗黙的キャッシングとの違いと各モードの使用タイミング、設定方法と動作確認、エージェンティックワークフローでのパフォーマンスを示します。また、現在 Amazon Bedrock 上または別のプラットフォームで動作している初期の GPT モデルから GPT-5.6 へのワークロード移行方法についても説明します。

GPT-5.6 の開始

GPT-5.6 モデルは、Amazon Bedrock の bedrock-mantle エンドポイント上の OpenAI 互換 Responses API を通じて提供されます。認証には AWS 認証情報から生成された短期ベアラートークンが推奨されます。トークンジェネレーターをインストール：pip install openai aws-bedrock-token-generator し、クライアントを作成します。

最小リクエスト例：client.responses.create を使用し、モデル ID（例：openai.gpt-5.6-terra）、指示、入力を指定。3つのモデル ID は openai.gpt-5.6-sol、openai.gpt-5.6-terra、openai.gpt-5.6-luna です。Sol は米国東部（バージニア北部）および米国東部（オハイオ）で利用可能。Terra と Luna はさらに米国西部（オレゴン）でも利用可能です。

推論努力の制御

GPT-5.6 は reasoning effort レベル（none、low、medium、high、xhigh）をサポートし、デフォルトは medium です。高いレベルはより難しい問題により多くの推論を割り当て、none は単純なタスクに最低遅延のパスを提供します。初期モデルからのアップグレード時は、現在の effort レベルから始め、1段階低いレベルをテストしてください。GPT-5.6 はよりトークン効率が高く、多くのワークロードで低い effort 設定でも品質を維持できます。

ストリーミング応答

SDK の標準インターフェースを通じてストリーミングが機能し、型付きイベントとして出力を配信します。

ツール呼び出しと構造化出力

関数呼び出しと厳密な JSON スキーマ出力は、OpenAI ネイティブ API と同じように機能します。ツール定義は Responses API のフラットフォーマットを使用します。構造化出力には厳密な JSON スキーマを渡すと、モデルはそれに準拠した有効な JSON を返します。

プロンプトキャッシングの使用

GPT-5.6 は、暗黙的モードと明示的モードの2つのキャッシュモードをサポートします。暗黙的モードでは、Amazon Bedrock が自動的にキャッシュブレークポイントを配置し、再利用可能なプレフィックスを探します。明示的モードでは、prompt_cache_breakpoint、prompt_cache_key、prompt_cache_options パラメータを使用してキャッシュ境界を自分でマークします。キャッシュプレフィックスは少なくとも1024トークン必要で、リクエストあたり最大4つのブレークポイントを設定できます。

キャッシュ動作の確認

各応答は usage.input_tokens_details オブジェクトでキャッシュの動作を報告します：cached_tokens（キャッシュから読み取られた入力トークン、90%割引）と cache_write_tokens（キャッシュに書き込まれた入力トークン、1.25倍のレート）。最初のリクエストでプレフィックスがキャッシュに書き込まれ、以降のリクエストで読み取られます。

キャッシュモードの選択

prompt_cache_options の mode パラメータで暗黙的か明示的かを切り替えます。暗黙的モードはコード変更不要で、単純なシナリオに適しています。明示的モードは安定したプレフィックスが長く頻繁に再利用されるワークフローに適しています。ストリーミングモードでは暗黙的キャッシュのみがサポートされることに注意してください。

既存ワークロードの移行

移行手順：既存の OpenAI パラメータを Responses API にマッピングし、システムプロンプトを安定化してキャッシュを活用し、reasoning effort を調整し、テストして検証します。応答形式が異なるため、instructions とシステムメッセージの違いに注意してください。

クリーンアップ

テスト完了後、継続的な費用を避けるために AWS リソースを削除します。