従来の検索拡張生成（RAG）は、単一の検索と単一の生成というパターンを取ることが一般的です。質問を埋め込み、1 つのインデックスから最近傍のチャンクを取得し、モデルに渡して回答を生成します。この設計は多くの単純な質問には有効ですが、回答が複数のコーパスにまたがる場合、質問に応じて適切なデータソースを選択する必要がある場合、あるいは最初の結果を見てから再度検索する必要がある場合には機能しません。モデルは流暢だが不完全な回答を返したり、正しい情報を見つけられなかったりします。
エンタープライズ向けのエージェント型検索は、推論エージェントをループに組み込むことでこれらの問題を解決します。エージェントは検索が必要かどうか、どのナレッジベースを照会するか、回答を構成する前にさらに検索する必要があるかを判断します。Amazon Bedrock のマネージドナレッジベースは、この機能をサービスとして提供します。AgenticRetrieveStream API は、マルチターンの計画、ツール駆動型の検索を実行し、引用付きの根拠ある回答を返します。従来の顧客管理（DIY）ナレッジベースと比較して、マネージドナレッジベースはデータの取り込み、保存、インデックス作成、検索を自動的に処理します。埋め込みと再ランク付けもデフォルトでサービス管理モデルによって行われるため、ベクターデータベースをプロビジョニング、スケーリング、パッチ適用する必要がありません。さらに、エージェント型検索と AgentCore Gateway 統合はマネージドナレッジベースでのみ利用可能であり、エンタープライズ向けエージェント型検索を構築するための自然な基盤となります。
しかし、エージェント型システムは運用上の課題も伴います。エージェントは質問ごとに異なるパスをたどるため、デフォルトではその動作を観察したり、回答の品質を評価したりすることが困難です。したがって、可観測性と評価はオプションではなく、システムが確実に動作することを確認するための必須要素となります。このソリューションは AWS CDK でデプロイされ、7 層のテレメトリをカバーする 2 つの CloudWatch ダッシュボードを含み、オンデマンド評価と継続的評価の両方を提供します。すべてのインフラストラクチャはコードとして定義され、1 つのコマンドでデプロイできます。
アーキテクチャは 4 つの CDK スタックで構成されます。ナレッジベーススタックは 2 つのマネージドナレッジベース（金融と気象のコーパス用）を作成し、S3 からデータを自動的に取り込みます。ゲートウェイスタックは AgentCore Gateway を作成し、各ナレッジベースを MCP ツールとして公開します。エージェントスタックは AgentCore Runtime 上に推論エージェントをデプロイし、エージェントは質問に応じて適切なナレッジベースツールにルーティングします。最後に、可観測性スタックがダッシュボードと評価メカニズムを設定します。スタック間の依存関係は CDK のコンストラクト参照を通じて自動的に導出され、手動でデプロイ順序を管理する必要はありません。
ユーザーが質問をすると、エージェントはまずランタイムでリクエストを受信し、その推論モデルが計画を立てて適切なナレッジベースツールを選択します。ツール呼び出しは AgentCore Gateway を介して MCP プロトコルでブローカーされ、IAM ロールによって承認され、SigV4 で署名されて、マネージドナレッジベースの AgenticRetrieveStream API を呼び出します。この API はナレッジベース内で質問を分解し、反復的に検索し、引用付きの回答を合成して返します。エージェントは返されたコンテキストが十分かどうかを確認し、不十分な場合は再度ルーティングと検索を繰り返してから最終回答を生成します。プロセス全体で生成されるスパン、トークン数、メトリクスは CloudWatch と X-Ray に送信され、7 層の可観測性と評価スコアを支えます。
2024 年に公開された単一検索ソリューションと比較して、このソリューションは OpenSearch Serverless コレクションと OCU 容量の必要性を排除し、検索はエージェント型に進化し、リソースの約半分がエージェントの動作を監視するために使用されます。既存のベクターストアを再利用する必要がある場合や、特定のデータレジデンシー、チューニング、コンプライアンス要件を満たす必要がある場合には、顧客管理ナレッジベースが依然として適切な選択肢です。しかし、エンタープライズ向けエージェント型検索には、マネージドナレッジベースがその機能を可能にする鍵となります。CDK を使用することで、開発者はビジネスロジックに集中でき、インフラストラクチャの複雑さと依存関係の管理をフレームワークに任せることができます。