本文にスキップ
AI News HubLIVE
サイト内リライト7 分で読了

Amazon Bedrock Managed Knowledge Base上のAgentic Retrieveで記憶認識AIエージェントを構築する

記事の要約

Amazon Bedrock Managed Knowledge BaseとAgentCoreメモリの統合により、単一のAgenticRetrieveStream呼び出しで会話の復元、事実の抽出、長期記憶の活用が可能になり、ACLフィルタリングでマルチユーザー環境のドキュメントアクセス分離とメモリプライバシーを確保します。

ソースAWS Machine Learning Blog著者: Peng Yang
Amazon Bedrock Managed Knowledge Base上のAgentic Retrieveで記憶認識AIエージェントを構築する
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

知識ベースに基づくアプリケーションのユーザーは、単に検索が優れているだけでなく、アプリケーションが自分を覚えていることを期待しています。前のターンのコンテキストでのみ意味をなすフォローアップ質問をします。ポリシーや手順に関する回答が、先月アプリケーションに伝えた自分の情報を反映していることを期待します。そして、すべての回答が、自分が読むことを許可されているドキュメントに基づいており、引用付きであることを依然として期待しています。カスタマーサポートアシスタント、SaaS製品内のドキュメントチャット、社内ポリシーに関する内部アシスタントのいずれであっても、期待は同じです。

しかし、この期待に応えるのは困難です。検索を鋭くするコンテキストは、知識ベースの外に存在するからです。ユーザーの場所、役割、製品ティアは、数週間前の無関係な会話で言及されていることがよくあります。それを利用するには、アプリケーションはすべての会話を保存し、そこから永続的な事実を抽出し、現在の質問にどの事実が重要かを判断し、リクエストに注入する必要があります。多くのユーザーがアプリケーションを共有する場合、これらの各ステップをユーザーごとに分離する必要があり、すべてのドキュメントも同様です。

現在、Amazon Bedrock Managed Knowledge BaseとAmazon Bedrock AgentCoreメモリ(AgentCoreの機能)がこれらのステップを引き受けます。各会話の保存、そこからの事実抽出、関連する事実を検索に組み込むことです。AgenticRetrieveStreamリクエストにmemoryConfigurationを追加することでこれを有効にでき、AgentCoreメモリが知識ベースと並ぶ検索ソースになります。同じ呼び出し内で、サービスは会話を復元し、プランナーはユーザーに関する事実が役立つかどうかを自律的に判断します。長期メモリからその事実を取得し、知識ベースに送信するサブクエリの構成に使用します。回答を生成した後、サービスはターンをメモリに保存します。同じリクエストにはuserContextが含まれるため、知識ベースはユーザーのアクセス制御リスト(ACL)が許可するドキュメントのみを返します。この統合はオプトインで後方互換性があります。アプリケーションは、ユーザーの認証とユーザーIDの受け渡しという、本当に自分の責任である部分のみを保持します。

この投稿では、1つの知識ベースと1つのメモリリソースを共有する多数のユーザー向けに、このようなアシスタントを構築する方法を紹介します。各ユーザーは自分が読めるドキュメントのみを見ることができ、各ユーザーのメモリはプライベートに保たれます。実行例は、架空の企業AnyCompanyの内部従業員アシスタントです。従業員はAmazon Cognitoでサインインし、HRポリシー、ITガイド、エンジニアリングランブック、販売計画について質問します。Cognito IDトークンからユーザーIDを読み取り、それをAgenticRetrieveStreamに渡してドキュメントACLとメモリを実現する方法、多数のユーザー向けにメモリ名前空間を設計する方法、プランナーがメモリをいつ使用したかをトレースで確認する方法を示します。最後に、アプリケーションコードに誤りがあっても、AWS Identity and Access Management(IAM)がユーザーごとのメモリ分離を強制できるようにします。「Build multi-tenant agentic chat applications on enterprise data with Amazon Bedrock Managed Knowledge Base」でアプリケーションをデプロイした場合、この投稿はその「会話履歴を自分で永続化する」ステップを置き換えます。

ソリューションの概要

AnyCompanyはドキュメントをAmazon Simple Storage Service(Amazon S3)に保存しています。1つのマネージド知識ベースが、ACL対応のAmazon S3データソースを通じてそれらを同期します。同じバケット内のグローバルACLファイルは、各フォルダを読める従業員を指定します。全員がHRとITを読み、エンジニアのみがエンジニアリングランブックを読み、営業担当者のみが歩合プランを読むことができます。1つのAgentCoreメモリリソースがすべての従業員で共有されます。Amazon Cognitoが従業員を認証し、そのIDトークンは2つのクレームを提供します。sub(ユーザーID)はユーザーのメモリを識別し、検証済みメールアドレスは知識ベースのACLフィルターに対してユーザーを識別します。3人のテストユーザーがサインインします。エンジニアのMayaとLiam、営業担当者のSofiaです。この投稿のトレース抜粋は、GitHubリポジトリのサンプルアプリケーションの実行から取得したものです。

図1:記憶認識従業員アシスタントのアーキテクチャ。アプリケーションはユーザーを認証し、リクエストを構築します(ステップ1〜4)。Amazon Bedrock Managed Knowledge Baseはセッションを復元し、情報を取得し、回答を返し、やり取りをAgentCoreメモリに保存します(ステップ5〜8)。短期イベントと長期レコードは同じメモリリソースに属します。

  1. 従業員はCognitoでサインインし、ユーザープールによって署名されたJSON Web Token(JWT)であるIDトークンを受け取ります。
  2. アプリケーションのAPIはトークンを検証します。本番環境ではAmazon API Gateway JWTオーソライザー、サンプルでは小さなFastAPIサービスです。認証されていないリクエストはハンドラーに到達しません。
  3. ハンドラーは検証済みトークンから2つのクレームを読み取ります。subはメモリアクターIDと名前空間になり、emailはuserContext.userIdになります。クライアントのボディには{ question, sessionId? }のみが含まれます。次にハンドラーは、セッションタグuserId=を付けて、このユーザー用のアプリケーションのIAMロールを引き受けます。
  4. ハンドラーはAgenticRetrieveStreamを呼び出し、知識ベースをリトリーバーとして、userContextとこのユーザーにバインドされたmemoryConfigurationを渡します。
  5. Managed Knowledge Baseは、sessionBindingで識別されるアクターとセッションの短期メモリ(STM)から会話履歴を復元します。
  6. Managed Knowledge Baseは、userContextに基づいてACLフィルタリングを行いながら知識ベースから検索します。投機的検索やプランナーが選択したメモリ検索を通じて、ユーザーの構成済み長期メモリを検索することもできます。
  7. Managed Knowledge Baseは、引用付きの回答とトレースイベントをハンドラーにストリーミングします。ハンドラーは相関IDでトレースを記録し、回答とトレース情報をUIに転送します。
  8. persistenceMode: DEFAULTの場合、サービスは質問と生成された回答をセッションに保存します。その後、AgentCoreメモリは構成された戦略に従って長期レコードを非同期で抽出します。

図2:userContextとmemoryConfigurationを伴う1回のAgenticRetrieveStreamターン。最初と最後の矢印の間のすべてがサービスの仕事です。

Managed Knowledge Baseは、取り込み、ACLフィルタリング、インデックス作成、ランキング、プランニング、検索、生成を担当します。memoryConfigurationにより、セッション復元、メモリ検索、永続化も担当します。AgentCoreメモリは、ストレージ、保持、暗号化、抽出を担当します。アプリケーションは、認証、UI、トークンからのユーザーIDの読み取りを担当します。会話テーブルは存在しません。UIが会話を一覧表示または再開するとき、同じメモリリソースを読み取ります。

IDがリクエストにマッピングされる方法

すべての値はアプリケーションが検証済みIDトークンから導出します。リクエストボディから取得するものはありません。

| リクエストフィールド | 導出元 | スコープ | 強制方法 | |---------|--------|----------|--------| | userContext.userId | IDトークンのemail(プール内で検証済みかつ不変) | どのドキュメントを検索できるか | 知識ベースのACLフィルタリング | | memoryConfiguration.sessionBinding.actorId | IDトークンのsub | 誰の短期メモリを復元・書き込みするか、および長期名前空間の{actorId} | AgentCoreメモリのキーイングとIAM条件 | | memoryConfiguration.sessionBinding.sessionId | アプリケーションが新しい会話用に生成。ListSessionsで一覧表示 | そのアクター内のどの会話か | actorIdの下でキーイング | | memoryConfiguration.retrievalConfigs[0].namespacePath | /anycompany/ | プランナーが検索できる長期レコード | IAM条件 |

2つの異なるクレームが2つの異なる役割を果たします。知識ベースはメールアドレスでユーザーを識別します。それは接続されたデータソースがACLに記録するものだからです。メモリは決して変更されず、再利用されないactorIdを必要とします。Cognito subは両方を満たします。メールアドレスは変更されたり、従業員が退職した後に新しい従業員に再割り当てされたりする可能性があり、その人物が古いメモリを継承してしまいます。独自のユーザーストアの別の安定したユーザーIDをactorIdとして使用することもできます。重要なのは、それが別の人に移動しないことです。

前提条件

  • このチュートリアルでは、米国西部(オレゴン)リージョン(us-west-2)のマネージド知識ベースとAgentCoreメモリリソースを使用します。エージェント検索のドキュメントに記載されているように、この統合で使用するメモリリソースは、知識ベースと同じAWSアカウントにあり、ACTIVE状態である必要があります。
  • Python 3.10以降、およびBoto3 1.43.72以降。
  • S3バケット、Cognitoユーザープール、IAMロール、知識ベース、メモリリソースを作成する権限。サンプルのinfra/setup.pyはこれらすべてのリソースを冪等に作成します。

ソリューションのチュートリアル

以下のステップでは、知識ベースとそのデータソースを作成し、メモリリソースとAmazon Cognitoを設定し、リクエストを構築し、結果を確認するためにトレースを読み取ります。

ステップ1:ACL対応データソースを使用して知識ベースを作成する

マネージド知識ベースにはベクトルストアは不要です。「マネージドAmazon Bedrock知識ベースのサービスロールを作成する」に従ってサービスロールを設定し、そのARNをroleArnに渡します。モデルアクセスの要件については、マネージドおよびカスタムモデルの前提条件も確認してください。

kb = agent.create_knowledge_base(
    name="anycompany-assistant-docs",
    description="AnyCompany internal documents: HR policies, IT guides, engineering runbooks, sales plans.",
    roleArn=kb_service_role_arn,
    knowledgeBaseConfiguration={
        "type": "MANAGED",
        "managedKnowledgeBaseConfiguration": {"embeddingModelType": "MANAGED"},
    },
)["knowledgeBase"]

ドキュメントはバケットのdocs//の下にあります。Amazon S3にはクロールできる独自の権限システムがないため、同じバケット内のグローバルACLファイルにACLを提供します。各エントリはS3プレフィックスを、それを読むことができるメールアドレスにマッピングします。

[
  {"keyPrefix": "s3://BUCKET/docs/hr/",
   "aclEntries": [{"Name": "[email protected]", "Type": "USER", "Access": "ALLOW"},
                 {"Name": "[email protected]", "Type": "USER", "Access": "ALLOW"},
                 {"Name": "[email protected]", "Type": "USER", "Access": "ALLOW"}]},
  {"keyPrefix": "s3://BUCKET/docs/engineering/",
   "aclEntries": [{"Name": "[email protected]", "Type": "USER", "Access": "ALLOW"},
                 {"Name": "[email protected]", "Type": "USER", "Access": "ALLOW"}]},
  {"keyPrefix": "s3://BUCKET/docs/sales/",
   "aclEntries": [{"Name": "[email protected]", "Type": "USER", "Access": "ALLOW"}]}
]

サンプルファイルは全員にdocs/it/も提供します。次にデータソースを作成します。マネージド知識ベースの場合、すべてのコネクタのタイプはMANAGED_KNOWLEDGE_BASE_CONNECTORで、connectorParameters.typeがソースを選択します。

ds = agent.create_data_source(
    knowledgeBaseId=kb["knowledgeBaseId"],
    name="s3-docs-acl",
    dataSourceConfiguration={
        "type": "MANAGED_KNOWLEDGE_BASE_CONNECTOR",
        "managedKnowledgeBaseConnectorConfiguration": {
            "connectorParameters": {
                "type": "S3",
                "version": "1",
                "connectionConfiguration": {"bucketName": BUCKET, "bucketOwnerAccountId": ACCOUNT_ID},
                "filterConfiguration": {"inclusionPrefixes": ["docs/"]},
                "aclEnabled": True,
                "aclConfiguration": {"globalAccessControlListS3Uri": f"s3://{BUCKET}/acl/global-acl.json"},
            }
        },
    },
)["dataSource"]

データソースの作成後、aclEnabledは変更できません。CreateDataSourceは非同期であるため、ステータスがAVAILABLEになるまで待ちます。次にStartIngestionJobを呼び出し、COMPLETEを待ちます。同期はドキュメントとACLファイルを読み取り、各ドキュメントをそのACLとともにインデックス化します。サンプルでは、11個のドキュメントすべてがスキャンされ、0件の失敗でインデックス化されました。ACLエントリでカバーされていないドキュメントは取り込まれず、どのエントリにも一致しないメールアドレスのユーザーは、このデータソースから結果を受け取りません。

同じモデルは、Microsoft SharePoint、Google Drive、Atlassian Confluenceなど、ソースシステムから権限をクロールするコネクタにも適用されます。そこでは、権限はソースから取得され、グループはソースから解決され、知識ベースは各結果をソースに対してリアルタイムでチェックします。アプリケーションコードは変更されません。依然としてuserContextにユーザーのメールアドレスを渡します。完全なリストについては、アクセス制御リストの認識の有効化を参照してください。

ステップ2:メモリリソースを作成し、名前空間を設計する

1つのメモリリソースがすべてのユーザーにサービスを提供します。ユーザーごとの分離は、名前空間の設計から生まれます。長期レコードは{actorId}を含む名前空間の下に保存され、各ユーザーのメモリが混在しないようにします。IAMポリシーは特定の名前空間パスへのアクセスをさらに制限できるため、アプリケーションコードに誤りがあっても、ユーザーは自分のメモリにのみアクセスできます。

各ユーザーに一意のactorId(Cognito subなど)を割り当て、長期メモリ名前空間を/anycompany/{actorId}/のように設定することで、厳格なユーザーごとの分離を実現できます。本番環境では、IAM条件を追加して、リクエスト内のactorIdが呼び出し元のIDと一致することを要求し、サービスレベルで分離を強制します。

これにより、マルチユーザーで共有される知識ベースとメモリリソースが、ドキュメントレベルのACLとメモリプライバシーの要件を満たしながら、記憶認識エージェントを安全にサポートできます。

要点と分析を開く

記事インテリジェンス

エンジニア中級

要点

  • リクエストにmemoryConfigurationを追加するだけで、AgentCoreメモリが検索ソースとして有効になり、セッション復元と関連事実の抽出が自動化されます。
  • ユーザーIDマッピングではCognitoのsubをメモリのactorIdとして使用し、検証済みメールアドレスをナレッジベースのACLフィルタリングに使用することで、メモリとドキュメントアクセスの両方をユーザーごとに分離します。
  • ACLはS3のグローバルACLファイルで定義され、データソースでaclEnabledを有効にすると、各ドキュメントはACLとともにインデックス化され、権限のあるコンテンツのみが返されます。
  • 本番環境では、アプリケーションコードに誤りがあってもIAM条件によってユーザーごとのメモリ分離を強制する必要があります。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。