Google CloudのAlways-On Memory Agent：Gemini 3.1 Flash-Lite上での継続的LLM統合によるRAGと埋め込みの置き換え

Google Cloudの生成AIリポジトリは、AIエージェントの「忘却」問題に取り組むリファレンス実装「Always-On Memory Agent」を公開しました。従来のAIエージェントはリクエストを処理した後コンテキストを破棄しますが、Always-On Memory Agentはメモリを継続的に実行されるプロセスとして扱い、永続的なコンテキスト保持を実現します。

Always-On Memory Agentは、決して停止しない軽量バックグラウンドエージェントです。Google ADK（Agent Development Kit）とGemini 3.1 Flash-Lite上に構築されており、24時間365日継続的に動作します。特筆すべきは、ベクトルデータベースや埋め込みを一切使用しない点です。代わりに、LLMが構造化メモリをSQLiteに読み取り、思考し、書き込みます。モデル選択は、継続的なバックグラウンド作業における低レイテンシと低コストを目標としています。

アーキテクチャ的には、オーケストレーターが各リクエストを3つの専門サブエージェントのいずれかにルーティングします。各サブエージェントは、メモリストアの読み取りまたは書き込みのための独自のツールを持ちます。最初に、IngestAgentが受信コンテンツを処理します。Geminiのマルチモーダル機能を使用して、要約、エンティティ、トピック、重要度スコアを抽出し、構造化レコードをmemoriesテーブルに格納します。次に、ConsolidateAgentはタイマーで実行され、デフォルトでは30分ごとに動作します。スリープサイクルのように、未統合のメモリをレビューし、それらの間の接続を見つけます。その後、統合された要約、1つの重要な洞察、およびそれらの接続をデータベースに書き込みます。これにより、エージェントはアイドル状態でもプロンプトなしで新しい理解を構築します。最後に、QueryAgentが質問に答えます。すべてのメモリと統合された洞察を読み取り、応答を合成します。重要なのは、使用したメモリIDをソースとして引用することです。

テキストに加えて、IngestAgentは5つのカテゴリにわたる27のファイルタイプを受け入れます。サポートされているファイルを./inboxフォルダにドロップするだけで、自動的にピックアップされます。カテゴリには、テキスト（.txt、.md、.jsonなど）、画像（.png、.jpgなど）、音声（.mp3、.wavなど）、ビデオ（.mp4、.webmなど）、ドキュメント（.pdf）が含まれます。

Always-On Memory Agentは、一般的なメモリアプローチと比較してその利点を明確にします。ベクトルDB+RAGは埋め込みを受動的に保存し検索時に使用するのに対し、Always-On Memory Agentはメモリを積極的に処理します。会話要約は詳細を失い相互参照がないのに対し、このエージェントは統合を通じて接続を発見します。知識グラフは手動メンテナンスが必要で構築コストが高いのに対し、このエージェントは自動的かつ継続的に動作します。

実用的には、このパターンは永続的で進化するコンテキストを必要とするあらゆるワークロードに適合します。例えば、研究アシスタントはPDF、会議音声、スクリーンショットを一週間摂取し、後でコスト目標と信頼性問題を自らリンクできます。パーソナルナレッジベースはメモ、記事、画像を継続的に吸収し、統合によってユーザーが明示的に接続したことのないテーマを浮かび上がらせます。サポートエージェントは過去のチケットを構造化メモリとして保存し、以前のケースを引用して新しい質問に答えます。

セットアップは初級エンジニアでも最小限です。依存関係をインストールし、APIキーを設定してプロセスを起動します。実行後、エージェントは./inboxを監視し、30分ごとに統合し、ポート8888でHTTP APIを提供します。curlコマンドでテキストを送信したりクエリを実行したりできます。さらに、APIは/status、/memories、/consolidate、/delete、/clearエンドポイントを公開します。オプションのStreamlitダッシュボードは、インジェスト、クエリ、ブラウズ、削除コントロールを追加します。CLIフラグで監視フォルダ、ポート、統合間隔を変更できます。

要約すると、Always-On Memory Agentは、ベクトルデータベースや埋め込みを必要としない継続的なメモリ管理ソリューションを提供し、Google ADKとGemini 3.1 Flash-Liteをベースに、3つのサブエージェントを通じてインジェスト、統合、クエリを実現し、複数のファイルタイプをサポートし、簡単にデプロイおよび統合できます。