「ステートフルシステムの構築は極めて困難」：Perplexityが考えるAIエージェント用サンドボックス

Perplexityは、AIエージェント「Computer」向けのサンドボックスプラットフォーム「SPACE」を7月15日に発表しました。既存のFirecrackerなどの分離技術は優れていますが、同社は分離ではなく状態管理こそが課題であると判断。SPACEはFirecrackerマイクロVMとKubernetesを基盤とし、Btrfsコピーオンライトファイルシステムを採用することで、スナップショットやフォークを効率的に実行します。システムは毎分フルセッション状態（メモリ含む）のスナップショットを取得し、最大1週間前へのロールバックが可能です。インフラ責任者のNate Kupp氏によれば、既存ソリューションと比較して3倍以上のパフォーマンス向上と大幅なコスト削減を達成しました。

セキュリティ面では、RBAC、ジャストインタイムアクセス、ツールコール単位の制御を提供。管理者はエージェントの書き込みアクセスを完全に禁止でき、機密操作はユーザーの承認を必要とします。Kupp氏は、セキュリティとパフォーマンスはトレードオフではなく、顧客がリスクプロファイルに応じて調整できるノブを適切な場所に配置することが重要だと述べています。現在はハードウェアベースの機密コンピューティングは使用していませんが、Nvidiaと緊密に連携しています。

PerplexityはSPACEを将来的にAPI製品として提供し、異なるサイズのサンドボックスをサポートする予定です。3月にはKubernetes Podベースのコード実行サービス「Sandbox API」を発表し、プライベートベータを予定しています。また、Computerはサードパーティのサンドボックスでも動作するようになります。Kupp氏は、サンドボックスレイヤーからAPI、MCPに至るまで、スタックのすべてのレベルで拡張ポイントを設計したと述べています。

同社はローカルおよびハイブリッド展開にも取り組んでおり、NvidiaのRTX Sparkプラットフォームと協業し、オーケストレーションをラップトップにまで拡張する計画です。最近公開されたComputer用のオーケストレータモデル（研究プレビュー）は、オープンソースの中国製モデルGLM 5.2を後学習したもので、最先端モデルの3分の1のコストで同等の結果を提供します。Kupp氏は、最終的には経済性に基づいてローカルまたはクラウドにワークを振り分けるオーケストレータを目指しています。

エージェントセッションが数時間から数週間に延長されるにつれ、Kupp氏はGPUだけでなくCPUも制約になると予測しています。これまでGPU不足に焦点が当たってきましたが、今後はCPUクラスタと状態管理機構が新たなキャパシティ問題を引き起こす可能性があると指摘しています。