AIインフラがエージェントエクスペリエンスのために進化すべき理由 — Modal CTO Akshat Bubna氏インタビュー

Modal社は最近、総額3億5500万ドルのシリーズCラウンドを完了し、AIインフラ分野で注目を集めています。Latent Spaceのポッドキャストで、Modalの共同創業者兼CTOであるAkshat Bubna氏が、従来のクラウドインフラがなぜもはや適切ではないのか、そしてModalがどのように開発者体験（DX）からエージェント体験（AX）へとシフトしているのかについて語りました。

Bubna氏は、従来のクラウドインフラは人間の開発者向けに設計されており、彼らはドキュメントを読んだり、YAMLを理解したり、ダッシュボードを使って問題を診断したりできました。しかし、AIエージェントにはそのような余裕はありません。エージェントはコードを書き、実行し、出力を確認し、環境を変更し、デバッグして再試行するための、より統合された環境を必要とします。迅速なイテレーションとフィードバックループ、そして必要なすべてのコンテキストが不可欠です。サンドボックスはこの変化を明確に示しており、エージェントは簡単に分離された環境を起動できます。

Modalの起源は、Kubernetesの限界への洞察にあります。KubernetesはWebサーバーのユースケース向けに設計されており、スケーリングが遅く、バースト的な計算タスクの管理が困難です。Bubna氏は、Modalは当初、より優れたランタイムを構築することを目指しており、サーバーレス関数とデコレータベースのインフラを提供することで、開発者がYAMLを書く手間を省き、インフラ要件をコードと一緒に配置できるようにしたと語ります。ChatGPTが登場する1年前には、ModalはすでにGPUをサポートしていましたが、AIワークロードがこれほど爆発的に増加するとは予想していませんでした。

現在、Modalは開発者体験からエージェント体験へと重点を移しています。SDKチームは、エージェントがModalをより効率的に利用できる方法を模索しています。Bubna氏は、エージェントがコードを自律的に記述する時代には、オブザーバビリティがより重要になると強調します。人間が状況を監視し判断するための、優れたダッシュボードとCLIツールが必要です。Modalのコア機能には、弾性推論、GPUスナップショット、コールドスタート最適化、投機的デコード（DeFlash）、自動エンドポイント、そしてRLロールアウトなどの大規模サンドボックス（最大10万個のサンドボックスを同時実行）が含まれます。

技術的な詳細に加えて、Bubna氏はModalの「スーパークラウド」戦略についても説明しました。これは17のクラウドプロバイダーのキャパシティプールを統合し、プライベートIPv6、RDMA、マルチノードトレーニングなどのネットワーク最適化を提供するものです。本番環境のエージェントには、ハードガードレール、専用サンドボックス、マネージドエージェントサービスを重視し、安全性と信頼性を確保しています。

最後に、Bubna氏はAIがインフラを再びエキサイティングなものにしたと述べています。ModalはモデルAPI、差別化された製品、エージェントビデオ処理などの最先端分野を探求し続け、Modal Benchを通じてコミュニティにベンチマークを提供する予定です。次世代のAIアプリケーションを構築しようとする企業にとって、Modalは適切なクラウドインフラのあり方を再定義しています。