マイクロソフト、エンタープライズ規模でAIエージェントを展開

マイクロソフトは驚くべき規模でAIエージェントを展開しています。現在、8万を超える企業がマイクロソフトのFoundryプラットフォームを使用してAIエージェントやアプリケーションを構築、デプロイ、実行しています。マイクロソフト自身のCopilotも同じプラットフォーム上で動作しており、Microsoft 365 Copilotは2,000万以上のユーザーにサービスを提供し、ファーストパーティエージェントの月間アクティブ利用は今年に入って6倍に成長しています。

この規模でエージェントを提供するために必要なことを理解するため、マイクロソフトCore AIの製品担当バイスプレジデントであるMarco Casalaina氏に話を聞きました。彼は、チームが本番環境でこれらのシステムを運用して得た教訓、それに伴うエンジニアリングの課題、そしてエンタープライズAIの次の方向性について説明してくれました。

プロトタイプのエージェントは本番環境では生き残れません。モデルが問題になることはめったになく、問題はモデルの周囲にあるすべてのもの、つまりエージェントが検索するデータ、呼び出すツール、実際のユーザーへの対応方法、そして周囲の世界の変化に伴う品質の低下です。今年エージェントを提供しようとしている企業は、昨年とは異なるエンジニアリング問題に直面しています。

本番エージェントは単なるモデルではなく、システムの大部分はその周りに構築された機械装置（ハーネス）です。マルコ氏は、「私たちはAIの質問応答フェーズを卒業しつつあります。2026年には、多くの顧客がフロントエンドとして音声を使用しており、チャットボットの時代も終わりつつあります」と述べています。チャットボットからエージェントへの移行、質問応答から作業実行への移行により、エンジニアリングの問題は根本的に変化しました。チャットボットが間違った回答を返すのは悪い体験ですが、エージェントが間違った行動を取ることはビジネスインシデントです。

本番エージェントのハーネスは5つの主要な層で構成されています。推論層（交換可能なモデルへのインターフェース）、エージェントランタイム（オーケストレーションループとツール呼び出しを処理）、可観測性とガバナンス層（プロジェクト横断の可視性、健全性スコア、コスト管理）、アイデンティティ層（エージェントに独自のIDとアクセス制御を付与）、そしてコンテキスト層（エージェントが正しく回答できるようにする）です。マルコ氏は、エージェントに適切なコンテキストを提供することが彼のチームが解決している最も難しい問題の一つであり、マイクロソフトが正確に取り組んでいる分野であると明言しました。

マイクロソフトの解決策は、コンテキスト層自体をサービスのセットとして提供することです。これらは総称してMicrosoft IQと呼ばれます。Foundry IQは非構造化データを処理し、Fabric IQは構造化データ、Web IQはリアルタイムのWeb検索、Work IQはMicrosoft 365の生産性データ（メール、カレンダー、ドキュメント、Teamsを含む）を処理します。

さらに、エージェントには独自のIDと行動する場所が必要です。マイクロソフトはEntra IDプラットフォームを拡張し、エージェントを新しいタイプのプリンシパルとして扱い、ロール割り当てと監査証跡を提供します。エージェントには独自のデータストレージ（ワークスペース）もあり、記録、計画、状態を保存してセッションをまたいで記憶を保持できます。

評価と改善に関しては、マイクロソフトはルールベースとAIベースの評価方法を使用しています。自動改善ループを作成し、評価が応答の悪さを示した場合、改善指示を生成し、バックグラウンドで新しい例を合成し、評価を再実行し、合格した場合はテストセットに追加します。モデルの次の更新にはその例が含まれます。

他のチームへのアドバイスとして、マルコ氏は次のように述べています。早期に本番環境に投入すること、エージェントハーネスを構築すること、エージェントのIDとデータストレージを考慮すること、モデルにすべてを任せないこと、評価と自動改善に投資することです。