本日、Amazon SageMaker AI MLflow AppsがMLflowバージョン3.10をサポートすることを発表し、生成AI開発の強化と実験追跡の合理化をもたらします。Amazon SageMaker AI MLflow Appsで確立された基盤の上に構築されたこの最新バージョンは、可観測性、評価、生成AI開発のための強力な新機能を導入し、データサイエンティストとMLエンジニアが実験から本番までのAIイニシアチブを加速するのに役立ちます。
この記事では、MLflow v3.10の新機能、SageMaker AI MLflow Appsの開始方法、およびこれらの拡張機能を活用して生成AIアプリケーションを構築する方法について説明します。
MLflow v3.10の新機能
MLflow 3.10は、MLflow 3.0で確立されたトレーシングと可観測性の機能を拡張するターゲットを絞った一連の改善を導入し、特に生成AIアプリケーション開発とエージェンティックワークフローに焦点を当てています。生成AI面では、このリリースは複雑なマルチターンワークフローのトレーシング改善、人気のLLMフレームワークとライブラリとの緊密な統合、生成AIインタラクションと呼び出しの合理化されたロギングを提供します。評価はmlflow.genai.evaluation() APIを通じて大幅にアップグレードされ、開発から本番までのライフサイクル全体で生成AIの品質を体系的に測定および維持するためのプログラムインターフェースを提供し、関連性、忠実性、正確性、安全性をカバーする組み込みメトリクスがSageMaker AIワークフローとシームレスに統合されます。
可観測性の改善には、より詳細なトレースフィルタリングと検索、デバッグと根本原因分析のためのリッチなメタデータキャプチャ、手動チャート設定なしでレイテンシ分布、リクエスト数、品質スコア、トークン使用量などのワークロードレベルメトリクスを一目で表示する事前構築済みパフォーマンスダッシュボードが含まれ、本番ワークロードを実行するチームに運用コストの明確な可視性を提供するとともに、MLflowワークスペースはチームやプロジェクト間でMLflowアーティファクトを整理する構造化された方法を提供します。
これらの改善はSageMaker AIと組み合わさり、エンタープライズグレードの生成AIインフラストラクチャを提供し、実験の追跡、生成AIパフォーマンスの監視、および大規模なAIアプリケーションのガバナンス維持を簡単にします。
SageMaker AI MLflow App v3.10の開始方法
新規ユーザーは、SageMaker Studioコンソール、AWS CLI、またはAPIを通じてSageMaker AI MLflow Appを作成するのは簡単です。デフォルト構成は自動的にMLflow 3.10をプロビジョニングし、すべての最新機能に即座にアクセスできます。
AWS管理コンソール、AWS Command Line Interface（AWS CLI）、またはAPIを通じて、Amazon SageMaker AI MLflow Apps上で完全マネージドのMLflow 3.10を開始できます。
前提条件
開始するには、以下が必要です：
• 請求が有効なAWSアカウント
• Amazon SageMaker Studio AIドメイン。ドメインを作成するには、「Amazon SageMaker AIのセットアップガイド」を参照してください。
次に、Amazon SageMaker AI Studioコンソールに移動し、MLflowアプリケーションを選択します。
「MLflow Appを作成」を選択し、名前を入力します。ここでは、SageMaker Studioドメインのデフォルトを使用して、AWS Identity and Access Management（IAM）ロールとAmazon Simple Storage Service（Amazon S3）バケットの両方がすでに設定されています。必要に応じて、詳細設定でのみ変更する必要があります。
作成が完了すると、接続用のMLflow Amazon Resource Name（ARN）が提供され、新しく作成されたSageMaker AI MLflow App（MLflow v3.10）を既存のコードとともにすぐに使用開始するか、以下の手順に従ってコードをSageMaker AI MLflow Appsに接続できます。
新しく作成されたSageMaker AI MLflow Appで実験の追跡を開始するには、環境にMLflowとAWS SageMaker MLflowプラグインの両方をインストールする必要があります。SageMaker Studio管理のJupyter Lab、SageMaker Studioコードエディタ、ローカル統合開発環境（IDE）、またはSageMaker AI MLflow AppsでAIワークロードが動作する他のサポート環境を使用できます。
pipを使用して両方のPythonパッケージをインストールします：
pip install mlflow==3.10.1 sagemaker-mlflow==0.3.0
AI実験、パラメータ、モデルをSageMaker AI MLflow Appsに直接接続してログ記録を開始するには、以下のコードスニペットを参照してワークロードを開始してください。以下のAmazon Resource Name（ARN）をSageMaker AI MLflow App ARNに置き換えてください。
import mlflow
SageMaker MLflow Appに接続
mlflow_app_arn = "" mlflow.set_tracking_uri(mlflow_app_arn)
実験を設定
mlflow.set_experiment("your_genai_experiment")
既存のコードは拡張機能とともに引き続き動作
新機能は自動的に利用可能
移行
SageMakerまたは他の場所に既存のMLflow追跡サーバーまたはAppがある場合は、ブログ記事「MLflow追跡サーバーをAmazon SageMaker AIにサーバーレスMLflowで移行する」の手順に従って、新しい3.10アプリに移行できます。
結論
Amazon SageMaker AI MLflow AppsでのMLflow v3.10の導入は、エンタープライズAI開発をより効率的で観測可能かつ管理可能にする重要な前進です。Amazon SageMaker AI Studioにアクセスして最初のMLflow Appを作成することで、Amazon SageMaker AI MLflow Appsを開始してください。
新しいMLflow v3.10は、Amazon SageMaker AIサーバーレスモデルカスタマイズおよびSageMaker Unified Studioでもサポートされており、追加のワークフロー柔軟性を提供します。
AWS re:Post for SageMakerまたは通常のAWSサポート窓口を通じて、フィードバックをお寄せください。