今天，我們很高興地宣佈Amazon SageMaker AI MLflow Apps現已支持MLflow版本3.10，為生成式AI開發帶來了增強功能，並簡化了實驗追蹤。基於Amazon SageMaker AI MLflow Apps建立的基礎，這一最新版本引入了強大的可觀測性、評估和生成式AI開發新功能，幫助數據科學家和機器學習工程師加速從實驗到生產的AI計劃。
本文將探討MLflow v3.10的新功能、入門指南以及如何利用這些增強功能構建生成式AI應用。
MLflow v3.10的新功能
MLflow 3.10引入了一系列針對性的改進，擴展了MLflow 3.0建立的追蹤和可觀測性能力，特別關注生成式AI應用開發和代理工作流。在生成式AI方面，該版本改進了對複雜多輪工作流的追蹤，與流行LLM框架和庫的更緊密集成，以及簡化了生成式AI交互和調用的日誌記錄。評估功能通過mlflow.genai.evaluation() API得到顯著升級，該API提供了程序化接口，用於在整個開發到生產生命週期中系統化地測量和維護生成式AI質量，內置相關性、忠實度、正確性和安全性指標，所有這些都與SageMaker AI工作流無縫集成。
可觀測性改進包括更細粒度的追蹤過濾和搜索、更豐富的元數據捕獲用於調試和根因分析，以及預置性能儀表板，可一目瞭然地顯示工作負載級指標——延遲分佈、請求計數、質量分數和令牌使用情況——無需手動配置圖表，為運行生產工作負載的團隊提供運營成本的清晰可見性，同時MLflow工作空間提供了一種結構化的方式來跨團隊和項目組織MLflow工件。
這些改進與SageMaker AI相結合，提供了企業級的生成式AI基礎設施，使得跟蹤實驗、監控生成式AI性能以及大規模維護AI應用的治理變得簡單直接。
在SageMaker AI MLflow App v3.10上入門
對於新用户，通過SageMaker Studio控制台、AWS CLI或API創建SageMaker AI MLflow App非常簡單。默認配置會自動預置MLflow 3.10，讓您立即訪問所有最新功能。
您可以通過AWS管理控制台、AWS命令行界面（AWS CLI）或API開始使用Amazon SageMaker AI MLflow Apps上完全託管的MLflow 3.10。
前提條件
要開始使用，您需要：
• 一個啓用了計費的AWS賬户
• 一個Amazon SageMaker Studio AI域。要創建域，請參閲《Amazon SageMaker AI入門指南》。
接下來，導航到Amazon SageMaker AI Studio控制台，選擇MLflow應用程序。
選擇創建MLflow App並輸入名稱。這裏，我們已為您配置了AWS身份和訪問管理（IAM）角色和Amazon Simple Storage Service（Amazon S3）存儲桶，使用SageMaker Studio域的默認設置。您只需在高級設置中修改它們（如果需要）。
創建完成後，您將收到一個MLflow Amazon資源名稱（ARN）用於連接，並可以立即開始使用新創建的SageMaker AI MLflow App（MLflow v3.10）以及您現有的代碼，或者您可以按照以下步驟將代碼連接到SageMaker AI MLflow Apps。
要開始使用新創建的SageMaker AI MLflow App跟蹤實驗，您需要在環境中安裝MLflow和AWS SageMaker MLflow插件。您可以使用SageMaker Studio託管的Jupyter Lab、SageMaker Studio代碼編輯器、本地集成開發環境（IDE）或其他支持的環境，您的AI工作負載在這些環境中與SageMaker AI MLflow Apps協同工作。
使用pip安裝兩個Python包：
pip install mlflow==3.10.1 sagemaker-mlflow==0.3.0
要連接並開始直接將AI實驗、參數和模型記錄到SageMaker AI MLflow Apps，請參閲以下代碼片段開始使用您的工作負載。注意，將下面的Amazon資源名稱（ARN）替換為您的SageMaker AI MLflow App ARN。
import mlflow
連接到您的SageMaker MLflow App
mlflow_app_arn = "" mlflow.set_tracking_uri(mlflow_app_arn)
設置實驗
mlflow.set_experiment("your_genai_experiment")
您現有的代碼繼續工作，並具有增強功能
新功能自動可用
遷移
如果您在SageMaker或其他地方有現有的MLflow追蹤服務器或App，您可以按照博客文章《將MLflow追蹤服務器遷移到Amazon SageMaker AI與無服務器MLflow》中的説明遷移到新的3.10應用程序。
結論
Amazon SageMaker AI MLflow Apps中引入MLflow v3.10代表了企業AI開發更高效、可觀察和可管理的重要一步。通過訪問Amazon SageMaker AI Studio並創建您的第一個MLflow App，開始使用Amazon SageMaker AI MLflow Apps。
新的MLflow v3.10也得到了Amazon SageMaker AI無服務器模型定製和SageMaker Unified Studio的支持，並提供了額外的工作流靈活性。
通過AWS re:Post for SageMaker或您通常的AWS支持聯繫人分享您的反饋。