今天，我們很高興地宣佈Amazon SageMaker AI MLflow Apps現已支援MLflow版本3.10，為生成式AI開發帶來了增強功能，並簡化了實驗追蹤。基於Amazon SageMaker AI MLflow Apps建立的基礎，這一最新版本引入了強大的可觀測性、評估和生成式AI開發新功能，幫助資料科學家和機器學習工程師加速從實驗到生產的AI計劃。
本文將探討MLflow v3.10的新功能、入門指南以及如何利用這些增強功能構建生成式AI應用。
MLflow v3.10的新功能
MLflow 3.10引入了一系列針對性的改進，擴充套件了MLflow 3.0建立的追蹤和可觀測效能力，特別關注生成式AI應用開發和代理工作流。在生成式AI方面，該版本改進了對複雜多輪工作流的追蹤，與流行LLM框架和庫的更緊密整合，以及簡化了生成式AI互動和呼叫的日誌記錄。評估功能透過mlflow.genai.evaluation() API得到顯著升級，該API提供了程式化介面，用於在整個開發到生產生命週期中系統化地測量和維護生成式AI質量，內建相關性、忠實度、正確性和安全性指標，所有這些都與SageMaker AI工作流無縫整合。
可觀測性改進包括更細粒度的追蹤過濾和搜尋、更豐富的後設資料捕獲用於除錯和根因分析，以及預置效能儀表板，可一目瞭然地顯示工作負載級指標——延遲分佈、請求計數、質量分數和令牌使用情況——無需手動配置圖表，為執行生產工作負載的團隊提供運營成本的清晰可見性，同時MLflow工作空間提供了一種結構化的方式來跨團隊和專案組織MLflow工件。
這些改進與SageMaker AI相結合，提供了企業級的生成式AI基礎設施，使得跟蹤實驗、監控生成式AI效能以及大規模維護AI應用的治理變得簡單直接。
在SageMaker AI MLflow App v3.10上入門
對於新使用者，透過SageMaker Studio控制台、AWS CLI或API建立SageMaker AI MLflow App非常簡單。預設配置會自動預置MLflow 3.10，讓您立即訪問所有最新功能。
您可以透過AWS管理控制台、AWS命令列介面（AWS CLI）或API開始使用Amazon SageMaker AI MLflow Apps上完全託管的MLflow 3.10。
前提條件
要開始使用，您需要：
• 一個啟用了計費的AWS賬戶
• 一個Amazon SageMaker Studio AI域。要建立域，請參閱《Amazon SageMaker AI入門指南》。
接下來，導航到Amazon SageMaker AI Studio控制台，選擇MLflow應用程式。
選擇建立MLflow App並輸入名稱。這裡，我們已為您配置了AWS身份和訪問管理（IAM）角色和Amazon Simple Storage Service（Amazon S3）儲存桶，使用SageMaker Studio域的預設設定。您只需在高階設定中修改它們（如果需要）。
建立完成後，您將收到一個MLflow Amazon資源名稱（ARN）用於連線，並可以立即開始使用新建立的SageMaker AI MLflow App（MLflow v3.10）以及您現有的程式碼，或者您可以按照以下步驟將程式碼連線到SageMaker AI MLflow Apps。
要開始使用新建立的SageMaker AI MLflow App跟蹤實驗，您需要在環境中安裝MLflow和AWS SageMaker MLflow外掛。您可以使用SageMaker Studio託管的Jupyter Lab、SageMaker Studio程式碼編輯器、本地整合開發環境（IDE）或其他支援的環境，您的AI工作負載在這些環境中與SageMaker AI MLflow Apps協同工作。
使用pip安裝兩個Python包：
pip install mlflow==3.10.1 sagemaker-mlflow==0.3.0
要連線並開始直接將AI實驗、引數和模型記錄到SageMaker AI MLflow Apps，請參閱以下程式碼片段開始使用您的工作負載。注意，將下面的Amazon資源名稱（ARN）替換為您的SageMaker AI MLflow App ARN。
import mlflow
連線到您的SageMaker MLflow App
mlflow_app_arn = "" mlflow.set_tracking_uri(mlflow_app_arn)
設定實驗
mlflow.set_experiment("your_genai_experiment")
您現有的程式碼繼續工作，並具有增強功能
新功能自動可用
遷移
如果您在SageMaker或其他地方有現有的MLflow追蹤伺服器或App，您可以按照部落格文章《將MLflow追蹤伺服器遷移到Amazon SageMaker AI與無伺服器MLflow》中的說明遷移到新的3.10應用程式。
結論
Amazon SageMaker AI MLflow Apps中引入MLflow v3.10代表了企業AI開發更高效、可觀察和可管理的重要一步。透過訪問Amazon SageMaker AI Studio並建立您的第一個MLflow App，開始使用Amazon SageMaker AI MLflow Apps。
新的MLflow v3.10也得到了Amazon SageMaker AI無伺服器模型定製和SageMaker Unified Studio的支援，並提供了額外的工作流靈活性。
透過AWS re:Post for SageMaker或您通常的AWS支援聯絡人分享您的反饋。