本演示展示了使用Amazon Managed Grafana儀表板的全面可觀測性解決方案，為部署在Amazon SageMaker AI端點上的LLM提供質量和數量兩個維度的整體檢視。該方案涵蓋基礎設施指標（如GPU利用率、延遲、成本）和LLM質量指標（如相關性、安全性、語氣），幫助團隊檢測模型退化、最佳化資源並控制成本。

我們使用 Google AI Studio 輕鬆編碼了一個關於 I/O 2026 重大發布的問答。本文介紹了一位編輯如何在不具備程式設計背景的情況下，利用 Gemini 和 Google AI Studio 建立這個互動問答。