Skyportal SRE – 開源AI基礎設施工程師

Skyportal SRE 是一個開源專案，旨在為 AI 基礎設施提供類似站點可靠性工程師（SRE）的自動化管理能力。該專案包含一個 Python SDK、一個命令列工具（CLI）以及一個可觀測性代理，幫助開發者和運維人員更高效地管理 GPU 叢集、監控實驗並自動處理常見運維任務。

Skyportal SDK 是 SkyPortal API 的官方 Python 客戶端，使用者可以透過簡單的 API 呼叫與 SkyPortal 平臺互動。SDK 支援上下文管理器，方便管理 HTTP 會話，並提供了完善的錯誤處理機制，所有異常都繼承自 SkyportalError 基類，包括身份驗證錯誤、網路連線錯誤和通用 API 錯誤。安裝方式簡單，只需 pip install skyportalai，Python 3.11 以上版本即可使用。

CLI 提供了兩種模式：互動式命令中心和自動化指令碼工具。互動式命令中心透過 skyportal 命令啟動，支援登入、選擇伺服器、管理聊天會話等操作。自動化 CL 基於 Typer，提供穩定的 JSON 輸出，適合指令碼整合。使用者可以透過 skyportalai chat send 等命令傳送指令並等待結果。CLI 配置儲存在 ~/.skyportal/config.yaml 中，支援多種環境變數覆蓋。

可觀測性代理（skyportal-agent）能夠自動發現 W&B 和 MLflow 的實驗後設資料，將其快取在磁碟佇列中並上傳到 SkyPortal。該代理具備配置/標籤編輯功能，可過濾敏感資訊，但操作者仍需謹慎設定掃描目錄和保護狀態檔案。代理適合在實驗資料捲上執行，幫助團隊集中追蹤實驗進展。

專案還提供了一個 AI 驅動的運維代理，伺服器端執行，透過 chat 介面處理內部審批流程。使用者建立聊天后，代理會自動執行命令並等待確認，支援手動或自動審批。該代理整合了可觀測性端點，可訪問事件、工具呼叫、推理過程、計劃和環境資訊。目前專案處於 Alpha 階段，API 可能在未來版本中演變，但所有變更都會在 GitHub 釋出中記錄。