Skyportal SRE – 開源AI基礎設施工程師

Skyportal SRE 是一個開源項目，旨在為 AI 基礎設施提供類似站點可靠性工程師（SRE）的自動化管理能力。該項目包含一個 Python SDK、一個命令行工具（CLI）以及一個可觀測性代理，幫助開發者和運維人員更高效地管理 GPU 集羣、監控實驗並自動處理常見運維任務。

Skyportal SDK 是 SkyPortal API 的官方 Python 客户端，用户可以通過簡單的 API 調用與 SkyPortal 平台交互。SDK 支持上下文管理器，方便管理 HTTP 會話，並提供了完善的錯誤處理機制，所有異常都繼承自 SkyportalError 基類，包括身份驗證錯誤、網絡連接錯誤和通用 API 錯誤。安裝方式簡單，只需 pip install skyportalai，Python 3.11 以上版本即可使用。

CLI 提供了兩種模式：交互式命令中心和自動化腳本工具。交互式命令中心通過 skyportal 命令啓動，支持登錄、選擇服務器、管理聊天會話等操作。自動化 CL 基於 Typer，提供穩定的 JSON 輸出，適合腳本集成。用户可以通過 skyportalai chat send 等命令發送指令並等待結果。CLI 配置存儲在 ~/.skyportal/config.yaml 中，支持多種環境變量覆蓋。

可觀測性代理（skyportal-agent）能夠自動發現 W&B 和 MLflow 的實驗元數據，將其緩存在磁盤隊列中並上傳到 SkyPortal。該代理具備配置/標籤編輯功能，可過濾敏感信息，但操作者仍需謹慎設置掃描目錄和保護狀態文件。代理適合在實驗數據捲上運行，幫助團隊集中追蹤實驗進展。

項目還提供了一個 AI 驅動的運維代理，服務器端運行，通過 chat 接口處理內部審批流程。用户創建聊天后，代理會自動執行命令並等待確認，支持手動或自動審批。該代理集成了可觀測性端點，可訪問事件、工具調用、推理過程、計劃和環境信息。目前項目處於 Alpha 階段，API 可能在未來版本中演變，但所有變更都會在 GitHub 發佈中記錄。