Skyportal SRE – オープンソースのAIインフラエンジニア

Skyportal SRE は、AI インフラストラクチャにサイト信頼性エンジニア（SRE）のような自動化管理をもたらすオープンソースプロジェクトです。このプロジェクトには、Python SDK、コマンドラインツール（CLI）、および可観測性エージェントが含まれており、開発者や運用者が GPU クラスターを効率的に管理し、実験を監視し、一般的な運用タスクを自動化するのに役立ちます。

Skyportal SDK は SkyPortal API の公式 Python クライアントで、ユーザーは簡単な API 呼び出しで SkyPortal プラットフォームと対話できます。SDK はコンテキストマネージャーをサポートし、HTTP セッションを管理しやすくし、すべての例外が SkyportalError 基本クラスから継承された完全なエラーハンドリングメカニズムを提供します（認証エラー、ネットワーク接続エラー、汎用 API エラーを含む）。インストールは pip install skyportalai で簡単で、Python 3.11 以上が必要です。

CLI は2つのモードを提供します：インタラクティブなコマンドセンターと自動化スクリプトツールです。インタラクティブコマンドセンターは skyportal コマンドで起動し、ログイン、サーバー選択、チャットセッションの管理などの操作をサポートします。自動化 CLI は Typer ベースで、安定した JSON 出力を提供し、スクリプト統合に適しています。ユーザーは skyportalai chat send などのコマンドで指示を送信し、結果を待つことができます。CLI 設定は ~/.skyportal/config.yaml に保存され、複数の環境変数で上書き可能です。

可観測性エージェント（skyportal-agent）は W&B や MLflow の実験メタデータを自動的に発見し、ディスクバックアップキューにバッファリングして SkyPortal にアップロードします。このエージェントは設定/タグ編集機能を備え、機密情報をフィルタリングできますが、運用者は依然としてスキャンルートを制限し、状態ディレクトリを保護する必要があります。エージェントは実験データボリュームでの実行に適しており、チームが実験の進行状況を集中して追跡するのに役立ちます。

プロジェクトには、サーバーサイドで動作する AI 駆動の運用エージェントも含まれており、チャットインターフェースを介して内部承認プロセスを処理します。ユーザーがチャットを作成すると、エージェントは自動的にコマンドを実行し、確認を待ちます。手動または自動承認が可能です。このエージェントは可観測性エンドポイントと統合されており、イベント、ツール呼び出し、推論プロセス、計画、環境情報にアクセスできます。現在プロジェクトはアルファ段階であり、API は将来のバージョンで変更される可能性がありますが、すべての変更は GitHub リリースで文書化されます。