エージェントツールは、開発者が複雑なタスクに取り組む方法を変えています。かつてはコンテナ化、推論サーバーの設定、モデル固有の環境構築に深い専門知識や長時間の自己学習が必要でしたが、今ではエージェントが知識のギャップを埋めてくれます。
NetflixがHuggingFaceにvoid-modelをリリースした日、著者のBlaine Kastenはすぐに試したいと考えました。このモデルは、動画からオブジェクトを除去し、影や反射だけでなく物理的な相互作用も処理します。以前なら、モデルを見つけてから実際に実行するまでに1〜2日の遅延がありましたが、今回はほぼゼロでした。
Goose(CLIエージェントランナー)とTogetherの専用コンテナスキルを組み合わせることで、1つのセッションでデプロイが完了しました。使用したプロンプトは「I want to deploy this model on togethers dedicated containers https://huggingface.co/netflix/void-model」のたった一文です。
手順は以下の通りです。まず、専用コンテナスキルをインストールし(npx skills add togethercomputer/skills)、Gooseセッションを開始してプロンプトを実行します。エージェントがHuggingFaceからモデル情報を取得し、適切な推論サーバー設定を決定、コンテナ設定ファイルを生成し、完全に動作可能なセットアップを自動で作成します。成果物は、誰でも利用可能なGitHubリポジトリ(blainekasten/together-void-model-container)として公開されました。
デプロイ後、Together CLIで推論をテストできます。例えばvoid-modelに動画を送信すると、リクエストIDが返され、推論完了後にホストされた動画のURLが出力されます。これはcURLとAPIキーを使ってダウンロード可能です。
Togetherの専用コンテナ推論(DCI)は、このワークフローを支える重要な要素です。DCIは、Togetherが完全に管理するプライベートなGPU環境を提供します。任意のモデルを実行でき、クラスターの構成やベンダーのサポート待ちは不要です。従量課金制の料金モデルにより、新しいモデルの実験も手軽に行えます。
新しいモデルを迅速に試したいチームにとって、DCIは柔軟で効率的なソリューションです。HuggingFaceのモデルを本番環境にデプロイするために、エージェントに1つのコマンドを与えるだけで済みます。