Exowattは、AIデータセンターなどのエネルギー集約型アプリケーションに信頼性の高い電力を供給する、モジュール式でディスパッチ可能な太陽光システムを構築しています。旗艦製品であるExowatt P3は、光学レンズで太陽エネルギーを捕捉し、長時間の熱電池に熱として貯蔵し、熱エンジンを通じてオンデマンドで電力を供給します。系統連系の太陽光発電システムとは異なり、P3はデータセンターのメーター裏で直接電力を供給し、データセンターが何年にもわたる系統連系待ち行列を待たずに稼働できるようにします。Exowattは、太陽光システムの運用決定を支援し、リアルタイムのアラームを監視・トリアージするAIエージェントのフリートを構築しています。多くの場合、エッジで、接続が限られているか全くない状態で動作します。フリートがテストベンチから製造、そして数千台の現場展開ユニットへと拡大するにつれ、これらのシステムを運用するインテリジェンス層もそれに合わせて拡張する必要があります。
この記事では、ExowattがAmazon SageMaker AIのサーバーレスモデルカスタマイズを使用して、反復可能なAIパイプラインを構築した方法を紹介します。このパイプラインは、エッジとクラウドの2つの展開ターゲット向けにタスク特化のファインチューニング済みモデルを生成し、最大49倍の低コストでフロンティアモデルよりも高い精度を達成します。
ここで説明する2つのモデルは、パイプラインの最初の出力であり、最終目標ではありません。より永続的な成果はパイプライン自体です。つまり、生の運用データから認定トレーニングセット、ファインチューニング済みモデル、評価済みの展開アーティファクトへの反復可能なパスです。Exowattは現在、このパスを数ヶ月ではなく数日で実行できます。アラームトリアージとエネルギー市場分析は、同じアプローチが適用できる多くの狭く価値の高いタスクのうちの2つにすぎません。
課題:物理的エネルギーインフラストラクチャ上のAI
Exowattのエネルギー管理システム(EMS)は、増え続ける運用サイト全体で実行されています。各サイトは継続的にアラームを発します。ハードウェアコンポーネントの仕様外動作、接続切断、範囲外の電圧読み取りなどです。フリートが数千台の現場ユニットに向けて拡大するにつれ、人間のオペレーターはすべてのサイトをリアルタイムで監視できなくなります。Exowattは、各サイトのアラーム状態を読み取り、正しい次のアクションを自律的かつ確実に実行または推奨できるAIエージェントを必要としていました。
フロンティアモデルではこの問題を解決できませんでした。理由は3つあります。
タスクは狭く専有的です。ExowattのEMS上のアラームトリアージは、特定のハードウェア、データ、運用ロジックに依存します。汎用フロンティアモデルはこれに特化していません。
GPUなし、多くの場合インターネットなしでエッジで実行する必要があります。多くのサイトは接続が限られているか断続的であるため、フロンティアモデルへのクラウド呼び出しに依存するエージェントは、接続が切断されるとオペレーターをカバーできなくなります。
コストはフリートレベルでスケールしません。数千のサイトにわたるすべての運用決定をフロンティアモデルにルーティングすることは、継続的に繰り返される決定に対して経済的ではありません。
ここでExowattはモデルカスタマイズに目を向けました。Exowattの初期のファインチューニングワークフローは、オープンウェイトモデルの選択、コンテナの構築、カスタムトレーニングレシピの作成に依存しており、実験を実行する前に大きな障害がありました。さらに、モデルファインチューニングのGPUハードウェア要件を決定する必要がありました。チームが実験のペースを上げるにつれ、各実行はまず特定のGPUインスタンスタイプを選択し、その自己選択した容量が利用可能になるのを待つ必要がありました。選択したインスタンスタイプが利用できない場合、実行の開始が遅れたり、完全にブロックされたりする可能性がありました。
彼らは、GPUなしのエッジコントローラーで実行できるほど小さく、しかも特定のタスクでフロンティアモデルと比較して自律的に動作できるほど正確なモデルを必要としていました。ファインチューニングがそのギャップを埋めました。クラウドでもエッジでも展開可能な、コンパクトでタスク特化のモデルです。
ソリューションの概要
Exowattは、Amazon SageMaker AI上でクラウドネイティブのサーバーレスモデルカスタマイズアプローチを採用することで、これらの課題に対処しました。同じトレーニングパイプラインが、エッジとクラウドの2つの展開ターゲット向けにファインチューニング済みモデルを生成します。
Exowattはこのアプローチを最初のユースケースであるエッジアラームトリアージ用にQwen3-1.7Bモデルに実装し、次に2番目のユースケースであるクラウドエネルギー市場分析用にQwen3-14Bモデルに同じアプローチを適用しました。同社はこのソリューションを再利用して、フリート全体でより小さなタスク特化モデルを構築する予定です。
図1:Exowattのファインチューニングと展開のパイプライン(ビルド、クラウド提供、エッジ提供の各ステージにまたがる)
以下の7つのAWSサービスがAIパイプラインを支え、管理するインスタンス、クラスター、エンドポイントはありません。
AWSサービス | 目的 Amazon Simple Storage Service (Amazon S3) | データ、マニフェスト、モデルアーティファクト、テストセット Amazon SageMaker AIサーバーレスファインチューニング | Public Hubレシピから起動される各ファインチューニング実行 Amazon SageMaker AIサーバーレス評価 | 候補ごとに2,000の回答をマネージドジョブとしてスコアリング SageMaker Model Registry | 完了した各ファインチューニングとその証拠およびメトリクス Amazon Bedrock Custom Model Import | クラウドEMS用にファインチューニング済みQwen3-14Bをホストし、クラウドEMSサービスからプライベートに呼び出し。アイドルコストなし Amazon Bedrock (Claude, Qwen3) | 言い換え(トレーニングデータの各回答に3つの書き換え)とフロンティアモデルのベンチマーク
アラームトリアージの言い換えにはAmazon Bedrock上のQwen3-VL-235Bを使用。エネルギー市場の言い換えにはAmazon Bedrock上のClaude Sonnet 4.6を使用。
AWS Lambda + Amazon EventBridge | サーバーレス評価スコアラーとカスタムモデルのスケジュールされたウォームキープ呼び出し
ワークフローは3つのステージに編成されています。
モデルカスタマイズ(クラウド):Exowattは、SageMaker AI上のサーバーレスモデルカスタマイズ、低ランク適応(LoRA)、教師ありファインチューニング(SFT)を使用してオープンウェイトのベースモデルをファインチューニングします。サーバーレストレーニングはオンデマンドで容量を割り当てるため、チームは自己選択したGPUを待つ代わりに1日に複数の実験を実行できます。評価後、最良のモデルがSageMaker AI Model Registryに登録されます。
エッジ展開:アラームトリアージのようなレイテンシに敏感で接続が制約された作業では、ファインチューニング済みQwen3-1.7Bモデルをフリーズし、GGUF形式に量子化し、サイト内コントローラーを使用してエッジのKubernetesポッド内でllama.cppで実行します。このパスはGPUを必要とせず、インターネット接続なしで動作します。
クラウド展開(エラスティック):インターネット接続されたフリートレベルの分析では、ファインチューニング済みQwen3-14Bエネルギー市場モデルがAmazon Bedrock Custom Model Importを通じて提供され、アイドルコストなしで実行され、モデルがアクティブな間のみ課金されます。
Amazon SageMaker AIサーバーレスモデルカスタマイズを選ぶ理由
Amazon SageMaker AIサーバーレスモデルカスタマイズサービスは、SageMaker Public Hubからの既製のファインチューニングレシピを備えた幅広いオープンウェイトモデルを提供するため、チームはカスタムトレーニングコンテナの構築と最適化を避けることができました。これは通常数週間かかる作業です。Exowattにとって、これはファインチューニングを希少でスケジュールされたイベントから日常的なオンデマンド操作に変えました。これにより、実験コストを低く抑えながら、迅速な実験とテストのループが実用的になります。
プロビジョニングされたGPUでのファインチューニングでは、特定のインスタンスタイプを選択し、その容量を要求し、利用可能になるのを待ち、ジョブを実行し、インスタンスを保持している間ずっと支払う必要があります。保持時間には通常、専用インスタンスが実行され続ける実験間のアイドル時間が含まれます。多くの実験を実行する小規模チームにとって、これはイノベーションを遅らせ、コストを増加させます。Amazon SageMaker AIサーバーレスモデルカスタマイズは、ファインチューニングジョブの実行に必要なインフラストラクチャを自動的に管理およびオーケストレーションし、容量管理の煩わしさを排除し、ファインチューニングジョブが実行されている時間に対してのみ課金します。
ユースケース1:Qwen3-1.7Bによるエッジアラームトリアージ
Exowattのサイトは24時間体制でアラームを発します。コンパクトなオンサイトモデルは、各アラームをサイト自体のステータスとテレメトリとともに読み取り、少数の固定分類の1つを引用証拠(システムオフライン、コンポーネントのデレーティング、センサーの不一致など)とともに返すか、証拠が不十分な場合は明示的に棄権します。
モデル選択とトレーニングデータ
チームはまずQwen3-8Bをプロンプトとガードレールで試しましたが、目標を下回って頭打ちになりました(マクロF1 0.735)。ファインチューニング済みQwen3-1.7Bがそれを変えました。この狭い単一ターンのタスクで、約5分の1のパラメータ数でQwen3-8Bとプロンプトの設定を上回り、GPUなしのエッジ推論に十分な小ささを保ちました。12のデータセットバージョンにわたる13のファインチューニング済みQwen3-8B候補は、プロンプトされた8Bベースラインを決して上回りませんでした。より小さなモデルとより多様なデータが成功しました。
トレーニングセットは小規模で厳選されていました。生成されたサイトシナリオに対する684の検証済み決定と、各決定を固定したまま文章を書き換えた1,838の認定言い換えから構築された2,522の例です。言い換えはAmazon Bedrock上のQwen3-235Bによって約3.72ドルで生成されました。各言い換えは、決定、ラベル、証拠引用、およびすべての数値が変更されていないことを決定論的チェックが確認した場合にのみ保持されました(2,218の候補のうち1,838が合格)。1つの障害ファミリーはトレーニングから完全に除外され、320のケースがテスト用に予約されました。
トレーニングと展開
トレーニングはSageMakerサーバーレスファインチューニングで約32分、約20〜25ドルで完了しました。8ビット(約1.71 GiB)に量子化されたモデルは、サイトの既存CPUサーバー上の6 GiBのllama.cppポッドでオフラインで実行されます。また、t3.2xlargeインスタンスタイプでも実行できます。
ユースケース2:Qwen3-14Bによるクラウドエネルギー市場分析
ディスパッチ可能なストレージは、タイミングを運用上の決定に変えます。各サイトは、負荷のために蓄えられたエネルギーをどれだけ保持し、いつ放出するかを継続的に決定する必要があり、系統連系サイトでは市場状況がその選択に影響します。ファインチューニング済みモデルは、6時間のライブ市場データパケット(リアルタイム価格、前日予測、系統通知の約90行)を読み取り、約4秒で5つの市場イベントの1つ(価格急騰や希少性加算など)を返します。すべての主張は特定のデータ行に結び付けられ、ディスパッチ戦略に情報を提供します。
Qwen3-14Bを選んだ理由
Qwen3-14Bは、Amazon Bedrock Custom Model Importでサポートされ、既製のLoRAレシピを備えたSageMaker Public Hubモデルとして提供され(カスタムコンテナやインスタンスタイプの管理が不要)、約28 GiBとコスト効率よく提供できる大きさであるため選ばれました。
トレーニングデータとプロセス
Exowattは、5年間の履歴(12のテーブルにわたる約1億6,300万行)から抽出した公開Electric Reliability Council of Texas (ERCOT)市場データでモデルをファインチューニングしました。チームはこのデータをルールベースでラベル付けし、25,000の例(トレーニング用22,000、検証用1,000、テスト用に2,000を保留)を生成しました。次に、Amazon Bedrock上のAnthropic Claude Sonnet 4.6に各例の文章を書き換えさせ、ラベルと数値フィールドは固定したまま、トレーニングセットを86,281行に拡張しました。
トレーニングは単一のLoRAエポック(ランク16、アルファ32)で、管理されたサーバーレスファインチューニングの約8.5時間で完了し、最大4つのジョブが同時に実行されました。チームは初期計画からクラウドEMSでチャンピオンモデルが提供されるまでの6日間に、23のジョブと約155時間の管理トレーニングを実行しました。
決定的な改善は言い換えの多様性からもたらされました。各回答に3つの書き換えを追加することで、マクロF1が0.950から0.975に向上しました。ベースモデルはわずか0.415のマクロF1でした。有効なJSONを生成しましたが、まだ市場を理解していませんでした。ファインチューニングがそれを修正しました。
展開
マージされたチェックポイントは約14分でAmazon Bedrock Custom Model Importにインポートされました。モデルはアイドルコストなしで実行され、アクティブな間のみ1時間あたり6.86ドルで課金されます。
ベンチマーク結果
エッジアラームトリアージタスクでは、ファインチューニング済みQwen3-1.7Bは、有効な回答を生成できなかったモデルから、320のテストケースで0.911のマクロF1に到達し、すべてのフロンティアベースラインを上回りました。同じファインチューニングと評価のループを2,000のテストケースでエネルギー市場タスクに適用すると、Qwen3-14Bは0.975のマクロF1に達し、再びフロンティアベースラインを上回りました。