業界を問わず、意思決定は何が変化しているのか、そしてその理由を理解することから始まります。産業組織は運用全体の意思決定に役立つデータを収集しています。このデータは生産停止の防止、車両故障の診断、データセンター性能低下の説明、需要と供給の変化に応じた価格調整に役立ちます。しかし、そのデータを解釈するには専門家の時間が必要であり、データを多く集めてもチームが行動できるとは限りません。Claude や ChatGPT のような汎用言語モデルはデータ分析に役立ちますが、数百の運用指標にわたる長い履歴をテキストや画像として処理すると大量のトークンを消費し、コストが増加します。
この課題に対処するため、Aionic Labs は OpenTSLM を含む時間基盤モデルを開発しています。OpenTSLM はオープンソースの時系列言語モデル(TSLM)ファミリーです。これらのモデルは、機器センサーデータから需給データに至る運用測定値を、保守記録、市場ニュース、エンジニアの観察などのコンテキストとともに解釈します。これにより、TSLM は最近の測定値から出現しつつある問題を認識するのに役立ちます。専門家はフォローアップの質問をして、何が変化したかを理解し、対応方法を評価できます。TimeNet は時系列データの共有データ基盤であり、これらのモデルのトレーニングと評価に使用されるデータセットを見つけ、構築し、ロードするための単一のフォーマットと API を提供します。両者を組み合わせることで、組織はシステムがどのように変化しているかを理解し、問題が高コストになる前に行動できます。
OpenTSLM は現在 Amazon SageMaker JumpStart で利用可能であり、独自の AWS 環境にモデルをデプロイできます。この記事では、Nexthink と Aionic Labs がこの機能をプロアクティブな IT 支援にどのように活用しているかを探り、OpenTSLM をデプロイし、TimeNet を使用して独自のデータに適応させる方法を示します。
顧客事例:Nexthink におけるプロアクティブな IT サポート
Nexthink と Aionic Labs は、従業員が助けを求める前に支援を受けられるデジタルワークプレイスを目指しています。中心となるのは Nexthink のパーソナル IT エージェントである Spark で、時系列言語モデルによって強化され、デバイスの遠隔測定とコンテキストを従業員が経験する問題に結びつけます。Spark はその理解を行動に変えます。考えられる問題を確認し、適切な修正方法を従業員に案内し、結果をフォローアップします。プロアクティブな支援が仕事を円滑に進める一部となります。
ワークフローは、CPU アクティビティ、メモリ使用量、空きディスク容量、アプリケーションの安定性、接続性などの最近のデバイス時系列データを、タイムスタンプ付きイベントやデバイス・ソフトウェアのコンテキストと組み合わせます。TSLM は数値測定値とテキストコンテキストを受け取り、観測ウィンドウ全体で信号がどのように変化するかを解釈します。
TSLM は Spark に 3 つの出力を提供します。
状態サマリー:考えられる問題とそれを裏付ける信号パターンを説明し、デバイスの動作と従業員の経験を結びつけます。
推奨アクション:問題を確認するためのチェックと、Spark が従業員に提供する実用的なアクションを指定します。
予想結果:意図する改善と、Spark が結果を確認する方法を説明します。
デバイスの遠隔測定とコンテキストは、高い CPU またはメモリ負荷下での性能低下、アプリケーションの繰り返しフリーズやクラッシュ、ファイルの同期失敗など、さまざまな問題の調査を支援します。リソース使用量、アプリケーションイベント、ストレージ測定値、接続アクティビティが異なる証拠を提供します。デバイス構成とソフトウェアバージョンと組み合わせることで、TSLM は従業員の経験を説明し、Spark の次のチェックを指示するためのより広い基盤を得ます。
図 2 の低ディスク容量の例では、TSLM は空き容量の減少、ディスクキューの増加、アプリケーションハングの頻発を、遅いコンピューターやファイル保存の困難などの従業員の症状と結びつけます。Spark は残り容量と、IT 承認のクリーンアップで一時ファイルを削除できるかどうかを確認します。チェックでクリーンアップが適切であることが確認されると、Spark は削除対象を従業員に示して確認を求めます。従業員が確認すると、Spark はクリーンアップを実行し、現在の空き容量を確認し、問題が改善されたかどうかを尋ねます。問題が続く場合、Spark は調査結果を IT サポートに渡すことを提案します。
TSLM はシステムがどのように変化するかを理解し、その理解に基づく行動を支援します。Spark にとって、これは出現しつつある IT 問題を認識し、従業員を解決策に導くことを意味します。同じアプローチで、製造、エネルギー、コネクテッド製品に時系列インテリジェンスをもたらし、測定値とコンテキストを説明とインテリジェントな意思決定に変えます。
ソリューション概要
図 3 のアーキテクチャは、時系列アプリケーション向けの再利用可能なデプロイパターンを提供します。SageMaker JumpStart がモデルの検出とデプロイのパスを提供します。
SageMaker JumpStart は機械学習(ML)モデルハブであり、ML ジャーニーを加速します。SageMaker JumpStart では、新たに利用可能になった OpenTSLM モデルを含む事前トレーニング済み基盤モデル(FM)を評価、比較、デプロイできます。AWS AI オファリングの一部として、SageMaker JumpStart はカスタマイズ可能な ML ソリューションを提供し、AWS インフラストラクチャ内の Amazon SageMaker AI 推論エンドポイントにデプロイできます。これは、サーバーレス API による基盤モデル推論と、カスタマイズ、ナレッジベース、エージェント、ガードレールなどの機能を提供する Amazon Bedrock を補完します。
SageMaker AI と SageMaker JumpStart の主な技術的利点は次のとおりです。
事前構築済み推論コンテナ – GPU アクセラレーションを備えた AWS Deep Learning Containers により、独自のイメージを構築せずにモデルを提供できます。
自動スケーリングエンドポイント – マネージドインフラストラクチャがリクエスト量とレイテンシ要件に基づいてコンピューティングリソースをスケーリングします。
推論 API – 標準化された API 呼び出し、SDK、AWS Identity and Access Management(IAM)統合を備えた SageMaker リアルタイム推論エンドポイント。
統合モニタリング – スループット、レイテンシ、リソース使用率に関する組み込みメトリクスと Amazon CloudWatch 統合。
エンタープライズセキュリティ – IAM アクセス制御とネットワーク分離オプションを備えた Amazon Virtual Private Cloud(VPC)デプロイ。
SageMaker JumpStart のモデルは OpenTSLM-Flamingo です。これは Gemma 3 4B 言語モデルと時系列エンコーダー、および言語モデルがエンコードされた時系列に注意を向けるためのクロスアテンションレイヤーを組み合わせています。モデルは合計 52.4 億パラメータで、bfloat16 で保存されるため、重みは約 10.5 GB の GPU メモリを占めます。
アプリケーションは数値時系列とテキストコンテキストを準備し、SageMaker エンドポイントを呼び出し、モデルの応答を受け取ります。アプリケーションはその応答を専門家に提示するか、別のワークフローの入力として使用できます。
この分離により、アプリケーションは観測ウィンドウを制御し、関連する信号を選択し、使用前に応答を検証できます。また、モデルを独立して適応可能にします。新しいチェックポイントを代表的なケースで評価してから、アプリケーションを切り替えることができます。
さらに、TimeNet 経由でロードした ARFBench データを使用して、Hugging Face の事前トレーニング済み OpenTSLM チェックポイントを微調整するチュートリアルを示します。ノートブックは SageMaker トレーニングジョブを送信し、TimeNet 経由で ARFBench をロードしてモデルを微調整します。Amazon Simple Storage Service(Amazon S3)が結果のモデルアーティファクトを保存し、それが評価用の別の SageMaker リアルタイム推論エンドポイントにデプロイされます。
前提条件
デプロイのウォークスルーには、Amazon SageMaker AI ドメインと SageMaker AI 実行ロールを持つ AWS アカウントを使用します。ロールは、サポートされているリージョンで SageMaker モデルとエンドポイントを作成できる必要があります。たとえば、AmazonSageMakerFullAccess マネージドポリシーを持つロールです。シングルユーザー向けのクイックセットアップでは両方が作成されます。マネージドポリシーは開始するための広範な権限を付与します。本番環境では、Amazon SageMaker AI の ID ベースポリシーの例に記載されているように、必要な権限のみを付与するポリシーを使用してください。OpenTSLM は少なくとも 24 GB のメモリと bfloat16 サポートを備えた単一 GPU で動作し、32 GB のホストメモリを推奨します。デフォルトのインスタンスタイプは ml.g6.2xlarge(1 つの NVIDIA L4 GPU、24 GB メモリ、32 GB ホストメモリ)です。SageMaker JumpStart では、OpenTSLM は ml.g6.4xlarge、ml.g6.8xlarge、ml.g5.2xlarge、ml.g5.4xlarge、ml.g5.8xlarge、ml.g6e.xlarge、ml.g6e.2xlarge もサポートします。Service Quotas コンソールで、「ml.g6.2xlarge for endpoint usage」または選択したインスタンスタイプのクォータを確認してください。少なくとも 1 のクォータが必要です。低い場合は増加をリクエストしてください。モデルアクセスの要件については OpenTSLM JumpStart モデルカードを参照してください。
微調整には、Amazon SageMaker Studio の JupyterLab、または AWS 認証情報を設定したローカル Jupyter 環境を使用して、トレーニングジョブを送信する付属のノートブックを実行します。ノートブックは SageMaker のデフォルト S3 バケットと実行ロールを使用します。微調整は ml.g7e.2xlarge で実行されるため、「ml.g7e.2xlarge for training job usage」のクォータも確認してください。トレーニングはジョブのマネージド GPU インスタンスで実行されます。ノートブック自体には GPU は不要です。必要に応じて、選択した Hugging Face チェックポイントへのアクセスを取得してください。
SageMaker JumpStart で OpenTSLM をデプロイする
SageMaker Studio で OpenTSLM をデプロイするには、次の手順を実行します。
SageMaker Studio で、ナビゲーションペインの [Models] を選択し、[JumpStart models] を選択します。
「OpenTSLM」を検索し、[OpenTSLM-Flamingo Gemma 3 4B] を選択します。モデルページには、モデル ID、ライセンス、リクエストとレスポンスの形式が表示されます。
[Deploy] を選択します。
[Deploy model to endpoint] フォームで、[License agreement] の下の Gemma Terms of Use を確認し、エンドユーザーライセンス契約(EULA)に同意するチェックボックスを選択します。デフォルトのインスタンスタイプ ml.g6.2xlarge を維持するか、別のサポートされているインスタンスタイプを選択します。次に [Deploy] を選択します。
エンドポイントのステータスが InService になるまで待ちます。テストでは約 6 分かかりました。エンドポイント名(jumpstart-dft- で始まる)をメモします。リクエストの送信とクリーンアップに必要です。
Python で SageMaker Python SDK v3 を使用してデプロイを作成することもできます。次の例では ModelBuilder を使用します。モデルはゲートされているため、accept_eula=True を設定するとライセンス(Gemma Terms of Use)に同意したことになります。デプロイ前に利用規約を確認してください。SDK はモデルの構築時にそのリンクを出力します。
from sagemaker.core.helper.session_helper import get_execution_role from sagemaker.core.jumpstart.configs import JumpStartConfig from sagemaker.serve.model_builder import ModelBuilder from sagemaker.train.configs import Compute
MODEL_ID = "pytorch-reasoning-opentslm-flamingo-gemma3-4b" INSTANCE_TYPE = "ml.g6.2xlarge" # 1 x NVIDIA L4 (24 GB); ml.g5.2xlarge and ml.g6e.2xlarge also work ROLE_ARN = get_execution_role() # in SageMaker Studio; elsewhere, set your execution role ARN
builder = ModelBuilder.from_jumpstart_config( jumpstart_config=JumpStartConfig(model_id=MODEL_ID, accept_eula=True), compute=Compute(instance_type=INSTANCE_TYPE), role_arn=ROLE_ARN, ) builder.build(model_name="opentslm-blog-demo") endpoint = bui
[省略]