多変数データを大規模に推論するための時系列言語モデル（ICML）
OpenTSLMは、時系列をネイティブモダリティとして扱うマルチモーダルLLMであり、テキストと共に生の多変数信号を推論できます。時系列QA、活動認識、睡眠段階分類、ECG QAタスクで、GPT-4oを含むベースラインを上回る性能を示しました。モデルは複数の長い時系列に拡張可能で、メモリ消費はほぼ一定です。ECG推論は7人の循環器専門医により検証され、97%の正答率を示しました。すべてのコード、データセット、モデルはオープンソースです。
OpenTSLM（Open Time Series Language Model）は、スタンフォード大学、ETHチューリッヒ、Google Researchなどの研究機関が共同開発した新しいマルチモーダル大規模言語モデルです。ICML 2025に採択され、言語モデルが数値文字列やグラフ画像に変換することなく、生の時系列データを直接理解できるようにすることを目指しています。
時系列言語モデル（TSLM）の概念に基づき、OpenTSLMはテキストとともに生の多変数信号を入力として受け取り、推論を行います。画像を扱うマルチモーダルチャットモデルと同様に、1つ以上の信号を添付し、異なる長さやサンプリングレートの信号を組み合わせ、自由形式の質問に答えたり、比較や予測をしたりすることができます。
OpenTSLMは、テキストと時系列を融合する2つの手法（SoftPromptとFlamingo）を提案しており、Gemma3およびLlama3.2のバックボーンを使用して270M、1B、3Bの規模で実験を行いました。SoftPromptは時系列トークンを言語モデルの入力に直接配置するのに対し、Flamingoはクロスアテンションを用いて、言語モデルがコンパクトな時系列表現をクエリすることで、各信号点をテキストトークンとして処理する必要をなくします。
実験では、OpenTSLMは、時系列値をテキスト化する方法、微調整、プロット表示、GPT-4oによる画像入力など、現在の主流手法と比較されました。結果、OpenTSLMは時系列QA、活動認識、睡眠段階分類、ECG QAのすべてのタスクでベースラインを上回りました。特に、1BパラメータのOpenTSLMモデルでもGPT-4oを超える性能を示し、時系列の能力はモデルのインターフェースに起因し、単に汎用モデルを大きくするだけではないことを示しています。
注目すべきは、7人の循環器専門医がOpenTSLM/Llama3.2-3Bの84の推論を評価し、97%が正しいまたは部分的に正しいと判定されたことです。評価はACC/AHAのECG能力ガイドラインとRIMEフレームワークに基づき、ECG特徴の識別、推論の質、患者コンテキストの活用に焦点を当てました。
さらに、OpenTSLMは初めて、複数の多変量長時間時系列にスケーリング可能なTSLMアーキテクチャを実現しました。従来の手法では時系列が長くなるにつれてメモリが二次関数的に増加しましたが、OpenTSLM-Flamingoはほぼ一定のメモリ消費を達成し、リソース制約のある環境でも実用的です。
すべてのコード、データセット、モデルはオープンソースとして公開され、GitHubで1200以上のスターを獲得しています。