ワットあたりの知能：AI時代の統一指標

人工知能の急速な発展に伴い、AIシステムの効率をどのように測定するかが重要な課題となっている。コンピューティング分野の「ワットあたりの性能」に着想を得た研究チームは、「ワットあたりの知能」（Intelligence Per Watt、IPW）という統一指標を提案した。IPWは消費電力あたりのタスク精度として定義され、中央集権型AIから分散型知能への移行を明確にする道標となる。この指標は、生の性能ではなく、エネルギー制約下での効果的な知能出力に焦点を当てている。

研究によれば、2025年時点で、パラメータ200億以下のローカル言語モデルは単一ターンのクエリの88.7%に正確に回答し、コンシューマー向けアクセラレータでインタラクティブな遅延を実現できる。2023年から2025年にかけて、ローカルモデルのIPWは5.3倍向上し、モデル進歩が3.1倍、ハードウェア進歩が1.7倍寄与した。これは、アルゴリズムとハードウェアの最適化により、性能を大幅に犠牲にすることなく消費電力を大幅に削減できることを意味する。

ハイブリッド推論システムも重要な成果だ。クエリをインテリジェントにローカルデバイスまたはクラウドにルーティングすることで、出力品質を維持しながらエネルギーと計算コストを60～80%削減できる。例えば、メール作成や文書要約といった単純な日常タスクにはローカルモデルを直接呼び出すことで、毎回大規模なクラウドモデルに頼る必要がなくなる。このワークロードの再配分により、データセンターの負荷を大幅に軽減できる。

経済的価値の観点では、すべての知能が等しいわけではない。研究チームは、GDP関連タスクの分布でIPWを重み付けすることで、AIシステムが消費電力あたりに生み出す経済的価値を定量化した。このレンズは、現在のシステムが価値を創出している領域、ギャップが残る領域、効率向上が各経済セクターの生産性にどのように変換されるかを明らかにする。例えば、大学院レベルの物理学問題を処理できるがメール作成ができないモデルと、その逆のプロファイルを持つモデルでは、経済的価値がまったく異なる可能性がある。

国家競争力の面では、「総国内知能」（Gross Domestic Intelligence、GDI）という概念が導入された。これはIPWと利用可能な電力の積として定義される。この枠組みは、中国と米国が直面する異なる制約を浮き彫りにする。中国は先端チップの輸出規制により計算能力が制限され、米国は送電網とデータセンタのボトルネックによりエネルギーが制限される。IPWはまた、米国の非対称的資産を明らかにする。すなわち、家庭やオフィスにすでに数十億台のローカルアクセラレータが存在することだ。これらのデバイスを活用すれば、新たなデータセンターを建設することなく、AIの実効推論容量を2〜4倍に拡大できる。

研究チームは、測定基準、経済評価、国家競争、モデルとシステムの最適化など、調整された研究アジェンダを策定している。例えば、GDP加重評価手法、アルゴリズムとハードウェアの貢献を分解する帰属ツール、およびフロンティアモデルを検証ツールとして利用するためにローカルモデルを事後訓練する技術を開発中である。さらに、ハイブリッド推論エンジンMinionsは、長文書推論タスクのクラウドコストを5.7倍削減しながら、フロンティアモデルの精度の97.9%を維持する。

関連する論文やオープンソースツールはarXivとGitHubで公開されている。IPWプロファイリングハーネス、モデルアーキテクチャ検索フレームワークArchon（その設計システムは指示追従、推論、コーディングタスクでOpenAI o1、GPT-4o、Claude 3.5 Sonnetなどのフロンティアモデルを平均15.1%上回る）、および弱検証器統合フレームワークWeaverなどが含まれる。この研究はスタンフォード大学などの研究者が主導し、Lambda Labsなどの業界パートナーから支援を受けている。

要するに、ワットあたりの知能は統一された指標を提供し、AIシステムをより効率的で持続可能な方向に導く可能性がある。モデル設計からハードウェアアーキテクチャ、国家戦略に至るまで、IPWは重要な参照指標となるだろう。