LiteRT.js：Googleの高性能Web AI推論ライブラリ

Googleは開発者ブログで、LiteRTのJavaScriptバインディングであるLiteRT.jsの正式発表を行いました。WebAssembly技術を活用することで、ウェブ開発者はブラウザ内で直接.tflite形式の機械学習モデルを実行できるようになり、完全にローカルでのAI推論が可能になります。これにより、ユーザーのプライバシー保護（サーバーへのデータ送信不要）、サーバーコストの削減、超低レイテンシのリアルタイム体験が実現します。既存の.tfliteモデルを保有する開発者にとって、LiteRT.jsはモバイルおよびデスクトップブラウザへの展開をこれまで以上に容易にします。

TensorFlow.jsなどの従来のWeb AIソリューションとは異なり、LiteRT.jsは効率の低いJavaScriptベースのカーネルに依存せず、WebAssemblyを介してLiteRTのネイティブクロスプラットフォームランタイムとその最適化を直接利用します。これにより、CPU（XNNPACK、マルチスレッド対応）、GPU（WebGPU経由のML Drift）、NPU（実験的なWebNN API）といった最先端のハードウェアアクセラレーションをフルに活用できます。

性能評価では、2024年製M4チップ搭載MacBook Proをテスト環境として、標準的なコンピュータビジョンおよび音声処理モデルにおいて、LiteRT.jsは他のWebランタイムと比較してCPU・GPU推論で最大3倍の高速化を達成しました。さらに、リアルタイムアプリケーション（物体追跡、音声文字起こしなど）でWebGPUやWebNNを活用すると、CPU実行と比べて5倍から60倍の高速化が可能となり、これまでネイティブアプリに限られていた高負荷なAIタスクがブラウザ上でも実行できるようになります。

LiteRT.jsは主要なAIフレームワークとのシームレスな連携も提供します。LiteRT Torchを使用すれば、PyTorchモデルをワンステップで.tflite形式に変換し、すぐにブラウザのハードウェアアクセラレーションを享受できます。また、AI Edge Quantizerツールにより、ネットワーク層ごとにカスタマイズされた量子化スキームを設定でき、モデル品質を維持しながら大幅なサイズ削減と性能向上が可能です。さらに、コンピュータビジョン分野で有名なUltralytics YOLOモデルとの公式統合が実現し、わずか数行のコードでモバイル、エッジ、ブラウザへの展開が可能になりました。

実際の応用例として、GoogleはDepth-Anything-V2モデルを用いたリアルタイム深度推定（カメラ映像を3D点群に変換）、Real-ESRGANによる画像超解像（4倍拡大）、YOLO物体検出のデモを公開しています。これらのデモソースコードはGitHubで公開されており、開発者はnpmパッケージ@litertjs/coreをインストールし、提供されるドキュメントとコードスニペットを参照することで簡単に始められます。たとえば、わずかなJavaScriptコードでモデルの読み込み、コンパイル、実行が完了し、Web AIアプリケーションの開発ハードルを大幅に引き下げます。

今後のロードマップとしては、WebNN統合の深化によるNPUサポートの強化、およびオンデバイス生成AI向けの高度最適化が計画されています。GoogleはKaggleやHugging Faceコミュニティに事前学習済み.tfliteモデルを公開しており、ブラウザでの大規模言語モデルをサポートする拡張機能LiteRT-LM.jsも提供しています。既存のTensorFlow.jsユーザー向けには、推論部分をLiteRT.jsに移行するためのガイドも用意されています。