NVIDIA Nemotron 3.5 Lightning：AIエージェント実行層の高速モデル

長時間稼働するAIエージェントは、難しい推論よりも日常的な実行にほとんどの時間を費やします。計画を立てた後、エージェントは何百回ものツール呼び出し、ファイル読み取り、検証、コマンド実行、フォーマット処理を行うことがあります。そのすべてのステップに最先端の推論モデルを使うのは、コストとレイテンシの面で非効率です。NVIDIA Nemotron 3.5 Lightningは、高価なモデルに考えさせ、高速なモデルに働かせるという方針で作られた、エージェント実行層向けのモデルです。

Nemotron 3.5 Lightningは、オープンウェイトの推論・指示追従モデルで、総パラメータ約300億、トークンあたりの活性パラメータ約30億という構成です。アーキテクチャはMamba-2、Mixture-of-Experts、選択的アテンションを組み合わせたハイブリッドで、コンテキストウィンドウは最大100万トークン。ツール呼び出しや構成可能な推論モードに対応します。量子化はNVFP4とW4A16、全精度チェックポイントはBF16で提供され、公式NVFP4モデルカードにはDGX Spark GB10またはH100でのシングルGPUデプロイメントが記載されています。対応ハードウェアはBlackwell、Hopper、Ampereに及びます。主に英語とプログラミング言語向けですが、スペイン語、フランス語、ドイツ語、イタリア語、日本語も公式にサポートします。リリース日は2026年8月11日、ライセンスはOpenMDW 1.1です。

NVIDIAがこのモデルを開発した背景には、エージェントの実行ワークロードの特性があります。コーディングエージェントを例にすると、バグの理解と計画立案は難しい推論ですが、その後に行うファイル読み取り、コマンド実行、検証、委譲などの操作は大量かつ反復的です。フロンティアモデルをすべての実行ステップに使う必要はなく、NVIDIAは「どの単一モデルがエージェント全体を動かすか」ではなく「エージェント内部のどの種類の作業にどのモデルを使うか」という考え方を提案しています。

アーキテクチャ面では、MoEにより300億パラメータの表現力を保ちながら、実際の計算は約30億パラメータ規模に抑えています。設定上は128のルーティング専門家と1つの共有専門家があり、各トークンにつき6つの専門家が選ばれます。Mamba-2層は状態空間モデルに基づき、長いシーケンスを効率的に処理しますが、長文書、コードリポジトリ、マルチステップのツール軌跡、会話履歴などで重要になるグローバルな情報比較のために、選択的アテンション層も残されています。Multi-Token Predictionは訓練中に複数の将来トークンを予測することを学習し、推論時にはMTP、DSpark、DFlashといった投機的デコード手法と組み合わせて高スループットを実現します。NVIDIAによれば、出力速度は同規模モデルの最大4倍で、高ボリュームのエージェントワークロードにおける精度と速度のパレート最前線に位置します。

公式ベンチマークはBF16とNVFP4の両方で公開されています。NVFP4量子化でも性能低下は限定的で、MMLU Proは81.94/81.62、GPQA Diamond（ツールなし）は75.44/75.57、SWE-bench Verifiedは51.56/52.80など、ほぼ同等の結果です。NVIDIAは、NeMo GymとNeMo Evaluatorに基づく一貫した評価ハーネスを使い、再現可能なベンチマークレシピも公開しています。

価格はオープンウェイトのため利用経路によって異なります。2026年8月12日時点の公開価格では、NVIDIA Build APIが1Mコンテキストの無料プロトタイプエンドポイントを提供。OpenRouterは無料ルート（1M）に加え、標準ルートが入力100万トークンあたり0.05ドル、出力100万トークンあたり0.20ドル（コンテキスト262K）。Fireworksのサーバーレスも同額で、キャッシュ入力は100万トークンあたり0.01ドル、コンテキストは262Kです。Ollamaはトークン単位の料金なしでローカル実行でき、vLLMによるセルフホストはインフラ費用のみで最大1Mコンテキストまで対応します。利用方法としては、build.nvidia.comでAPIキーを発行するか、Ollamaで「ollama run nemotron-3.5-lightning」を実行するか、OpenRouterでAPIキーを取得する方法があります。リリース直後は価格やコンテキスト制限が変更される可能性がある点に注意が必要です。