NVIDIA Nemotron 3 Embed による高速かつ正確な検索

NVIDIA は、Nemotron 3 Embed シリーズの埋め込みモデルを発表しました。8B と 1B の2つのバージョンが Baseten プラットフォームで利用可能となり、AI エージェント、エンタープライズ検索、コード検索などの用途に適しています。

埋め込みモデルは、テキストなどのデータを数値ベクトルに変換する技術です。このベクトル空間では、意味的に近い内容が近くに配置されるため、高速な意味検索が可能になります。Nemotron 3 Embed は、知識ソースをベクトルインデックスに変換し、クエリに対して最も関連性の高いコンテキストを取得します。

実際のユースケースとして、AI エージェントは企業の知識ベースやドキュメントから情報を検索し、コーディングアシスタントは大規模なコードベースからファイルや関数を特定します。検索品質が最終的な回答の正確性に直結します。

ただし、大規模な埋め込みモデルは高品質な意味表現を生成できる一方、処理時間とハードウェアリソースを多く消費します。ドキュメントの更新が頻繁な場合、インデックス速度が遅いと古い知識に基づく検索結果になります。そのため、最適なモデルは単に最も正確なものではなく、検索品質とインデックス速度のバランスが重要です。

Nemotron 3 Embed は、2つの選択肢を提供します。8B モデルは主要ベンチマークでトップの検索品質を達成し、RTEB リーダーボードで全オープン・クローズドモデルを凌駕します。1B モデルは、プルーニング（重要でない部分の削除）と蒸留（小モデルが大モデルの動作を模倣）により、8B モデルの95%の精度を維持しながら、サービスコストとインデックスレイテンシを大幅に削減します。NVIDIA Blackwell GPU では、NVFP4 バージョンが BF16 の99%の精度を保ちつつ、スループットを2倍に向上します。

さらに、NVIDIA は turbopuffer と提携し、Nemotron 3 Embed を turbopuffer のネイティブ埋め込み機能に統合しました。turbopuffer は AI アプリケーション向けのベクトル・全文検索エンジンで、ネイティブ埋め込みにより意味検索の実装が容易になります。

特殊な用語やドメイン固有の要件がある場合、NVIDIA は Nemotron Embed のファインチューニングレシピを提供しています。Baseten Training 上で5時間のドメインファインチューニングにより、精度を約10%向上できます。ファインチューニングされたモデルは Truss でパッケージ化し、Baseten にデプロイ可能です。

現在、両モデルは Baseten モデルライブラリで専用推論サービスとして提供されており、インフラ管理なしで本番環境にデプロイできます。開発者は Baseten で API キーを生成し、知識ソースの埋め込みを作成できます。