本文にスキップ
AI News HubLIVE
サイト内リライト1 分で読了

QualcommがNexa AIを買収、Hexagon NPU向けGenAIランタイムGenieXをオープンソース化

記事の要約

QualcommはNexa AIを買収し、Hexagon NPU向けに最適化されたGenAIランタイムGenieXをオープンソース化しました。Snapdragonデバイス上でLLMやVLMをローカル実行可能にし、CLI、Python、Kotlin/Java、Docker、OpenAI互換サーバーなど複数のインターフェースを提供。Hugging FaceのGGUFモデルとQualcomm AI Hubのバンドルをサポートします。

ソースHacker News AI著者: BUFU
QualcommがNexa AIを買収、Hexagon NPU向けGenAIランタイムGenieXをオープンソース化
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

QualcommはAIスタートアップNexa AIを買収し、自社のHexagon NPU向けに最適化された生成AIランタイムGenieXをオープンソースとして公開しました。これにより、開発者はSnapdragon搭載デバイス上で大規模言語モデル(LLM)やビジョン言語モデル(VLM)をローカルに実行できるようになります。

GenieXは統一されたC SDKを基盤とし、CLI、Python、Kotlin/Java、Docker、OpenAI互換サーバーといった多彩なインターフェースを提供します。サポートされるプラットフォームはWindows ARM64(Snapdragon X Elite)、Android(Snapdragon 8 Eliteなど)、Linux ARM64(Dragonwing QCS9075)で、Qualcomm Device Cloudを介したリモートアクセスも可能です。

モデル実行の仕組みとして、GenieXは2つのランタイムを備えています。llama.cppはHugging FaceのGGUFモデルをCPU・GPU・NPUで実行し、Qualcomm AI Engine Direct(qairt)はQualcomm AI HubのプリコンパイルバンドルをNPU専用で動作させ、最高のパフォーマンスを実現します。

簡単な使用例として、CLIではgeniex infer google/gemma-4-E4B-it-qat-q4_0-ggufの1行でモデルとチャットできます。PythonインターフェースはHugging Face transformersに似た使い心地で、OpenAI互換サーバーにより既存のOpenAIクライアントを変更なく利用可能です。

GenieXはBSD 3-ClauseライセンスのもとでGitHubに公開されています。Qualcommはコミュニティとの協力を通じてエッジAIの革新を促進し、Snapdragonデバイス上で最先端モデルを簡単に実行できる環境を提供することを目指しています。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • QualcommがNexa AIを買収しGenieXをオープンソース化
  • GenieXはSnapdragonデバイスでNPU・GPU・CPU推論をサポート
  • CLI、Python、Android SDK、Docker、OpenAI互換サーバーなど多彩なインターフェース
  • Hugging FaceのGGUFモデルとQualcomm AI Hubのプリコンパイルバンドルに対応

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。