高通收購Nexa AI，開源面向Hexagon NPU的GenAI運行時GenieX

高通（Qualcomm）近日宣佈收購人工智能初創公司Nexa AI，並開源其面向Qualcomm Hexagon NPU優化的生成式AI運行時GenieX。此舉旨在加速終端側AI部署，使開發者能夠輕鬆在Qualcomm Snapdragon設備上運行大型語言模型（LLM）和視覺語言模型（VLM）。

GenieX是一個強大的本地AI推理運行時，支持在Hexagon NPU、Adreno GPU或CPU上運行模型。它提供了統一的C SDK，並在此基礎上構建了CLI、Python、Kotlin/Java、Docker以及OpenAI兼容服務器等多種接口，滿足不同開發者的需求。

平台支持方面，GenieX當前覆蓋Windows ARM64（Snapdragon X Elite）、Android（Snapdragon 8 Elite等）以及Linux ARM64（Dragonwing QCS9075）。開發者也可通過Qualcomm Device Cloud遠程訪問設備。

在模型支持上，GenieX提供兩種運行時：llama.cpp用於加載Hugging Face上的GGUF模型（支持NPU/GPU/CPU），而Qualcomm AI Engine Direct（qairt）則專門運行Qualcomm AI Hub的預編譯包，以獲得最佳的NPU性能。這兩種運行時共同確保了廣泛的模型兼容性和高性能。

GenieX的快速入門非常簡單。例如，通過CLI只需一條命令即可與模型對話：geniex infer google/gemma-4-E4B-it-qat-q4_0-gguf。Python接口則類似於Hugging Face transformers的使用方式。GenieX還支持OpenAI兼容服務器，允許開發者無縫替換現有的OpenAI客户端。

GenieX遵循BSD 3-Clause許可證開源，項目託管於GitHub。高通希望藉助社區力量推動終端AI創新，為開發者提供在Snapdragon設備上運行前沿模型的便捷途徑。