高通收购Nexa AI，开源面向Hexagon NPU的GenAI运行时GenieX

高通（Qualcomm）近日宣布收购人工智能初创公司Nexa AI，并开源其面向Qualcomm Hexagon NPU优化的生成式AI运行时GenieX。此举旨在加速终端侧AI部署，使开发者能够轻松在Qualcomm Snapdragon设备上运行大型语言模型（LLM）和视觉语言模型（VLM）。

GenieX是一个强大的本地AI推理运行时，支持在Hexagon NPU、Adreno GPU或CPU上运行模型。它提供了统一的C SDK，并在此基础上构建了CLI、Python、Kotlin/Java、Docker以及OpenAI兼容服务器等多种接口，满足不同开发者的需求。

平台支持方面，GenieX当前覆盖Windows ARM64（Snapdragon X Elite）、Android（Snapdragon 8 Elite等）以及Linux ARM64（Dragonwing QCS9075）。开发者也可通过Qualcomm Device Cloud远程访问设备。

在模型支持上，GenieX提供两种运行时：llama.cpp用于加载Hugging Face上的GGUF模型（支持NPU/GPU/CPU），而Qualcomm AI Engine Direct（qairt）则专门运行Qualcomm AI Hub的预编译包，以获得最佳的NPU性能。这两种运行时共同确保了广泛的模型兼容性和高性能。

GenieX的快速入门非常简单。例如，通过CLI只需一条命令即可与模型对话：geniex infer google/gemma-4-E4B-it-qat-q4_0-gguf。Python接口则类似于Hugging Face transformers的使用方式。GenieX还支持OpenAI兼容服务器，允许开发者无缝替换现有的OpenAI客户端。

GenieX遵循BSD 3-Clause许可证开源，项目托管于GitHub。高通希望借助社区力量推动终端AI创新，为开发者提供在Snapdragon设备上运行前沿模型的便捷途径。