高通收購Nexa AI，開源面向Hexagon NPU的GenAI執行時GenieX

高通（Qualcomm）近日宣佈收購人工智慧初創公司Nexa AI，並開源其面向Qualcomm Hexagon NPU最佳化的生成式AI執行時GenieX。此舉旨在加速終端側AI部署，使開發者能夠輕鬆在Qualcomm Snapdragon裝置上執行大型語言模型（LLM）和視覺語言模型（VLM）。

GenieX是一個強大的本地AI推理執行時，支援在Hexagon NPU、Adreno GPU或CPU上執行模型。它提供了統一的C SDK，並在此基礎上構建了CLI、Python、Kotlin/Java、Docker以及OpenAI相容伺服器等多種介面，滿足不同開發者的需求。

平臺支援方面，GenieX當前覆蓋Windows ARM64（Snapdragon X Elite）、Android（Snapdragon 8 Elite等）以及Linux ARM64（Dragonwing QCS9075）。開發者也可透過Qualcomm Device Cloud遠端訪問裝置。

在模型支援上，GenieX提供兩種執行時：llama.cpp用於載入Hugging Face上的GGUF模型（支援NPU/GPU/CPU），而Qualcomm AI Engine Direct（qairt）則專門執行Qualcomm AI Hub的預編譯包，以獲得最佳的NPU效能。這兩種執行時共同確保了廣泛的模型相容性和高效能。

GenieX的快速入門非常簡單。例如，透過CLI只需一條命令即可與模型對話：geniex infer google/gemma-4-E4B-it-qat-q4_0-gguf。Python介面則類似於Hugging Face transformers的使用方式。GenieX還支援OpenAI相容伺服器，允許開發者無縫替換現有的OpenAI客戶端。

GenieX遵循BSD 3-Clause許可證開源，專案託管於GitHub。高通希望藉助社群力量推動終端AI創新，為開發者提供在Snapdragon裝置上執行前沿模型的便捷途徑。