Nativ:在Mac上本地运行AI模型
Prince Canuma开发了Nativ,一款macOS桌面应用,基于MLX框架,提供聊天界面和本地API服务器,支持本地运行AI模型,并能自动识别Hugging Face缓存中的模型。
Nativ是Prince Canuma开发的一款全新的macOS桌面应用程序,旨在让用户能够在本地Mac上轻松运行AI模型。Canuma此前是MLX-VLM Python库的开发者,该库用于在Mac上通过MLX框架运行视觉语言模型。Nativ将MLX封装成一个完整的桌面应用,提供了直观的聊天界面和本地主机API服务器,用户可以通过这些界面访问和交互模型,其功能类似于LM Studio。一个令人惊喜的特性是,Nativ能够自动识别用户Hugging Face缓存目录中已有的MLX模型,从而节省了重新下载的时间。该应用的发布为Mac用户提供了更便捷的本地AI运行方案,进一步推动了AI模型的本地化部署。