Ollama新MLX引擎：Mac上本地LLM效能翻倍，體驗大幅提升

要點

• Ollama新MLX引擎使推理速度提升近兩倍，系統響應更流暢。
• 透過最佳化記憶體管理和GPU操作，MLX引擎更充分利用Apple Silicon架構。
• 支援NVFP4量化格式，在降低記憶體佔用同時大幅減少質量損失。
• 新型快照系統減少代理工作流中的上下文重建開銷。