Ollamaの新MLXエンジン：MacでのローカルLLM性能が2倍に向上

要点

• Ollamaの新MLXエンジンで推論速度が約2倍に向上し、システムの応答性が向上。
• メモリ管理とGPU操作の最適化により、Apple Siliconアーキテクチャを最大限に活用。
• NVFP4量子化形式をサポートし、メモリ使用量を抑えながら品質低下を大幅に削減。
• 新しいスナップショットシステムにより、エージェントワークフローでのコンテキスト再構築のオーバーヘッドを削減。