设备端智能：在Apple平台上交付本地AI，经编译器验证

本书《设备端智能：在Apple平台上交付本地AI，经编译器验证》由资深iOS工程师Roberto Gutierrez撰写，旨在帮助开发者在Apple生态系统中成功部署本地AI模型。与官方文档不同，本书不仅关注编译通过，更注重实际落地中的各项细节，包括内存预算、上下文窗口溢出、可用性降级策略以及系统更新带来的模型变更。

全书分为四个部分共十二章，并附带三个实用工具。第一部分“决策”涵盖本地AI的经济性、延迟下限和能力天花板，并提供一个决策矩阵用于选择Apple的免费模型、开源模型或云端API。第二部分“基础模型在生产中”深入探讨引导生成、工具调用、会话管理及设备矩阵的可用性。第三部分“拥有模型”介绍如何使用MLX Swift导入自有模型，并将Ollama作为开发基础设施。第四部分“发货”聚焦内存、热管理、电池、隐私架构和无需云端的回归评估。

本书的独特价值在于所有代码示例均经过编译器对实际SDK的验证，并纠正了Apple示例和流行博客中已失效的部分。书中还包含了可重复执行的基准测试数据和完整的错误排查表。定价方面，个人版$59，含代码和基准数据集版$99，团队版（最多10人）$199，并提供30天无理由退款。免费第三章提供了首个设备端功能的完整实现，包括可用性处理、类型化引导生成及SwiftUI流式输出。作者Roberto Gutierrez拥有超过12年Apple平台开发经验，日常使用Ollama和MLX进行本地推理，书中内容均来自实战积累。

书中还详细回答了常见问题，例如：所有内容是否会在下一次WWDC上改变？部分会，因此更新免费且代码锁定精确的依赖版本。iOS 27的材料将作为免费修订版提供。为什么需要花$99买书？因为文档只描述API，而本书涵盖API文档未涉及的内容：选择哪个栈及原因、导致应用在二十次对话后崩溃的内存预算、避免被App Store拒绝的审查要点、捕捉Apple在底层更换模型的评估工具，以及文档未及时跟上的API偏移，均经过编译器验证。本书专注于1-8B参数模型，明确指出其局限性，并在第一章提供何时仍应使用云端的决策框架。运行代码需要macOS 26+、Xcode 26+、Apple Silicon；评估和基准工具可在任何M系列Mac上运行，演示应用需要启用Apple Intelligence。支持Ollama的Mac（任何M系列，内存越大越好）可解锁第9-12章的工作流程。