設備端智能：在Apple平台上交付本地AI，經編譯器驗證

本書《設備端智能：在Apple平台上交付本地AI，經編譯器驗證》由資深iOS工程師Roberto Gutierrez撰寫，旨在幫助開發者在Apple生態系統中成功部署本地AI模型。與官方文檔不同，本書不僅關注編譯通過，更注重實際落地中的各項細節，包括內存預算、上下文窗口溢出、可用性降級策略以及系統更新帶來的模型變更。

全書分為四個部分共十二章，並附帶三個實用工具。第一部分“決策”涵蓋本地AI的經濟性、延遲下限和能力天花板，並提供一個決策矩陣用於選擇Apple的免費模型、開源模型或雲端API。第二部分“基礎模型在生產中”深入探討引導生成、工具調用、會話管理及設備矩陣的可用性。第三部分“擁有模型”介紹如何使用MLX Swift導入自有模型，並將Ollama作為開發基礎設施。第四部分“發貨”聚焦內存、熱管理、電池、隱私架構和無需雲端的迴歸評估。

本書的獨特價值在於所有代碼示例均經過編譯器對實際SDK的驗證，並糾正了Apple示例和流行博客中已失效的部分。書中還包含了可重複執行的基準測試數據和完整的錯誤排查表。定價方面，個人版$59，含代碼和基準數據集版$99，團隊版（最多10人）$199，並提供30天無理由退款。免費第三章提供了首個設備端功能的完整實現，包括可用性處理、類型化引導生成及SwiftUI流式輸出。作者Roberto Gutierrez擁有超過12年Apple平台開發經驗，日常使用Ollama和MLX進行本地推理，書中內容均來自實戰積累。

書中還詳細回答了常見問題，例如：所有內容是否會在下一次WWDC上改變？部分會，因此更新免費且代碼鎖定精確的依賴版本。iOS 27的材料將作為免費修訂版提供。為什麼需要花$99買書？因為文檔只描述API，而本書涵蓋API文檔未涉及的內容：選擇哪個棧及原因、導致應用在二十次對話後崩潰的內存預算、避免被App Store拒絕的審查要點、捕捉Apple在底層更換模型的評估工具，以及文檔未及時跟上的API偏移，均經過編譯器驗證。本書專注於1-8B參數模型，明確指出其侷限性，並在第一章提供何時仍應使用雲端的決策框架。運行代碼需要macOS 26+、Xcode 26+、Apple Silicon；評估和基準工具可在任何M系列Mac上運行，演示應用需要啓用Apple Intelligence。支持Ollama的Mac（任何M系列，內存越大越好）可解鎖第9-12章的工作流程。