苹果正努力将Gemini整合到iPhone中
尽管苹果一直强调本地AI的隐私优势，但最新报告显示，苹果计划借助谷歌和英伟达的云端算力为Siri注入Gemini能力。这种混合架构或能解决本地AI模型在性能上的不足，但也意味着对用户隐私的权衡。
文章情报
要点
- 苹果与谷歌合作，计划在iPhone上集成Gemini AI到Siri中。
- 由于本地芯片算力有限，Siri将同时使用本地和云端处理，以提升AI能力。
- 智能手机的本地AI模型参数有限（数十亿），而云端Gemini模型可达万亿参数，性能差距明显。
- 谷歌的Gemini Nano专为移动设备设计，但主要提供上下文功能，而非完整对话助手。
为什么重要
这条新闻值得关注，因为苹果与谷歌合作，计划在iPhone上集成Gemini AI到Siri中。
技术影响
可能影响模型选型、推理成本、产品能力和评测基准。
在当下的科技环境中，几乎无法完全避开生成式AI。然而，苹果在AI领域的步伐相对缓慢，这并非完全出于自愿。自2024年首次承诺以来，苹果已多次推迟AI增强版Siri的发布。不过，苹果与谷歌达成的一项协议将在今年晚些时候将Gemini AI整合到Siri中。随着全球开发者大会的临近，苹果正努力将强大的AI功能引入智能手机这个相对有限的处理器环境中。但苹果粉丝可能不会完全满意最终的结果。
苹果曾长期宣扬本地运行AI的隐私优势，但最新报告显示，尽管苹果尽力而为，iPhone的Gemini改造将严重依赖谷歌和英伟达的云端服务。《信息报》报道，苹果的Gemini版Siri将同时在本地和云端运行，这明显违背了其以隐私为先、倾向本地AI的偏好。
每次芯片更新，我们都会听到其针对AI优化——苹果也不例外，着重强调神经引擎的升级。然而，从这些宏大的宣传中，人们可能误以为智能手机已准备好运行大型AI模型，但实际情况并非如此。事实上，大多数手机的GPU处理的AI令牌数甚至超过专用的AI NPU。苹果的神经引擎等组件专为语境化、高效的AI处理而设计。即便手机拥有更快的AI处理速度，其内存也无法容纳庞大的模型。
即使最大的AI模型充其量也只是中等水平的助手，这使得本地AI面临巨大挑战。在手机上运行的AI模型体积更小，参数最多不过数十亿，而谷歌最新的Gemini模型参数可达万亿。此外，本地设备上的AI模型经过“量化”以降低精度运行，虽然速度更快，但影响了令牌生成的准确性。这一切导致本地AI的智能程度远逊于云端同类，而即使是大型云端模型有时也可能表现得很笨拙。
谷歌已推出针对移动设备优化的Gemini版本，即Gemini Nano。然而，这些模型主要用于支持Magic Cue和音频摘要等上下文功能。另一方面，Siri本应是对话式助手——用户与它交谈，它执行操作。这是一种需要不同类型模型的体验。在安卓平台上，谷歌甚至不尝试在本地进行此类操作——与Gemini的对话始终直接连接云端。