蘋果正努力將Gemini整合到iPhone中
儘管蘋果一直強調本地AI的隱私優勢，但最新報告顯示，蘋果計劃藉助谷歌和英偉達的雲端算力為Siri注入Gemini能力。這種混合架構或能解決本地AI模型在性能上的不足，但也意味着對用户隱私的權衡。
文章情報
要點
- 蘋果與谷歌合作，計劃在iPhone上集成Gemini AI到Siri中。
- 由於本地芯片算力有限，Siri將同時使用本地和雲端處理，以提升AI能力。
- 智能手機的本地AI模型參數有限（數十億），而云端Gemini模型可達萬億參數，性能差距明顯。
- 谷歌的Gemini Nano專為移動設備設計，但主要提供上下文功能，而非完整對話助手。
為甚麼重要
這條新聞值得關注，因為蘋果與谷歌合作，計劃在iPhone上集成Gemini AI到Siri中。
技術影響
可能影響模型選型、推理成本、產品能力和評測基準。
在當下的科技環境中，幾乎無法完全避開生成式AI。然而，蘋果在AI領域的步伐相對緩慢，這並非完全出於自願。自2024年首次承諾以來，蘋果已多次推遲AI增強版Siri的發佈。不過，蘋果與谷歌達成的一項協議將在今年晚些時候將Gemini AI整合到Siri中。隨着全球開發者大會的臨近，蘋果正努力將強大的AI功能引入智能手機這個相對有限的處理器環境中。但蘋果粉絲可能不會完全滿意最終的結果。
蘋果曾長期宣揚本地運行AI的隱私優勢，但最新報告顯示，儘管蘋果盡力而為，iPhone的Gemini改造將嚴重依賴谷歌和英偉達的雲端服務。《信息報》報道，蘋果的Gemini版Siri將同時在本地和雲端運行，這明顯違背了其以隱私為先、傾向本地AI的偏好。
每次芯片更新，我們都會聽到其針對AI優化——蘋果也不例外，着重強調神經引擎的升級。然而，從這些宏大的宣傳中，人們可能誤以為智能手機已準備好運行大型AI模型，但實際情況並非如此。事實上，大多數手機的GPU處理的AI令牌數甚至超過專用的AI NPU。蘋果的神經引擎等組件專為語境化、高效的AI處理而設計。即便手機擁有更快的AI處理速度，其內存也無法容納龐大的模型。
即使最大的AI模型充其量也只是中等水平的助手，這使得本地AI面臨巨大挑戰。在手機上運行的AI模型體積更小，參數最多不過數十億，而谷歌最新的Gemini模型參數可達萬億。此外，本地設備上的AI模型經過“量化”以降低精度運行，雖然速度更快，但影響了令牌生成的準確性。這一切導致本地AI的智能程度遠遜於雲端同類，而即使是大型雲端模型有時也可能表現得很笨拙。
谷歌已推出針對移動設備優化的Gemini版本，即Gemini Nano。然而，這些模型主要用於支持Magic Cue和音頻摘要等上下文功能。另一方面，Siri本應是對話式助手——用户與它交談，它執行操作。這是一種需要不同類型模型的體驗。在安卓平台上，谷歌甚至不嘗試在本地進行此類操作——與Gemini的對話始終直接連接雲端。