小型AI模型在全球获得关注

2019年的一天早上，Adebayo Alonge在南非开普敦的一家酒店房间里，准备演示他的初创公司利用人工智能解决非洲医疗保健领域一个严重问题的方案：假冒药物每年导致非洲大陆数千人死亡。他的设备RxScanner是一款手持式光谱仪，用红外光扫描药片，然后将药物的分子轮廓发送给配备药物数据库的AI模型。几秒钟内，AI就能根据分子轮廓识别药物——或者报告它是假的。该系统已在加纳、肯尼亚、缅甸以及Alonge的祖国尼日利亚等十多个国家的药店使用。但那天早上在南非，它失灵了。光谱仪连接到了AI模型，但数据中心远在14000公里外，带宽有限。“我们的服务器在美国，仅仅为了获得一次扫描的结果就花了五分钟以上。”Alonge说。于是他立即要求工程师将AI模型缩小为一个更小、低功耗、无需连接的版本，可以完全在他的安卓手机上运行。工程师在两小时后完成了任务，挽救了演示。更重要的是，这项工作催生了他的设备的新版本，可以在没有宽带、计算机甚至可靠电力的地方验证药片的真伪。这也让Alonge成为了这种“小型AI”的倡导者。

小型AI与富裕国家庞大的大型语言模型（LLM）、超大规模数据中心、数十亿美元的投资以及关于AI意识的辩论相去甚远。但对于全球数百万人来说，唯一重要的AI，而且往往是唯一可用的AI，就是小型AI。（根据世界银行11月发布的报告，在最贫困国家，只有0.7%的互联网用户使用过ChatGPT，而在最发达国家，这一比例为四分之一。）世界银行行长Ajay Banga在1月的达沃斯世界经济论坛上表示：“大多数人都在讨论LLM/生成式AI。但这需要大量的计算能力、电力、海量数据和熟练的管理人员。在发达国家之外，除印度和中国外，很少有国家具备这些条件。”相比之下，小型AI可以在缺乏这些条件的地区提供有用甚至拯救生命的服务。在印度，政府的人工智能计划呼吁更多开发小型AI，许多此类系统正在为农民服务。例如，印度韦洛尔理工学院的Bala Murugan及其同事开发了一种基于无人机的系统，拍摄腰果树照片并快速识别出有斑点表明病害的植株。所有处理都在无人机上进行，因此无需现场计算机，也无需连接中央服务器。使用针对特定问题训练的小型语言模型，有时在廉价、低功耗设备上运行，其他小型AI应用已被开发出来，用于识别乌拉圭葡萄园中的蚂蚁侵袭、检测多个国家携带疟疾的蚊子的存在，以及在巴西缺乏更复杂设备的地区使用Arduino设备运行心电图。

对于Alonge、Rovai和其他倡导者来说，小型AI不仅是一种“有希望的趋势”，而且从长远来看，可能是一种触及最多人生活、在巨型模型对大多数用户来说成本过高后仍可持续的AI形式。Alonge认为，AI的未来不是位于中心的一个巨型模型，而是数百万个部署在边缘的小型精确模型，每个解决一个特定问题、一个特定背景。部分原因是人类中的许多人——包括富裕国家部分地区和发展中国家的人们——无法访问前沿模型。但同样是因为这些模型不可持续。他说：“如果没有补贴，大多数人将负担不起这些模型。因此，我们这些所谓的小型AI开发者将不得不为世界大多数人构建。”

“小型AI”没有严格定义，但人们通常用它指代参数最多几十亿的语言模型（相比之下，前沿模型可能包含超过一万亿参数）。这足够小，可以直接在手机或树莓派上运行。这使得这些应用无需连接数据中心，仅消耗几瓦功率，通常由电池或太阳能电池板供电。Rovai表示，尽管体积小，但这些模型与巨型AI模型在技术上并无根本区别。许多“小型语言模型”的创建方式与Alonge的手机版药物扫描仪相同——通过“修剪”大型模型，移除不参与任务的参数。结果是一个在通用能力上较弱，但在修剪后的特定任务上仍然非常出色的系统。其他小型模型通过“蒸馏”创建：它们被训练模仿大型模型，直到性能接近“教师”。在其他情况下，大型模型的精度被降低，例如，32位架构的模型可以在8位设计上运行。对于用于分类数据或预测模式（如蚂蚁侵袭）的机器学习应用，它们从一开始就在小型设备上训练，而不是从大型模型派生。

Rovai认为，运行所有这些小型专用系统正变得更容易，原因有二。首先，硬件越来越好，功能更强，同时功耗更低。这意味着越来越多的手机可以运行小型AI，尤其是那些配备神经处理单元的机型。根据技术研究公司Counterpoint的数据，2025年全球出货的智能手机中略超过三分之一能够运行生成式AI，到今年年底这一比例将达到45%。到明年年底，略过半数的智能手机将能够运行小型AI模型。其次，语言模型的占用空间正在缩小。Google DeepMind的Gemma 4和阿里巴巴的Qwen 3.5对小型AI来说“非常出色”。这两个模型都是“开放权重”的，这意味着用户可以调整参数之间的连接以适应需求。Rovai在Zoom通话中用他最新的实验之一说明了这些原因。他举起一个设备说：“这是新的Arduino UNO-Q，一个售价50美元、配备高通芯片组的设备。我在这里运行一个语言模型，它收集传感器数据，分析这些数据以检测蚊子可能繁殖的小水洼。运行它只需要三瓦功率。”

世界银行确信数百万人已从这类应用中受益，现在积极通过赠款、导师计划、融资、技术建议和有利于小型AI发展的政府政策模型来推广小型AI。例如，在卢旺达，世界银行支持一项政府计划，帮助低收入家庭获得可以运行AI的设备。尽管如此，没有人声称大型语言模型会完全消失。要在手机或其他小型设备上创建生成式AI，需要大型模型的结构性洞察、数据处理和结果。Rovai说：“我们需要大型模型来创建这些更小的模型。”而且，尽管小型AI可以使无法获得大型AI的人们受益，但该技术无法解决发展和数字不平等的更大问题。Alonge表示，实施小型AI并不能让各国摆脱创建支持AI的生态系统的挑战：可靠的电力、有效的供应链以及培养创造AI工具所需人才的教育体系。尽管他的药物扫描系统可以在没有连接的情况下在手机上运行数天，“你仍然希望能够定期同步更新新的药物签名和分析数据。而且即使你使用电池，可靠的电力也很重要。手机电池不会永远持续。”在世界许多地方，小型AI的未来并不确定。他说：“它有效，许多地方最终将需要使用它。问题是政治领袖是否有足够的智慧投资于长期支持它的基础设施。”