小型AIモデルが世界で注目を集める

2019年のある朝、Adebayo Alongeは南アフリカのケープタウンのホテルの部屋で、アフリカの医療における深刻な問題、すなわち毎年大陸で何千人もの命を奪う偽造医薬品に対処するための自社スタートアップのAIソリューションをデモンストレーションしようとしていました。彼の開発したRxScannerは、ハンドヘルド型分光計で錠剤を赤外線でスキャンし、その分子プロファイルを医薬品データベースを搭載したAIモデルに送信します。数秒で、AIは分子プロファイルから医薬品を識別するか、偽物であると報告します。このシステムは、ガーナ、ケニア、ミャンマー、そしてAlongの出身国であるナイジェリアを含む十数カ国の薬局で使用されていました。しかし、その朝の南アフリカではうまくいきませんでした。分光計はAIモデルに接続しましたが、データセンターは14,000キロメートル離れており、帯域幅が限られていました。「サーバーは米国にあり、1回のスキャン結果を得るのに5分以上かかりました」とAlongeは言います。そこで彼はすぐにエンジニアに、AIモデルを小型で低消費電力かつオフラインで動作するバージョンに縮小し、Androidスマートフォン上で完全に実行できるようにするよう依頼しました。エンジニアは2時間後にそれを完成させ、デモを救いました。さらに重要なことに、この作業は、ブロードバンドやコンピューター、さらには信頼できる電力さえもない場所で錠剤を認証できる新しいバージョンのデバイスを生み出しました。これにより、Alongeは「小型AI」の提唱者となりました。

小型AIは、富裕国の巨大な大規模言語モデル（LLM）、ハイスケールデータセンター、数十億ドルの投資、AIの意識に関する議論とはまったく異なります。しかし、世界中の何百万人もの人々にとって、唯一重要なAI、そしてしばしば利用可能な唯一のAIは小型です。（世界銀行が11月に発表した報告書によると、世界の最貧国のインターネットユーザーのわずか0.7％がChatGPTを使用したのに対し、最も先進国の全インターネットユーザーの4分の1が使用しています。）世界銀行総裁のAjay Bangaは、1月のダボス世界経済フォーラムで次のように述べています。「ほとんどの人はLLM/生成AIの側面からAIを議論しています。しかし、それには大量の計算能力、電力、膨大なデータ、そしてそれを管理する熟練した人材が必要です。先進国以外では、インドと中国を除いて、その組み合わせを持つ国はほとんどありません。」対照的に、小型AIはそれらのすべてが不足している地域の人々に有用で命を救うサービスを提供できるとBangaは述べています。インドでは、政府のAI計画が小型AIのさらなる開発を求めており、多くのそのようなシステムが農家のために稼働しています。例えば、インドのヴェロール工科大学のBala Muruganとその同僚が開発したドローン搭載システムは、カシューナッツの植物の写真を撮り、病気を示す斑点があるものを迅速に識別します。すべての処理はドローン上で行われるため、現場にコンピューターは不要で、中央サーバーへの接続も不要です。特定の問題に合わせて訓練された小型言語モデルを使用し、時には安価で低消費電力のデバイス上で動作する、他の小型AI実装も開発されています。例えば、ウルグアイのブドウ園でのアリの侵入の識別、多数の国でのマラリアを媒介する蚊の検出、ブラジルのより複雑な機器を利用できない地域でのArduinoデバイスを使った心電図の実行などです。

AlongとRovaiら提唱者にとって、小型AIは単なる「有望なトレンド」ではなく、長期的には最も多くの人の生活に触れ、巨大モデルがほとんどのユーザーにとって高コストになりすぎた後も持続可能なAIの形態となる可能性があります。Alongは「AIの未来は、中心にある一つの巨大モデルではなく、エッジに展開された数百万の小型で精密なモデルであり、それぞれが特定の問題、特定のコンテキストを解決するものだと思います」と述べています。これは、人類の多く（富裕国の一部地域や発展途上国の人々を含む）が最先端のフロンティアモデルにアクセスできないからです。しかし、それらのモデルは持続可能ではないとも彼は言います。「誰かが補助金を出さなければ、ほとんどの人はそれらのモデルを利用できません。したがって、小型AI開発者と呼ばれる私たちが世界の大多数のために構築しなければならないのです。」

「小型AI」の厳密な定義はありませんが、人々は通常、最大数十億パラメータの言語モデルを指すためにこの用語を使用します（比較として、最先端モデルは1兆を超えるパラメータを含むことがあります）。これは、スマートフォンやRaspberry Pi上で直接実行できるほど小さいです。これにより、これらのアプリケーションはデータセンターに接続せず、数ワットの電力（多くの場合バッテリーやソーラーパネルから供給）でデバイス上で実行できます。Rovaiによれば、その小さなサイズにもかかわらず、これらのモデルは巨大なAIモデルと根本的に異なる技術ではありません。多くの「小型言語モデル」は、Alongの医薬品スキャナーの電話版と同じ方法、すなわち大規模モデルを「刈り込み」（タスクに関与しないパラメータを削除する）ことによって作成されています。その結果、一般的には能力が低下しますが、刈り込まれた特定のタスクには非常に優れたシステムが得られます。他の小型モデルは「蒸留」によって作成されます。それらは大規模モデルを模倣するように訓練され、性能が「教師」に近づくまで続けられます。他のケースでは、大規模モデルの精度が低下され、例えば32ビットアーキテクチャで実行されるモデルが8ビット設計で実行できるようになります。データの分類やパターン予測（アリの侵入など）に使用される機械学習アプリケーションでは、最初から小型デバイス上で訓練され、大規模モデルから派生したものではありません。

Rovaiは、これらの小型専用システムの実行が容易になっている理由は二つあると述べています。第一に、ハードウェアはより高性能で低消費電力になっています。これにより、特にニューラルプロセッシングユニットを搭載したスマートフォンで小型AIを実行できる機種が増えています。調査会社Counterpointによると、2025年に出荷されたスマートフォンの3分の1強が生成AIを実行可能で、今年末には45％に達する見込みです。来年末までには、半数強のスマートフォンが小型AIモデルを実行できるようになります。第二に、言語モデルのフットプリントが縮小しています。Google DeepMindのGemma 4とAlibabaのQwen 3.5は、小型AIにとって「素晴らしい」とRovaiは述べています。両モデルは「オープンウェイト」であり、ユーザーはパラメータ間の接続を調整してニーズに合わせることができます。これにより、例えば「乳業から大量のデータを取得し、そのデータに特化してモデルを再訓練することが容易になる」とRovaiは言います。RovaiはZoom通話で、最新の実験の一つを使ってこれらの理由を説明しました。デバイスを手に取り、「これは新しいArduino UNO-Qで、50ドルのデバイスにQualcommチップセットを搭載しています。ここで言語モデルを実行しており、センサーからデータを収集し、蚊が繁殖する可能性のある小さな水たまりを検出するためにそのデータを分析しています。実行に必要な電力はわずか3ワットです。」と述べました。

何百万人もの人々がすでにこのようなアプリケーションの恩恵を受けていると確信した世界銀行は、助成金、メンタリングプログラム、資金調達、技術的アドバイス、そして小型AI開発に適した政府政策のモデルを通じて、小型AIを積極的に推進しています。例えば、ルワンダでは、世界銀行は低所得世帯がAIを実行できるデバイスを入手できるようにする政府プログラムを支援しています。とはいえ、大規模言語モデルが完全になくなるとは誰も主張していません。スマートフォンや他の小型デバイス上で生成AIを作成するには、大規模モデルのアーキテクチャの洞察、データ処理、結果が必要です。「これらの小さなモデルを作成するには、大きなモデルが必要です」とRovaiは述べています。また、小型AIが大規模AIにアクセスできない人々に恩恵をもたらすことができるとはいえ、開発とデジタル格差のより大きな問題を解決することはできません。Alongは、小型AIの導入によって、AIをサポートするエコシステム（信頼性のある電力、機能するサプライチェーン、AIツールを作成する才能を育成する教育システム）を構築するという課題から逃れることはできないと述べています。彼の薬物スキャンシステムはオフラインで数日間動作するものの、「新しい医薬品シグネチャや分析のための定期的な同期更新を有効にしたい」とAlongは言います。「そして、バッテリーを使用している場合でも、信頼性のある電力は重要です。スマートフォンのバッテリーは永遠に持ちません。」世界の多くの地域で、小型AIの将来は確実ではありません。「それは機能し、多くの場所で最終的に使用する必要があるでしょう。問題は、政治家がそれを長期的に支援するためのインフラに投資するのに十分な賢さを持っているかどうかです。」と彼は述べています。