過去3年間、企業AI戦略は「最大のフロンティアモデルを選ぶのが最も安全」という安定した仮定の上に成り立ってきました。パラメータ数が能力に比例するように見え、誤ったモデルを選ぶコストは大きいと認識されていたからです。しかし、Dharma-AIの最近の研究はこのデフォルトの論理に疑問を投げかけています。
4月にリリースされたDharmaOCRプロジェクトでは、構造化OCR用に設計された30億パラメータの小型言語モデルペアが、ブラジルポルトガル語の文書認識タスクで、テストされたすべての商用フロンティアAPIを打ち負かしました。このベンチマークは、印刷文書、手書きテキスト、法務・行政記録をカバーしています。専門モデルは総合スコアで0.911を達成し、最高性能の商用モデルであるClaude Opus 4.6の0.833を約8ポイント上回りました。さらに注目すべきはコストです。専門モデルの100万ページあたりの推論コストは、Claude Opus 4.6より約52倍低いのです。同時に、テキスト退化率はわずか0.20%で、他のモデルを大きく下回りました。
この結果は孤立したものではありません。論文は、モデルの性能を決定する重要な変数はパラメータ数ではなく、訓練履歴と展開タスクの間の分布的整合性であると指摘しています。広範なデータで訓練された大規模モデルは、そのパラメータが多数の無関係な領域に分散しています。一方、慎重に微調整された小規模モデルは、訓練軌跡が目標タスクの分布に意図的に近づけられています。実験では、この整合性がパラメータ規模よりも相対性能を予測する能力が高いことが示されました。
これを検証するため、研究者らは同じアーキテクチャで開始点の異なるモデルを比較しました。3BのNanonets-OCR2（汎用OCRに特化済み）は、教師あり微調整と直接選好最適化を経て、スコア0.921、退化率0.20%に達しました。一方、同じアーキテクチャの汎用モデルQwen2.5-VL-3Bは同じプロセスを経ても0.793、退化率1.41%にとどまりました。同様に7B規模では、olmOCR-2-7Bから開始したモデルが0.927に達したのに対し、Qwen2.5-VL-7B-Instructから開始したモデルは0.906でした。
これらの発見は階層的な戦略を明らかにしています。専門化は二元論的なものではなく、汎用モデルから汎用ドメイン専門家へ、さらに特定ドメイン専門家へと段階的に進むプロセスです。各段階の整合性が累積的な利益をもたらします。企業にとって、これは調達決定が単にパラメータ規模を追求するのではなく、モデルとタスクの分布的整合性に注目すべきであることを意味します。適切なシナリオでは、専門的な小型モデルが非常に低コストで優れた品質と安定性を提供できるのです。