ミラ・ムラティのThinking Machines、だれでもアクセス可能なオープンウェイトモデル「Inkling」を公開
ミラ・ムラティが率いるThinking Machines Lab Inc.は、本日初の基盤モデル「Inkling」を公開し、開発者が自由にファインチューニングできるよう完全なオープンウェイトを提供します。Inklingは、9750億パラメータ（混合エキスパートアーキテクチャ、アクティブパラメータは約410億）を誇り、45兆トークンのテキスト、画像、音声、動画でトレーニングされ、4つの入力をネイティブに処理しますが、出力はテキストのみです。このモデルは、中国のAIモデルに対抗する西洋のオープンソース代替品として位置づけられており、「思考努力」コントロールや不確実性フラグ機能を備えています。開発者は、同社のTinker APIを介してモデルをファインチューニングできます。Thinking Machinesは、APIアクセスではなくTinkerプラットフォームの使用料で収益を得る計画で、AI業界のビジネスモデルに変革をもたらす可能性があります。
ミラ・ムラティ氏が率いるThinking Machines Lab Inc.は本日、最初の基盤モデル「Inkling」を発表し、開発者が自由にファインチューニングできるように完全なオープンウェイトを公開しました。Inklingは、Thinking Machinesがゼロから完全にトレーニングした最初のモデルであり、それまでは主に大規模な資金調達やNVIDIA Corp.との提携で話題を集めていました。
ブログ記事でThinking Machinesは、Inklingが混合エキスパートモデルであり、9750億のパラメータを持つが、平均的なプロンプトではそのうちのごく一部（約410億）のみを呼び出してタスクを高速処理し、コストを低く抑えると説明しています。同社によると、モデルは約45兆トークンのテキスト、画像、音声、動画でトレーニングされ、これら4つの入力をネイティブに推論できますが、出力はテキストのみで、コード、スタイル化されたアーティファクト、構造化データが含まれます。
Inklingの発表は、Thinking Machinesが低コストの中国製AIモデルを受け入れる西洋企業の増加に対して、別の選択肢を提供したいと考えていることを示唆しています。なぜなら、このモデルは西側のオープンソースAIエコシステムのギャップを埋めるように見えるからです。そのギャップは、Meta Platforms Inc.がLlamaモデルファミリーを軽視し、最新のAIシステムでよりプロプライエタリなアプローチを採用してからさらに拡大しています。
ムラティ氏は以前OpenAI Group PBCの最高技術責任者を務め、2024年9月に退社しました。彼女は自社がアクセシビリティ、カスタマイズ、マルチモーダルコラボレーションに注力していると繰り返し強調しており、それはInklingに明らかに表れています。Inklingは完全なオープンウェイトでダウンロードできるため、開発者はモデルの完全なコードベースを確認し、高額なライセンス料を支払うことなくさまざまなユースケースに合わせて調整できます。また、「思考努力」コントロールを備えており、開発者は処理速度を犠牲にして精度を上げるなどのトレードオフを行うことができます。ユニークな点として、モデルは単に幻覚を出力するのではなく、出力に不確実性フラグを付けます。
開発者は、同社が10月にローンチしたトレーニングAPIであるTinker上で直接モデルをファインチューニングできます。初期のテスト結果では、InklingはNVIDIAのNemotron 3 Ultraモデルと同等のコーディング性能を、トークン使用量を3分の2削減して達成しました。Bridgewater Associates LPとの協力では、研究者がTinkerプラットフォームを使用して専門的な金融データでオープンモデルをファインチューニングした結果、低コストで軽量なモデルが得られ、主要な金融推論ベンチマークで84.7%という印象的なスコアを記録し、最先端のプロプライエタリな代替品を10%未満のコストで上回りました。
Thinking Machinesは、Inklingをゼロから9ヶ月未満で開発できたと述べており、OpenAIやAnthropic PBCなどの競合他社で見られる数年単位の開発期間を大幅に下回っています。モデルを発表するXの投稿で、同社はNVIDIAのGB300 NVL72システム上でトレーニングされたと説明しており、これは3月に発表された両社の提携によるものです。
Thinking Machinesは、従量制APIを介したアクセス料金を顧客に請求する代わりに、Tinkerを通じて収益を生み出す計画です。Tinkerは、開発者が特定のタスク向けにオープンウェイトモデルを簡単にファインチューニングできる有料サービスです。これは、オープンウェイトAIモデルがシリコンバレーの大手AI企業が先駆けた閉鎖的な有料アクセスモデルを破壊する力を持っているかどうかを示す重要なテストとなるでしょう。
Constellation Researchのアナリスト、Holger Mueller氏はSiliconANGLEに対し、Thinking MachinesのビジネスモデルはInklingモデルそのものよりも最大の革新である可能性があると語っています。「競合他社がモデルアクセスに対して課金するのとは異なり、Thinking MachinesはTinkerプラットフォームに対して課金しています。企業はおそらく自社のユースケースに合わせてInklingをカスタマイズするためにこのプラットフォームを使いたがるでしょう」とMueller氏は述べています。「成功すれば、大規模言語モデルのコモディティ化がさらに加速し、企業はAI投資に対する投資収益率をより容易に実現できるようになります。これはAI業界を大きく揺るがす可能性があります。」