Thinking Machines Lab は 2026 年 7 月 15 日、初の汎用オープンウェイト基盤モデルである Inkling をリリースしました。Inkling はマルチモーダルなテキスト、画像、音声を処理し、テキスト出力を生成します。スパース Mixture-of-Experts（MoE）アーキテクチャを採用し、総パラメータ数 9750 億、アクティブパラメータは約 410 億で、推論コストを大幅に削減。コンテキストウィンドウは最大 100 万トークン（Tinker 上では 64K または 256K）。Apache 2.0 ライセンスで公開され、商用利用、改変、再配布が可能です。カスタマイズとファインチューニングを重視し、マルチモーダル推論、エージェント AI、コーディング、ツール使用、音声・視覚タスク、ドメイン固有の微調整に適しています。
アーキテクチャの詳細 Inkling は 66 層のデコーダーオンリーマルチモーダル Transformer です。各 MoE 層には 256 のルーティングエキスパートと 2 つの共有エキスパートがあり、トークンごとに 6 つのルーティングエキスパートと 2 つの共有エキスパートが活性化されます。ルーティングはシグモイドスコアに基づき、補助損失なしの負荷分散を実現。ハイブリッド注意機構では、5 つのスライディングウィンドウ注意層の後に 1 つのグローバル注意層を配置し、長いコンテキストを効率的に処理。位置エンコーディングには相対位置表現を採用し、長いコンテキストへの外挿を改善。また、キー・バリュープロジェクション後および注意・MLP 出力前に短い畳み込みを適用し、局所パターンを捉えます。さらに、マルチトークン予測層により、投機的デコードで推論を高速化。
マルチモーダル処理 テキストは標準的な自己回帰トークン化、画像は 40×40 パッチに分割され 4 層の階層 MLP でエンコード（推奨サイズ 40-4096 ピクセル）、音声は離散化メルスペクトログラム（dMel）埋め込みに変換（16 kHz WAV、20 分以内推奨）。動画はプリトレーニングに含まれましたが、直接使用は評価されておらず、プロダクション用途にはファインチューニングが推奨されています。
トレーニングとポストトレーニング プリトレーニングは 45 兆トークン（テキスト、画像、音声、動画）で実施。データは公開、サードパーティ、合成、拡張ソースを組み合わせ、徹底的なクリーニング、重複除去、品質フィルタリング、安全性処理を実施。最適化には大規模行列重みに Muon、その他パラメータに Adam を使用し、学習率二乗に比例する重み減衰スケジューリングを採用。ポストトレーニングでは、まず複数のオープンウェイトモデル（Kimi K2.5 など）による合成データで監督付きファインチューニング（SFT）を実施。その後、大規模強化学習を数学、推論、エージェント的コーディング、ツール使用、視覚、音声、対話、指示追従、校正、安全性などの領域で実施。強化学習ロールアウトは 3000 万回を超え、集約推論報酬は SFT 初期化後の 0.264 からリリースチェックポイントの 0.356 に向上。トレーニングは NVIDIA GB300 NVL72 システムで行われました。
自己ファインチューニング Inkling の注目すべき機能として、コードアシスタントと Tinker プラットフォームを通じた自己ファインチューニングが可能です。デモでは、Inkling がリポグラムアシスタント（文字「e」を避ける）になるよう指示され、コーディングエージェントワークフローを使って目標行動の定義、合成トレーニング例の生成、評価ロジックの作成、Tinker ファインチューニングジョブの投入、評価、そしてファインチューニング済みモデルのロードを自動的に行いました。これはモデルが自律的に重みを変更するわけではなく、ツールを使ってカスタマイズワークフローを設計・実行するもので、手動エンジニアリングの負担を軽減します。
ベンチマーク結果 Inkling は特定のベンチマークでトップを目指すのではなく、バランスの取れた汎用モデルとして設計されています。数学的推論（AIME 2026）、科学的推論（GPQA Diamond）、指示追従（IFBench）、音声理解（VoiceBench）、視覚推論で強力な結果を示しています。特にツール使用、検索、外部計算と組み合わせることで性能が向上します。コーディングでは、リポジトリレベルのタスク、ツール呼び出し、端末操作などを処理し、オープンウェイトモデルの中ではトップクラスですが、SWE-bench Pro や Terminal Bench ではクローズドモデルに劣ります。事実性は弱点であり、高リスクアプリケーションには検索、引用、人間のレビューが必要です。視覚と音声のネイティブサポートは大きな強みで、チャート、図表、文書、数学的ビジュアル、音声指示を理解できます。
アクセス方法 Inkling は複数の方法で利用可能です：Tinker Playground（100 万トークンコンテキスト対応）、Hugging Face（重みのダウンロード）、Together AI、Fireworks、Modal、Databricks、Baseten などのホステッドプロバイダー、およびセルフホスト（Transformers、SGLang、vLLM、llama.cpp など）。NVFP4 量子化フォーマットも提供され、ローカル推論の VRAM 要件を低減します。また、より小規模な Inkling-Small も利用可能です。
結論 Inkling は、ベンチマークスコアよりもカスタマイズ性とオープン性を重視したモデルです。マルチモーダル能力、強力な推論とコーディング、幅広い展開オプションにより、研究チームやエンタープライズにとって魅力的な選択肢です。事実性の課題はあるものの、適切な検索増強と検証プロセスで補うことができます。オープンウェイトライセンスと自己ファインチューニング機能は、AI の民主化と効率的なカスタマイズに貢献するでしょう。