Kimi K3オープンウェイトモデル：中国最大のAIは計算ではなくメモリに賭ける

月之暗面（Moonshot AI）は7月16日、2.8兆パラメータのオープンウェイトモデル「Kimi K3」を発表しました。これは公開されたオープンウェイトモデルとしては最大で、業界で3Tクラスと呼ばれる規模に達します。しかし、パラメータ数は最も注目される一方で、実際の動作を説明する要素としては最も重要ではありません。

K3の設計の核心は、「計算」ではなく「メモリ」に重点を置くことです。米国のチップ輸出制限により、中国のラボは先端計算チップを入手しづらくなっています。月之暗面は、混合専門家（MoE）アーキテクチャを採用し、モデルを896の専門モジュールに分割。各推論で16モジュール（全体の約1.8%）だけを活性化することで計算量を大幅に削減します。しかし、すべてのパラメータは依然としてメモリ上に保持されるため、メモリ負荷は変わりません。そこで、量子化認識訓練によりパラメータ精度を16ビットから4ビットに下げ、モデルサイズを約1.4TBに圧縮（フル精度なら5.6TB）。さらに、Kimi Delta Attention機構は長文処理時のメモリボトルネックを緩和し、最大100万トークンのコンテキストを可能にします。これらの最適化により、同社はK3を競争力のある価格で提供できるとしています。

月之暗面は、K3を64基以上のアクセラレータで接続した一つのプールとして実行することを推奨しており、これはHuaweiのCloudMatrixシステムと同様のアプローチです。つまり、多数の標準的なチップからメモリを集約することで、高度な計算能力に依存せずに大規模モデルを動かすことが可能になります。ただし、これらのチップが中国製かどうかは不明で、テストにはNVIDIA H200と匿名の「代替GPU」が使用されました。米国は中国企業による海外クラウド経由のアクセスを制限する法案を可決しており、中国のチップ産業はメモリ分野で最も遅れをとっています。

企業にとって、K3のオープンウェイトは自社環境でのデプロイを可能にしますが、そのコストは無視できません。モデルウェイトは約1.4TBで、データセンター級のリソースが必要です。多くの企業は専用容量をレンタルすることになりますが、それはインフラプロバイダーへの依存を意味します。ソフトウェア側も準備が整っておらず、標準的なオープンソース推論ツールはK3の新アーキテクチャをサポートしていません。7月27日のウェイト公開日と実際に使える日は異なると考えるべきです。

価格は、入力トークン100万あたり3ドル、出力トークン100万あたり15ドルで、前世代のKimiモデルや一部競合（z.aiのGLM-5.2、DeepSeek V4）より高く設定されています。また、ローンチ時は最大推論努力モードのみで、低モードは後日提供予定のため、推論コストが高くなる可能性があります。

パフォーマンス面では、Arenaのフロントエンドコード評価でFable 5を抑えて1位を獲得しましたが、月之暗面自身はK3の総合性能がClaude Fable 5やGPT 5.6 Solに劣ると認めています。また、評価に用いたSWE MarathonテストではFable 5が35%のタスクでフォールバックしており、測定値に影響を与えた可能性があります。すべてのベンチマークはウェイト公開後に独立検証される必要があります。

バンク・オブ・アメリカのアナリストは、K3が計算制約下でも大規模事前学習とアーキテクチャ革新による飛躍的改善が可能であることを示したと評価しています。オープンウェイトモデルの利用は増加傾向にありますが、K3がその流れに乗るかどうかは、実用性とコスト次第です。