オープンモデル総まとめ：Kimi K3、Qwen 3.8、習近平のWAICスピーチ、蒸留、オープン対クローズドの差、そして次の展開
このポッドキャストでは、NathanとFlorianがオープンAIモデルの最近の動向について議論します。Kimi K3のリリース、Qwenのオープン戦略、WAICでの習近平によるオープンソース支持演説、オープンとクローズドモデルの性能差、蒸留をめぐる論争などがテーマです。中国モデルの優秀さの理由、米国オープンモデルエコシステムの現状、今後の予測について深掘りします。
オープンモデルの現状を深く掘り下げたポッドキャストで、Nathan LambertとFlorian BrandがKimi K3のリリースを中心に議論を交わしました。Kimi K3は最近最も注目されるオープンウェイトモデルの一つで、特にコーディングやデータ分析において驚くべき性能を発揮しています。Nathanは自身の使用体験を共有し、最上位プランに加入した後、ウェブスクレイピングやReddit分析などのタスクで独自の洞察を提供する点を評価しました。ただし、サーバーが中国にありユーザー数が多いため、APIの応答速度が遅いことが実用上の課題となっています。
Florianは工学的な観点からKimi K3を評価し、生成されるコードは簡潔で読みやすいものの、機能の深さではCodexやClaudeに一歩劣ると述べました。それでも、実験の監視や迅速なプロトタイピングには十分実用的だとしています。また、GLM 5.2の継続的な価値にも触れ、サブエージェントタスクに適した「Sonnet級」のモデルと評しました。
両氏は中国モデルがなぜこれほど優れているのかについても考察しました。中国のラボがデータ、環境、トレーニング規模に多大な投資を行い、さらに政府がオープンソース戦略を支援している（WAICでの習近平演説）ことが、モデル能力の急速な向上につながっていると分析。Qwenが次世代モデルをオープンウェイトでリリースする発表は、オープンエコシステムにとって大きな変化です。
オープンとクローズドモデルの性能差について、Nathanはその差がタスクによって大きく異なると強調。ソフトウェア工学の分野では数ヶ月の遅れしかないが、特定の用途（Claude Codeなど）ではその差が重要になると指摘しました。ポストトレーニングによる最適化で、オープンモデルが特定領域でクローズドモデルを凌駕する可能性も示唆。Florianは、人々が異なるベンチマークを使って差を誇張したり縮小したりしていると批判し、実際の性能はシナリオに依存すると述べました。
蒸留技術も焦点となり、両氏は単なるコピーではなく革新を伴うべきだと主張。今後、オープンモデルはさらに加速すると予測する一方、インフラとポストトレーニング能力が鍵となると結論づけました。全体として、オープンモデルエコシステムは急速に専門化しているが、クローズドモデルとの動的な競争は続いています。
さらに、米国のオープンモデルエコシステムの現状、フロンティアと準フロンティアの区分、サイバーセキュリティの議論にも言及。将来のモデル階層予測や、オープン対クローズドの競争展望も語られました。
最後に、Nathanの著書『ポストトレーニング知識の共有』が間もなく発売され、現在AmazonのAI部門で1位になっていることも紹介されました。