Interconnects (Nathan Lambert)

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：Podcast #19

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：The expanded form of a testimony I prepared for Congress.

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：An “AI moderate’s” view on recent events and the trajectory of frontier models.

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：How to get up to speed on open models and their implications.

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：Some quick notes on a truly weird week.

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：We’re <5 years into a compounding revolution which could take a century, and how the AI industry should manage this.

オープンモデルエコシステムの最新動向をお届け。欧米勢はApache 2.0など寛容なライセンスを選ぶ一方、中国のフロンティア企業は制約を強めており、Zhipu GLM-5.3は売上高100億ドル以上の場合にZ.AIのセキュリティ審査を求める独自ライセンスを採用。Motif-3、dots3-note-prev、Qwen3.8-Flash-Next、Hy4-previewなどのリリースも紹介する。

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：Nvidia wants you building your own model, not buying from Anthropic/OpenAI.

Z.ai が公開した GLM-5.3 は、約7500億パラメータでありながら複数のベンチマークで西洋の最先端モデルに匹敵、あるいは上回る。蒸留ではなく、後処理の強み、高速なリリースサイクル、成長するRLデータ産業が要因だと論じ、サイバーセキュリティ上のリスクと段階的リリースの限界にも触れている。

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：Reflections on AI's writing ability and how AI models get more capable.

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：After a few long years of finding time to document my lessons from training open models, my post-training book is done!

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：Musings on model alignment, what determines safety, and where we go from here.

AI サービスが一時的に利用できないため、復旧後に翻訳を補完します。ソース概要：Scaling our curation and measurement of the open ecosystem.

業界統合が予測される一方で、オープンモデルの世界は今も拡大を続けています。今回の記事では、Thinking MachinesのInkling、TencentのHy3、PoolsideのLaguna S2.1、DeepSeek-V4-Flash、Moonshot AIのKimi K3など、注目のリリースを詳しく紹介します。

このポッドキャストでは、NathanとFlorianがオープンAIモデルの最近の動向について議論します。Kimi K3のリリース、Qwenのオープン戦略、WAICでの習近平によるオープンソース支持演説、オープンとクローズドモデルの性能差、蒸留をめぐる論争などがテーマです。中国モデルの優秀さの理由、米国オープンモデルエコシステムの現状、今後の予測について深掘りします。

オープンモデルエコシステムの多様性の傾向を評価し、さまざまな組織（純粋なモデルメーカー、ビッグテック、プロダクト企業）がオープンソースモデルをリリースする動機を分析。NVIDIA、Cohere、Zyphra、Poolsideなどの最新モデルリリースを紹介。

Z.aiがリリースしたGLM-5.2は、オープンウェイトモデルにとって大きな飛躍を表し、エージェントおよびコーディングベンチマークでクローズドソースモデルに匹敵または凌駕します。Claude Fableの禁止の中でリリースされ、経済的・地政学的影響を浮き彫りにし、オープンモデルとクローズドモデルをめぐる議論を引き起こしています。

本記事は、オープンソースAIの禁止や過度な規制は重大な誤りであると主張する。オープンソースソフトウェアは、技術教育、イノベーション、競争に不可欠であり、数兆ドルの経済価値を生み出してきた。AI分野では、オープンソースモデルが独占に対抗し、安全性と透明性を提供する。中国への懸念からオープンソースを制限するのではなく、国内での支援を強化すべきである。

Ai2退職後のキャリアチェンジにあたり、著者はブログInterconnectsの現状を共有。ブログが自身の目標にどう貢献するか、Arcee AIとMercorへのアドバイザリー契約、コメントの有料化や有料記事増加による運営方針について述べる。

このポッドキャストでは、InstructGPTから2026年のマルチティーチャーオン・ポリシー蒸留（MOPD）時代に至るポストトレーニングレシピの進化を掘り下げます。Nathan LambertとFinbarr Timbersが、OLMo-3のようなオープンソースモデルの課題や、フロンティアラボが専門教師と蒸留を活用して性能限界を押し上げる方法を分析します。

AnthropicはClaude Fable 5を発表しました。これは一般公開された中で最も高性能なモデルです。同社は、サイバーセキュリティ、生物学、蒸留などの分野で分類器を使用し、Opus 4.8にフォールバックする安全対策を導入しました。しかし、最先端のLLM開発リクエストに対しては、ユーザーに通知せずにプロンプトを変更するなど静かな介入を行い、信頼を損ねています。この記事は、その不整合を批判し、AI安全性とオープンソースへの影響を考察しています。

Nathan Lambertが、Allen Institute for AI（Ai2）での経験を振り返ります。彼はOlmoモデルの開発に携わり、Tülu 3などのプロジェクトを主導しました。オープンリサーチの重要性を強調し、一介の研究者からAI分野で著名な存在へと成長した道のりを語ります。

2026年のAIはさらなる加速を続け、オープンモデルはエージェント能力で遅れをとり、GoogleのGeminiはClaude CodeやCodexに対抗できず、アメリカのオープンモデルが台頭し、AnthropicとOpenAIの競争が激化、既存の権力構造がAIに関与し始めている。

今月はオープンフロンティアラボから次々に新モデルがリリースされました。CAISIの評価ではオープンモデルは米国フロンティアに遅れをとっており、ギャップが拡大しているとされていますが、評価手法には疑問が呈されています。注目モデルとしてMiMo-V2.5-Pro、Gemma-4、Kimi-K2.6、Laguna-XS.2、DeepSeek-V4-Flashなどが紹介されています。

本記事では、フロンティアモデルの計算資源の約80%が研究開発に使用され、最終トレーニングではないと説明。中国のようなオープンエコシステムは重複する研究開発コストを削減する。オープンモデルは将来の開発コストを下げるが、導入コストはクローズドソリューションより高い。著者は競争力維持のためにオープンモデルコンソーシアムの必要性を主張。

中国の主要なAIラボを訪問した著者は、謙虚で実用的なファストフォロワー文化を発見した。中国の研究者（多くは学生）は、エゴが少なく、哲学的な議論よりも構築に集中している。エコシステムは初期の国内AI需要を示すが、データ産業は未発達で、Nvidiaチップへの渇望が強い。

オープンモデルとクローズドモデルの性能差は単一の数値では測れず、ベンチマークの進化、実世界での性能、訓練パラダイムの変化が関与する。ベンチマークの信頼性は低下し、フロンティアラボは収益維持のために常に革新を迫られている。中国のオープンモデルはベンチマークで優れるが、ロバストネスや実用面では課題がある。

この記事は、ATOMレポートの更新、RLHF本の完成と予約開始、ポストトレーニングコースの制作、そして2つの研究論文への関与など、著者の最近の取り組みをまとめたものです。

本記事は、Claude Mythosモデルの発表後に生じたオープンウェイトAIモデルに対する恐怖の波を分析する。著者は、過去の誇張された恐怖と同様であると主張し、全面禁止ではなく詳細な研究を求める。

本記事では、2026年のオープンモデル競争環境、成功要因（性能、出身国、ライセンス、ツールサポート、ファインチューニング容易性）を探り、Googleの最新Gemma 4シリーズを分析。オープンモデルの成功はベンチマークスコアよりも、使いやすさとエコシステムのサポートに依存すると論じる。