在最新一期 Interconnects 播客中,Nathan Lambert 與評測專家 Florian Brand(近期移居舊金山)圍繞本週 AI 領域的諸多權衡與熱點問題展開討論,核心話題是 Kimi K3.1 Pro 的釋出及其引發的爭議,隨後延伸到網路安全現實、開源權重模型風險、以及 Muse 等輕鬆話題。節目在結尾表示,兩位主播計劃今後錄製更多此類播客,並歡迎聽眾傳送問題與選題。
關於 Kimi K3.1 Pro,Florian 指出,過去 Kimi 系列模型總能達到預期,但這次釋出相比以往顯得“有點奇怪”。部分原因是團隊正變得更專業:以往模型釋出往往“從天而降”,而這次他們開展了規模更大的社交媒體宣傳,據稱還涉及付費請人發帖卻未披露。Nathan 表示,很多公司都這麼做並要求不提及付費,但這是糟糕的做法,任何公司都不應如此;有人曾曬出 Kimi 媒體指引截圖,其中要求“不要說是付費推廣”,不過據他所知,之後無人證實此事。Florian 補充說,目前包括美國公司在內的多次模型釋出都明視訊記憶體在“水軍”操作,有些披露是付費廣告、有些沒有;過去一年模型釋出迅速專業化——一年前大家只是釋出模型、之後再修補 vLLM,導致一段時間內無人能真正執行開源模型;如今釋出首日即有全套推理框架和推理服務商,也越來越常見的是模型方在放出權重前享有數週獨家訪問期,K3.1 Pro 也是如此,據稱有兩週獨家期後才釋出權重。Nathan 提到,官方稱權重將於 11 月 4 日前釋出。頭條資料是 Artificial Analysis 上它領先於 GPT-6 Astra;Kimi K3.1 部落格中的頭條數字非常強,但後面一些數字顯得參差不齊,例如 Terminal-Bench Science 落後 GPT-6 Astra 約 20 分,ProgramBench 等也類似。Nathan 在 Twitter 發帖徵詢印象,反饋褒貶不一:有人覺得“似乎不太好”,也有人認為“還行”;相比 K3 幾乎一致的好評,這次感覺像一個大模型但後訓練略顯“火候不足”,也許有點被 RL“烤糊”了,最終還要看結果。
兩人討論了基準測試的差異。Florian 指出,Artificial Analysis 當前使用的基準時間跨度較短,而 ProgramBench 這類則很長且極具探索性;其他基準往往直接告訴模型目標,而 ProgramBench 更要求大量探索。這可能解釋了差異:Kimi 的 RL 訓練仍偏向“利用型”(exploitative)而非“探索型”(explorative)。Nathan 認為,如果用三萬億美元引數級別的模型,人們會希望它在探索上足夠穩健;若用於已知的編碼任務,像 DeepSeek-V4.1-Flash-1017 這類分數差距不大的模型會快得多,按實際 token 計成本也許差別不大。因此對這次 Kimi 釋出的批評是合理的:大模型必須足夠好,因為它更慢;而開源權重模型在“苦幹型”場景更有優勢,可以做得更快更便宜。Nathan 還注意到命名變化——以往是 K2、K2.6、K3,如今是 K3.1 Pro,似乎是在為 Flash 風格的釋出鋪路;Twitter 上投資與公司預測圈認為此事對 Kimi 關係重大。服務三萬億引數模型相比 7000 億引數模型需要更多資源,可能要用 NVL72 機架。Florian 補充,要裝下模型需要 B300,每個模型副本佔一個節點,這頗為尷尬;而其他模型甚至能裝進 H100 或更易獲取的 H200。拆分模型總比“一節點一副本”或用現有節點裝下全部權重更麻煩,因此三萬億引數正好處於“勉強可合理託管”的範圍,但相比各類 Flash 和小模型,無法利用人們手中大量現有 GPU,確實令人頭疼。
話題轉向 Kimi 在部落格中宣告“抑制自身網路能力”是否自損。Nathan 讀出部落格內容:“開源權重原則。這些評估構成我們開源釋出決策的框架。第一,我們的目標是不釋出會拓展網路能力絕對前沿的開源權重。K3.1 Pro 的進攻性網路能力按設計低於我們流水線所能產出的水平,並仍落後於前沿閉源模型。”文中還提到他們在中訓練階段操縱資料以降低網路能力權重,並觀察到這一效果可延續到後訓練。Florian 認為人們完全可以把這些事情分開看,這種釋出方式很好:希望廣泛開放讓所有人發現並修補漏洞,對世界是淨收益;Kimi 表示仍釋出具備防禦能力的模型,但不推進進攻側。他從網路安全專業人士處瞭解到,攻破整個組織要難得多,因為需要長時程能力並在各入侵階段持續保持,而這正是閉源模型(尤其是常被提及的 GPT-5.6 Sol)遠強於開源模型之處;我們希望所有程式碼儘快變得安全,而這不需要長時程能力,也不需要 CTF 類挑戰,因此將這些排除出訓練組合是合理決定,也有助於抵禦“一旦釋出 Mythos 級開源模型世界就完蛋”的恐慌論調——而這種情況迄今未發生,近期也不太可能發生。開源模型在這方面受到的審視遠多於閉源模型,把自己定位為“負責任的行為者”是聰明之舉。
隨後進入“你可以黑掉一切”的環節。兩人都自認不是網路專家,但認為值得討論。Nathan 表示,他閱讀的網路專家多從生態系統角度出發:漏洞檢測、利用所需時間等指標在 ChatGPT 出現前就呈指數增長,AI 模型出現後並未出現階躍式變化;而 AI 圈則熱衷爭論開源與閉源、Mythos 等;中間地帶則是 Daybreak 專案、Mythos 等對更廣泛社會的實際影響——他坦言自己也在摸索,不想過度簡化。節目隨後轉到較輕鬆的話題,包括 31:41 處“Anthropic 不招聘初級員工”的討論(引用了 Anthropic 關於其就業變化的文章)、36:16 處 Florian 的“Muse 成癮”,以及 45:30 的總結。節目還提到若干連結:Nathan 與 Dean Ball 關於前沿實驗室“狼來了”故事的討論帖、Kimi K3.1 Pro 釋出部落格、其在 Artificial Analysis 智慧指數與防禦性網路基準上的成績、Program Bench、“開源權重 Mythos 本來也沒事”的觀點、PHP“至今未釀成大禍”的更新、Abliteration.ai 提供去除審查(abliterated)模型的 API、Morph 透過 API 提供 abliterated DeepSeek、Joshua Saxe 關於 AI 與網路安全的 Substack、Azeem Azhar 的《網際網路的武漢時刻》、Anthropic 的就業變化文章,以及 LiteLLM 安全事件報告。完整章節包括:00:00 Kimi K3.1 反應、08:15 Kimi 的開源權重網路原則、11:23“你可以黑掉一切”時代、15:54 PHP2Shell、LiteLLM 與新網際網路、24:00 Abliterated API、防護措施與可信訪問、31:41 Anthropic 不招初級員工、36:16 Florian 的 Muse 成癮、45:30 總結。