Kimi K3 開放權重模型：中國最大的人工智能押注內存而非算力

月之暗面於7月16日發佈了Kimi K3開放權重模型，其2.8萬億參數立即成為焦點。這是目前最大的開放權重模型，將模型規模推升至3T級別。然而，參數數量只是K3最引人注目的部分，卻最不能解釋其運行原理。

K3的設計核心在於用內存換計算。美國芯片出口管制限制了中國獲取先進計算芯片，月之暗面通過架構創新來繞過這一限制。主要技術包括混合專家（MoE）架構：模型分為896個專家模塊，每次只調用16個，計算量大幅下降，但所有2.8萬億參數仍需駐留內存。為此，月之暗面採用了量化感知訓練，將參數精度從16位降至4位，使模型大小從5.6TB縮減至約1.4TB。此外，Kimi Delta注意力機制針對長文本處理的內存瓶頸進行優化，支持百萬token上下文，配合緩存代碼顯著降低推理成本。

月之暗面建議K3在64個或更多加速器上運行，類似於華為的CloudMatrix方案。這表明真正的突破口在於通過大量普通芯片聚合內存，而非依賴高端計算芯片。然而，這些芯片是否基於國產硅尚不明確——測試使用了NVIDIA H200和未具名的“替代GPU”。美國已通過法案限制中國通過雲租用海外算力，而中國在內存領域的技術差距比計算領域更大。2025年8月的貿易談判中，中國請求放寬高帶寬內存限制，而非光刻機或台積電服務，這凸顯了內存瓶頸的關鍵性。

對企業而言，K3的開放權重意味着可以自主部署，但代價高昂。模型權重約1.4TB，需要數據中心級基礎設施。大多數企業可能選擇租賃專用算力，這雖然能遵守數據主權法規，但無法擺脱對基礎設施提供商的依賴。軟件生態尚未就緒，主流開源推理工具尚不支持K3的架構創新，實際可用時間可能晚於7月27日的權重發布日。

定價方面，K3輸入token每百萬3美元，輸出每百萬15美元，高於前代和部分競品，但低於Fable 5。初始僅支持最大推理模式，後續將推出低推理模式。企業需按任務總成本預算。

性能上，K3在Arena前端代碼測試中排名第一，但月之暗面承認整體性能仍落後於Claude Fable 5和GPT 5.6 Sol，並列出三點侷限：生成質量可能不穩定、意圖模糊時可能自主決策、用户體驗有差距。此外，SWE馬拉松評估中Fable 5曾觸發35%的後備模式，可能影響得分。所有基準測試結果需等權重公開後獨立驗證。

美國銀行分析師指出，K3表明在算力受限下，大規模預訓練結合架構創新仍能帶來躍升。開放權重模型的使用量正在快速增長，但K3能否成為主流取決於其實際部署成本和性能表現。