介紹 Kimi K3
Kimi K3 是 Kimi 迄今為止最強大的模型,擁有 2.8 萬億參數,基於 Kimi Delta Attention 和 Attention Residuals 架構,支持原生視覺理解和 1M 令牌上下文窗口。它在軟件工程、知識工作和深度推理等前沿智能場景中表現出色,在基準測試中僅次於 Claude Fable 5 和 GPT-5.6 Sol。Kimi K3 是首個達到 2.8 萬億參數規模的開源模型,並將在近期發佈完整權重和技術報告。
Kimi 正式發佈了其最新模型 Kimi K3,這是該公司迄今為止最強大的模型,擁有 2.8 萬億參數。Kimi K3 基於創新的 Kimi Delta Attention(一種混合線性注意力機制)和 Attention Residuals 架構構建,支持原生視覺理解和高達 1M 令牌的上下文窗口,適用於軟件工程、知識工作和深度推理等前沿智能場景。
在內部評估中,Kimi K3 展現出前沿性能。在測試的模型中,其整體智能排名僅次於 Claude Fable 5 和 GPT-5.6 Sol。完整的基準測試結果將在技術博客中公佈。Kimi K3 的完整模型權重將在未來幾天內發佈,同時還將發佈包含架構、訓練和評估詳細內容的技術報告。
Kimi K3 是首個達到 2.8 萬億參數規模的開源模型,這標誌着 Kimi 在擴展模型規模方面的持續努力。在過去 12 個月中,Kimi 有 9 個月創下了開源模型規模的新紀錄。該模型採用了 Kimi Delta Attention (KDA) 和 Attention Residuals (AttnRes) 架構,這些架構更新旨在使信息在更長的序列和更深的模型中更流暢地流動。此外,通過 Stable LatentMoE 框架,模型高效地激活了 896 個專家中的 16 個,進一步提高了混合專家模型的稀疏性。結合訓練方法和數據配方的改進,這些結構進步使得 K3 的整體擴展效率約為 K2 的 2.5 倍。
在編碼方面,Kimi K3 是迄今為止最強大的編碼模型。它能夠在長期軟件工程任務中保持進步:理解大型代碼庫、操作終端、協調工具調用、檢查運行時行為,並在失敗後自主恢復,只需最小的人工干預。K3 在結合軟件工程、視覺理解和空間推理的任務上提升尤為顯著。它可以在源代碼和渲染輸出之間來回移動,利用截圖、日誌、測試結果和運行時狀態來決定下一步更改,特別適合遊戲開發、前端工程、CAD 工作流和基礎設施優化。
在知識工作方面,K3 推動了端到端知識工作的邊界。在 GDPval-AA v2 排行榜上,Kimi K3 得分 1687,僅次於 Claude Fable 5 Max 和 GPT-5.6 Sol Max,領先於 Claude Opus 4.8 Max(1600 分)。在 AA-Briefcase 基準測試中,Kimi K3 得分 1527,在所有模型中排名第二,僅次於 Claude Fable 5 Max,領先於 GPT-5.6 Sol Max(1495 分)。得益於 1M 上下文窗口,在單智能體設置中,Kimi K3 在 BrowseComp 上取得了 91.2 的 SOTA 分數,無需上下文壓縮或額外的上下文管理技術,展示了在長週期、高難度信息尋求任務中的出色能力。
Kimi K3 還提供了豐富的 API 使用方式,包括基本調用、思考努力設置、流式輸出、視覺輸入、結構化輸出、部分模式、自定義工具和動態工具加載等。上下文緩存是自動的,無需額外參數。官方工具通過 Formula 集成。當前重要限制包括:reasoning_effort 僅支持 max 級別,K3 始終啓用思考模式;max_completion_tokens 默認為 131072,最高可設為 1048576;temperature、top_p 等參數固定;視覺輸入不支持公開圖片 URL;網絡搜索功能正在更新,暫不建議使用。
Kimi K3 採用統一的按量計費定價,不按上下文長度分級。輸入(緩存命中和未命中分別計費)和輸出均按每令牌統一價格收費。