AI News HubLIVE
站內改寫2 分鐘閱讀

介紹 Kimi K3

Kimi K3 是 Kimi 迄今為止最強大的模型,擁有 2.8 萬億引數,基於 Kimi Delta Attention 和 Attention Residuals 架構,支援原生視覺理解和 1M 令牌上下文視窗。它在軟體工程、知識工作和深度推理等前沿智慧場景中表現出色,在基準測試中僅次於 Claude Fable 5 和 GPT-5.6 Sol。Kimi K3 是首個達到 2.8 萬億引數規模的開源模型,並將在近期釋出完整權重和技術報告。

來源Hacker News AI作者: WithinReason

Kimi 正式釋出了其最新模型 Kimi K3,這是該公司迄今為止最強大的模型,擁有 2.8 萬億引數。Kimi K3 基於創新的 Kimi Delta Attention(一種混合線性注意力機制)和 Attention Residuals 架構構建,支援原生視覺理解和高達 1M 令牌的上下文視窗,適用於軟體工程、知識工作和深度推理等前沿智慧場景。

在內部評估中,Kimi K3 展現出前沿效能。在測試的模型中,其整體智慧排名僅次於 Claude Fable 5 和 GPT-5.6 Sol。完整的基準測試結果將在技術部落格中公佈。Kimi K3 的完整模型權重將在未來幾天內釋出,同時還將釋出包含架構、訓練和評估詳細內容的技術報告。

Kimi K3 是首個達到 2.8 萬億引數規模的開源模型,這標誌著 Kimi 在擴充套件模型規模方面的持續努力。在過去 12 個月中,Kimi 有 9 個月創下了開源模型規模的新紀錄。該模型採用了 Kimi Delta Attention (KDA) 和 Attention Residuals (AttnRes) 架構,這些架構更新旨在使資訊在更長的序列和更深的模型中更流暢地流動。此外,透過 Stable LatentMoE 框架,模型高效地啟用了 896 個專家中的 16 個,進一步提高了混合專家模型的稀疏性。結合訓練方法和資料配方的改進,這些結構進步使得 K3 的整體擴充套件效率約為 K2 的 2.5 倍。

在編碼方面,Kimi K3 是迄今為止最強大的編碼模型。它能夠在長期軟體工程任務中保持進步:理解大型程式碼庫、操作終端、協調工具呼叫、檢查執行時行為,並在失敗後自主恢復,只需最小的人工干預。K3 在結合軟體工程、視覺理解和空間推理的任務上提升尤為顯著。它可以在原始碼和渲染輸出之間來回移動,利用截圖、日誌、測試結果和執行時狀態來決定下一步更改,特別適合遊戲開發、前端工程、CAD 工作流和基礎設施最佳化。

在知識工作方面,K3 推動了端到端知識工作的邊界。在 GDPval-AA v2 排行榜上,Kimi K3 得分 1687,僅次於 Claude Fable 5 Max 和 GPT-5.6 Sol Max,領先於 Claude Opus 4.8 Max(1600 分)。在 AA-Briefcase 基準測試中,Kimi K3 得分 1527,在所有模型中排名第二,僅次於 Claude Fable 5 Max,領先於 GPT-5.6 Sol Max(1495 分)。得益於 1M 上下文視窗,在單智慧體設定中,Kimi K3 在 BrowseComp 上取得了 91.2 的 SOTA 分數,無需上下文壓縮或額外的上下文管理技術,展示了在長週期、高難度資訊尋求任務中的出色能力。

Kimi K3 還提供了豐富的 API 使用方式,包括基本呼叫、思考努力設定、流式輸出、視覺輸入、結構化輸出、部分模式、自定義工具和動態工具載入等。上下文快取是自動的,無需額外引數。官方工具透過 Formula 整合。當前重要限制包括:reasoning_effort 僅支援 max 級別,K3 始終啟用思考模式;max_completion_tokens 預設為 131072,最高可設為 1048576;temperature、top_p 等引數固定;視覺輸入不支援公開圖片 URL;網路搜尋功能正在更新,暫不建議使用。

Kimi K3 採用統一的按量計費定價,不按上下文長度分級。輸入(快取命中和未命中分別計費)和輸出均按每令牌統一價格收費。