跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

介绍 Kimi K3

文章摘要

Kimi K3 是 Kimi 迄今为止最强大的模型,拥有 2.8 万亿参数,基于 Kimi Delta Attention 和 Attention Residuals 架构,支持原生视觉理解和 1M 令牌上下文窗口。它在软件工程、知识工作和深度推理等前沿智能场景中表现出色,在基准测试中仅次于 Claude Fable 5 和 GPT-5.6 Sol。Kimi K3 是首个达到 2.8 万亿参数规模的开源模型,并将在近期发布完整权重和技术报告。

来源Hacker News AI作者: WithinReason
介绍 Kimi K3
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

Kimi 正式发布了其最新模型 Kimi K3,这是该公司迄今为止最强大的模型,拥有 2.8 万亿参数。Kimi K3 基于创新的 Kimi Delta Attention(一种混合线性注意力机制)和 Attention Residuals 架构构建,支持原生视觉理解和高达 1M 令牌的上下文窗口,适用于软件工程、知识工作和深度推理等前沿智能场景。

在内部评估中,Kimi K3 展现出前沿性能。在测试的模型中,其整体智能排名仅次于 Claude Fable 5 和 GPT-5.6 Sol。完整的基准测试结果将在技术博客中公布。Kimi K3 的完整模型权重将在未来几天内发布,同时还将发布包含架构、训练和评估详细内容的技术报告。

Kimi K3 是首个达到 2.8 万亿参数规模的开源模型,这标志着 Kimi 在扩展模型规模方面的持续努力。在过去 12 个月中,Kimi 有 9 个月创下了开源模型规模的新纪录。该模型采用了 Kimi Delta Attention (KDA) 和 Attention Residuals (AttnRes) 架构,这些架构更新旨在使信息在更长的序列和更深的模型中更流畅地流动。此外,通过 Stable LatentMoE 框架,模型高效地激活了 896 个专家中的 16 个,进一步提高了混合专家模型的稀疏性。结合训练方法和数据配方的改进,这些结构进步使得 K3 的整体扩展效率约为 K2 的 2.5 倍。

在编码方面,Kimi K3 是迄今为止最强大的编码模型。它能够在长期软件工程任务中保持进步:理解大型代码库、操作终端、协调工具调用、检查运行时行为,并在失败后自主恢复,只需最小的人工干预。K3 在结合软件工程、视觉理解和空间推理的任务上提升尤为显著。它可以在源代码和渲染输出之间来回移动,利用截图、日志、测试结果和运行时状态来决定下一步更改,特别适合游戏开发、前端工程、CAD 工作流和基础设施优化。

在知识工作方面,K3 推动了端到端知识工作的边界。在 GDPval-AA v2 排行榜上,Kimi K3 得分 1687,仅次于 Claude Fable 5 Max 和 GPT-5.6 Sol Max,领先于 Claude Opus 4.8 Max(1600 分)。在 AA-Briefcase 基准测试中,Kimi K3 得分 1527,在所有模型中排名第二,仅次于 Claude Fable 5 Max,领先于 GPT-5.6 Sol Max(1495 分)。得益于 1M 上下文窗口,在单智能体设置中,Kimi K3 在 BrowseComp 上取得了 91.2 的 SOTA 分数,无需上下文压缩或额外的上下文管理技术,展示了在长周期、高难度信息寻求任务中的出色能力。

Kimi K3 还提供了丰富的 API 使用方式,包括基本调用、思考努力设置、流式输出、视觉输入、结构化输出、部分模式、自定义工具和动态工具加载等。上下文缓存是自动的,无需额外参数。官方工具通过 Formula 集成。当前重要限制包括:reasoning_effort 仅支持 max 级别,K3 始终启用思考模式;max_completion_tokens 默认为 131072,最高可设为 1048576;temperature、top_p 等参数固定;视觉输入不支持公开图片 URL;网络搜索功能正在更新,暂不建议使用。

Kimi K3 采用统一的按量计费定价,不按上下文长度分级。输入(缓存命中和未命中分别计费)和输出均按每令牌统一价格收费。

展开要点与分析

文章情报

工程师进阶

要点

  • 2.8 万亿参数,首个达到该规模的开源模型
  • 基于 Kimi Delta Attention 和 Attention Residuals 架构
  • 在编码、知识工作等任务中表现领先
  • 提供 1M 上下文窗口和自动缓存

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。