Together AI宣布与Moonshot AI建立战略合作伙伴关系，原生服务Kimi模型

Together AI今日宣布与Moonshot AI建立战略合作伙伴关系，后者是开源社区中大规模MoE架构的领先者。根据协议，Together AI将成为Moonshot模型发布的启动平台，首先推出Kimi K3，并涵盖Moonshot未来所有开源权重模型。

对于基于开源模型构建的开发者而言，这意味着他们能够通过Together AI的美国托管基础设施、定价模型和工具，在模型发布的第一时间获得Moonshot的前沿成果，同时确保零数据保留和合规的模型及数据访问。开发者还可以使用自己的数据对这些模型进行后训练，以提升应用的质量和性能。

Kimi K3是迄今为止发布的最大开源模型：一个2.8万亿参数的稀疏混合专家模型，原生支持视觉，上下文窗口达100万token。Moonshot围绕两个新的架构组件构建了它：Kimi Delta Attention (KDA) 改变了信息在序列长度上的流动方式，在长上下文下显著加速解码；Attention Residuals (AttnRes) 则改进了表示在模型深度上的检索，以最小的额外计算成本提高了训练效率。此外，还采用了包括逐头Muon和基于分位数的专家负载均衡在内的一系列优化器改进，Moonshot称这些组合相比Kimi K2实现了约2.5倍的扩展效率提升。结果是一个专为长周期编码、代理工作流、游戏开发和知识密集型任务设计的模型，其基准测试结果使其与当前市场上的领先专有系统直接竞争。

Kimi模型可在Together AI的所有推理产品中使用，包括Serverless、Provisioned Throughput和Dedicated Inference。开发者可以从试用模型到将其应用于生产用例，享受SLA支持和自动扩展。Provisioned Throughput为前沿开源模型提供基于token的定价和99%正常运行时间SLA，是闭源模型提供商已有的预留容量保证，现在对开源权重开放。Dedicated Model Inference则提供更快的部署、更好的token经济学和持续的研究创新。

开发者还可以对Kimi模型进行后训练，以针对特定用例提高质量。自定义训练包括全权重和LoRA强化学习以及高级监督微调，开发者可以通过Python SDK和细粒度原语配置训练，并在专用容量上并发运行多个LoRA实验。自定义训练将实验直接连接到生产，当检查点准备好评估时，可以原生部署到推理，无需训练和服务之间的单独交接。

此次合作解锁了多项开发者权益：第一时间可用性、经过验证的扩展规模与生产就绪基础设施、一个集成覆盖Moonshot全系列、第一天即可进行后训练、以及开源权重带来的控制选择。Together AI的推理栈已经为Cursor、Y Combinator和Decagon等公司处理生产流量，部署编码和代理工作负载。

欢迎参加Moonshot与Together的联合网络研讨会，与Moonshot AI和Together AI团队直接交流Kimi K3的技术决策和实际应用。