跳到主要内容
AI News HubLIVE
更多
仅摘要

Cohere发布Command A+:218B稀疏MoE模型,专为智能体工作流设计,仅需两块H100 GPU即可运行

Cohere发布开源模型Command A+,这是一款218B参数的稀疏混合专家(MoE)模型,专注于企业智能体工作流。该模型在W4A4量化下仅需两块H100 GPU即可运行,支持48种语言,是Cohere首个多模态推理模型。性能显著提升,在多项基准测试中超越前代。

来源MarkTechPost作者: Michal Sutter
Cohere发布Command A+:218B稀疏MoE模型,专为智能体工作流设计,仅需两块H100 GPU即可运行
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明

本文仅提供摘要

根据来源内容权限,本站仅提供编辑摘要、要点和原文链接。

展开要点与分析

文章情报

工程师进阶

要点

  • Command A+总参数218B,活跃参数25B,采用稀疏MoE架构,Apache 2.0许可开源。
  • W4A4量化(NVFP4)仅应用于MoE专家,结合量化感知蒸馏,可在2块H100上运行。
  • 在τ²-Bench Telecom上准确率从37%提升至85%,Terminal-Bench Hard从3%提升至25%。
  • 输出速度提升63%,首令牌时间降低17%,支持48种语言和多模态推理。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。