跳到主要內容
AI News HubLIVE
更多
僅摘要

Cohere發佈Command A+：218B稀疏MoE模型，專為智能體工作流設計，僅需兩塊H100 GPU即可運行

Cohere發佈開源模型Command A+，這是一款218B參數的稀疏混合專家（MoE）模型，專注於企業智能體工作流。該模型在W4A4量化下僅需兩塊H100 GPU即可運行，支持48種語言，是Cohere首個多模態推理模型。性能顯著提升，在多項基準測試中超越前代。

來源MarkTechPost作者: Michal Sutter
Cohere發佈Command A+：218B稀疏MoE模型，專為智能體工作流設計，僅需兩塊H100 GPU即可運行
報告錯誤

更正渠道尚未開通，可先複製下方文章資訊留存。

查看更正說明

本文僅提供摘要

根據來源內容權限，本站僅提供編輯摘要、要點和原文連結。

展開要點與分析

文章情報

工程師進階

要點

  • Command A+總參數218B，活躍參數25B，採用稀疏MoE架構，Apache 2.0許可開源。
  • W4A4量化（NVFP4）僅應用於MoE專家，結合量化感知蒸餾，可在2塊H100上運行。
  • 在τ²-Bench Telecom上準確率從37%提升至85%，Terminal-Bench Hard從3%提升至25%。
  • 輸出速度提升63%，首令牌時間降低17%，支持48種語言和多模態推理。

要點與分析由自動化流程生成，可能有誤，請結合原始來源核實。