跳到主要内容
AI News HubLIVE
更多
仅摘要

Liquid AI 发布 LFM2.5-8B-A1B:面向设备的 MoE 模型,总参数量 8.3B,激活参数量 1.5B

Liquid AI 推出了 LFM2.5-8B-A1B,这是一款面向设备的混合专家(MoE)模型,专为工具调用设计。该模型总参数量为 8.3B,但每个 token 仅激活 1.5B 参数,从而能够在消费级硬件上运行。它支持 128K 上下文窗口、推理能力,并覆盖九种语言。相比前代 LFM2-8B-A1B,该模型在非幻觉率、指令遵循、数学推理等基准测试中均有显著提升。

来源MarkTechPost作者: Asif Razzaq
Liquid AI 发布 LFM2.5-8B-A1B:面向设备的 MoE 模型,总参数量 8.3B,激活参数量 1.5B
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明

本文仅提供摘要

根据来源内容权限,本站仅提供编辑摘要、要点和原文链接。

展开要点与分析

文章情报

工程师进阶

要点

  • LFM2.5-8B-A1B 采用稀疏 MoE 架构,总参数量 8.3B,每个 token 仅激活 1.5B 参数,适合边缘硬件部署。
  • 支持 128K 上下文窗口,覆盖九种语言,包括阿拉伯语、中文和日语。
  • 非幻觉率从 7.46 提升至 63.47,IFEval 得分从 79.44 提升至 91.84。
  • 在 M5 Max 上解码速度达 253 tok/s,内存低于 6 GB;手机端约 30 tok/s。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。

Liquid AI 发布 LFM2.5-8B-A1B:面向设备的 MoE 模型,总参数量 8.3B,激活参数量 1.5B | AI News Hub