跳到主要內容
AI News HubLIVE
更多
僅摘要

Liquid AI 發佈 LFM2.5-8B-A1B:面向設備的 MoE 模型,總參數量 8.3B,激活參數量 1.5B

Liquid AI 推出了 LFM2.5-8B-A1B,這是一款面向設備的混合專家(MoE)模型,專為工具調用設計。該模型總參數量為 8.3B,但每個 token 僅激活 1.5B 參數,從而能夠在消費級硬件上運行。它支持 128K 上下文窗口、推理能力,並覆蓋九種語言。相比前代 LFM2-8B-A1B,該模型在非幻覺率、指令遵循、數學推理等基準測試中均有顯著提升。

來源MarkTechPost作者: Asif Razzaq
Liquid AI 發佈 LFM2.5-8B-A1B:面向設備的 MoE 模型,總參數量 8.3B,激活參數量 1.5B
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明

本文僅提供摘要

根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。

展開要點與分析

文章情報

工程師進階

要點

  • LFM2.5-8B-A1B 採用稀疏 MoE 架構,總參數量 8.3B,每個 token 僅激活 1.5B 參數,適合邊緣硬件部署。
  • 支持 128K 上下文窗口,覆蓋九種語言,包括阿拉伯語、中文和日語。
  • 非幻覺率從 7.46 提升至 63.47,IFEval 得分從 79.44 提升至 91.84。
  • 在 M5 Max 上解碼速度達 253 tok/s,內存低於 6 GB;手機端約 30 tok/s。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。