跳到主要內容
AI News HubLIVE
更多
僅摘要

Liquid AI 釋出 LFM2.5-230M:支援 on-device 推理,相容 llama.cpp、MLX 等多種框架

Liquid AI 釋出其最小模型 LFM2.5-230M,僅 2.3 億引數,開放權重,專為邊緣裝置上的工具使用和資料提取設計。在 Galaxy S25 Ultra 上可達 213 tok/s,在樹莓派 5 上為 42 tok/s。該模型在指令遵循和資料提取上超越 Qwen3.5-0.8B 和 Gemma 3 1B。提供基礎版和指令調優版,支援 32K 上下文,相容多項推理框架。

來源MarkTechPost作者: Asif Razzaq
Liquid AI 釋出 LFM2.5-230M:支援 on-device 推理,相容 llama.cpp、MLX 等多種框架
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明

本文僅提供摘要

根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。

展開要點與分析

文章情報

工程師進階

要點

  • LFM2.5-230M 是 Liquid AI 最小的模型,2.3 億引數,開放權重,基於 LFM2 架構。
  • 在 Galaxy S25 Ultra 上執行速度達 213 tok/s,樹莓派 5 上為 42 tok/s。
  • 在指令遵循和資料提取任務上超越 Qwen3.5-0.8B 和 Gemma 3 1B。
  • 支援 llama.cpp、MLX、vLLM、SGLang 和 ONNX,模型大小僅 293–375 MB。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。