Liquid AI發佈基於38T tokens訓練的8B-A1B MoE模型

Liquid AI發佈了LFM2.5-8B-A1B，一款面向終端設備的混合專家模型，總參數8B，活躍參數1B，訓練數據量達38萬億 tokens。該模型支持128K上下文窗口，擴展了詞彙表以提升非拉丁語言的分詞效率，並採用純推理鏈式思維模式。在基準測試中表現優異，同時具有出色的CPU和GPU推理速度，適用於本地代理任務。