Liquid AI 发布端侧 Agent 模型 LFM2.5-24B-A2B
Liquid AI 发布 LFM2.5-24B-A2B,这是一个总参数 24B、每 token 激活约 2.45B 的混合专家模型,上下文 131,072 token,定位为在设备端运行、会调用工具的推理型 Agent 模型。模型卡建议不要单独用于知识密集型任务,而应搭配检索或网页搜索。
要点
- 模型卡给出的速度:Apple M5 Max 上 184 tokens/s,AMD Ryzen AI Max+ 395(llama.cpp Q4_K_M)上 114 tokens/s
- 与 Qwen3.6-35B-A3B 对比:IFEval 96.75 对 93.06,GPQA Diamond 74.42 对 83.69,SWE-Bench Verified 51.00 对 66.20
- 支持 Transformers、vLLM、SGLang、llama.cpp、MLX、ONNX Runtime、LM Studio 等运行方式
为什么值得关注
激活参数只有 2B 级别,适合在笔记本或边缘设备上跑本地 Agent;从模型卡的对比看,指令遵循较强,但知识和编程能力仍弱于更大的模型。
来源
### [Liquid AI 发布端侧 Agent 模型 LFM2.5-24B-A2B]({{URL}})
Liquid AI 发布 LFM2.5-24B-A2B,这是一个总参数 24B、每 token 激活约 2.45B 的混合专家模型,上下文 131,072 token,定位为在设备端运行、会调用工具的推理型 Agent 模型。模型卡建议不要单独用于知识密集型任务,而应搭配检索或网页搜索。
- 模型卡给出的速度:Apple M5 Max 上 184 tokens/s,AMD Ryzen AI Max+ 395(llama.cpp Q4_K_M)上 114 tokens/s
- 与 Qwen3.6-35B-A3B 对比:IFEval 96.75 对 93.06,GPQA Diamond 74.42 对 83.69,SWE-Bench Verified 51.00 对 66.20
- 支持 Transformers、vLLM、SGLang、llama.cpp、MLX、ONNX Runtime、LM Studio 等运行方式
**为什么值得关注**:激活参数只有 2B 级别,适合在笔记本或边缘设备上跑本地 Agent;从模型卡的对比看,指令遵循较强,但知识和编程能力仍弱于更大的模型。
来源:[LiquidAI/LFM2.5-24B-A2B 模型卡](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B)