要闻 可动手 10月19日 周一 #open-weights#agent#inference

Liquid AI 发布端侧 Agent 模型 LFM2.5-24B-A2B

Liquid AI 发布 LFM2.5-24B-A2B,这是一个总参数 24B、每 token 激活约 2.45B 的混合专家模型,上下文 131,072 token,定位为在设备端运行、会调用工具的推理型 Agent 模型。模型卡建议不要单独用于知识密集型任务,而应搭配检索或网页搜索。

要点

  • 模型卡给出的速度:Apple M5 Max 上 184 tokens/s,AMD Ryzen AI Max+ 395(llama.cpp Q4_K_M)上 114 tokens/s
  • 与 Qwen3.6-35B-A3B 对比:IFEval 96.75 对 93.06,GPQA Diamond 74.42 对 83.69,SWE-Bench Verified 51.00 对 66.20
  • 支持 Transformers、vLLM、SGLang、llama.cpp、MLX、ONNX Runtime、LM Studio 等运行方式
为什么值得关注

激活参数只有 2B 级别,适合在笔记本或边缘设备上跑本地 Agent;从模型卡的对比看,指令遵循较强,但知识和编程能力仍弱于更大的模型。

来源

Esc
↑ ↓ 选择Enter 打开

分享图

1080 × 1350,适合发到群聊或朋友圈
分享图预览

键盘快捷键

j / k
下一条 / 上一条
o
展开或收起当前条目
Enter
打开当前条目详情
c
复制当前条目链接
s
收藏 / 取消收藏当前条目
/ 或 ⌘K
搜索
1 2 3
切换密度:标题 / 摘要 / 完整
t
切换主题
?
显示本帮助