24GB 显存的显卡摆在面前，一个 24B 参数的新模型刚发布两周，网上只有官方跑分和营销截图。要不要把它拉到本地跑？跑起来是什么体验？这两个问题在 2026 年 10 月的每一周都会出现一次，而绝大多数评测只回答到「能跑」就停了。这次我把 LiquidAI 2026-10-12 发布的 LFM2.5-24B-A2B 完整部署到一张 RTX 4090 上，用三批共 11 个来自我们生产环境的真实代码案例把它测了个透，对照组是云端旗舰 GLM-5.3。
先给结论：能跑，而且快得超预期；agentic 能力名副其实；精细实现和长文学是明确短板。
LFM2.5-24B-A2B 是什么
LFM2.5 是 LiquidAI 的 Liquid Foundation Models 2.5 家族，从 230M 一路铺到 24B，24B 是 2026-10-12 收尾发布的最大成员。它的卖点用一句话讲：用「卷积 + 注意力」的混合骨干 + 稀疏 MoE，把 24B 总参数的模型压到每 token 只激活约 2.45B，从而在消费级硬件上跑出大模型的手感。
架构上有三处值得注意的设计：
- 40 层里只有 10 层是 GQA 注意力，其余 30 层是双门控短卷积块（线性注意力的替代品）。KV 缓存因此非常小，上下文开到 32K 也不怎么吃显存。
- 每个 MoE 块 64 个专家、top-4 路由。激活比不到 11%，这是它在 4090 上能跑到 200+ tok/s 的直接原因。
- 它是「常思考」（always-think）模型：每条回答都自带一段
<think>推理。这个特性后面会反复提到，它既是能力放大器，也是 token 消耗放大器。
官方模型卡（截至 2026-10-14）给出的对比数据：
| 基准 | LFM2.5-24B-A2B | Qwen3.6-35B-A3B | 说明 |
|---|---|---|---|
| IFEval 指令遵循 | 96.75 | 略低 | 同级最佳 |
| ToolSandbox 工具使用 | 80.71 | 略低 | 同级最佳 |
| LiveClaw 智能体 | 48.09 | 略低 | 同级最佳 |
| MATH-500 | 96.04 | 相当 | |
| GPQA Diamond 知识 | 74.42 | 83.69 | 落后约 9 分 |
| SWE-Bench Verified | 51.0 | 66.2 | 落后 15 分 |
官方自己就把短板标出来了：知识密集与复杂软件工程弱于同参数级的对手。这个自报口径与我们后面的实测结论高度一致，这点值得给 LiquidAI 加分。
许可方面采用 Liquid LFM 1.0 License，可商用但有条款限制，上生产前建议过一遍原文。
一张 4090 的账
部署方案选了 llama.cpp 的 nightly 构建（b11609，2026-10-14 发布，新架构代号 lfm2moe 当天即支持）加官方 GGUF。量化谱系一览：
| 量化 | 体积 | 24GB 显卡 | 备注 |
|---|---|---|---|
| BF16 | 48 GB | 需混合卸载 | 192GB 内存机器可玩 |
| Q8_0 | 25.49 GB | 放不下 | 32GB 显存可用 |
| Q6_K | 19.69 GB | 很勉强 | 缓冲不足 |
| Q5_K_M | 17.03 GB | 可行 | 有富余 |
| Q4_K_M | 14.53 GB | 推荐 | 本次实测用 |
| QAD-Q4_0 | 13.58 GB | 16GB 卡之选 | 量化感知蒸馏版 |
实测 Q4_K_M 加载后总显存占用约 17.5GB（含 32K 上下文的 KV 与计算缓冲），桌面上还挂着浏览器和一堆常驻程序，全程没有挤爆过。启动命令一条：
llama-server -m LFM2.5-24B-A2B-Q4_K_M.gguf -ngl 99 -c 32768 --jinja --port 8080
官方把推荐采样参数（temperature 0.1 / top_k 50 / repetition_penalty 1.05）直接内嵌进了 GGUF 元数据，llama.cpp 默认生效，省了一次查文档。模型加载 6.5 秒，这个数字对 14.5GB 的权重来说相当体面。
国内网络下真正的坑在下载：14.5GB 的权重在直连与镜像之间反复横跳，两个下载器先后卡死在死连接上。最后跑通的方案是 curl 断点续传加双源轮换的重试循环，全程约 50 分钟。想复现部署的读者建议直接上这个方案，别跟单线程下载器较劲。
拿生产代码当考卷
评测一个模型能不能干活的最好办法，是让它干你自己的活。考卷全部来自我们正在维护的多智能体视频创作画布（这套系统的架构此前写过一篇《生成式画布智能体架构》），11 道题里有真实发生过的生产缺陷、有按断言补实现的子 agent 模块、有创作型任务。
方法上做了三层控制：
- 机器判分。模型给出的代码会被真实执行：找 bug 题的修复方案跑 6 条断言（包括触发原缺陷的边界用例），补实现题跑 10 条断言，槽位计算题的标准答案由生产函数本身跑出来，评审员没有拍脑袋的空间。
- 同题双模型。本地 LFM2.5-24B-A2B 与云端 GLM-5.3 吃逐字相同的提示词，答案并排呈现。GLM-5.3 是参数量高出一档的旗舰，它的角色是质量上限参照，而非同档竞品。
- 思维链全文留档。常思考模型的推理过程是审计材料，翻车案例的思考过程尤其有价值。
结果：三批记分板
第一批：工程能力，3/3 全对
最见功力的一道题是看板步骤裁剪器里的一个真实历史缺陷：completed.slice(-keepCompletedCount) 在 keepCompletedCount 为 0 时，slice(-0) 等价于 slice(0)，返回整个数组而不是空数组。这个 JS 经典陷阱在生产环境里活了很久才被边界测试逮住。LFM2.5 纯靠读代码把它揪了出来，修复方案通过全部 6 条断言。按断言补实现的快路径状态机 10/10，场景推理 3/3。工程批与 GLM-5.3 打平。
第二批：子 agent 专项，两极分化
这批最贴近日常的 agent 工作，结果也最有信息量：
- 工具调用序列编排 8/8 满分。题目要求「把第二个参考图换成另一个素材、位置保持第二位」，它正确地先断旧边再连新边，显式传
slot: 1（省略即 0，会顶掉第一张图），没有发明不存在的source_handle参数，没有误删节点。参数契约的拿捏是同批最佳。 - 提问门控的 veto 状态机 5/5 加 4 个语义要点全中。「第一次 veto 留在段内弹回、第二次升级给编排器」「音轨问题为什么必须表查询优先于模型判断（挡错的代价是不报错的死锁）」这些设计意图全部复述正确。
- 决策 JSON 提取器 7/9。栽在一个经典 off-by-one 上：从开括号之后开始扫描，深度计数却没有把开括号计成 1，导致对象后面还有文字时提前闭合。恰好挂在「生产事故同款」的测试用例上，那道用例复刻的原始事故是贪婪正则让一次线上会话 22 个解析失败里 19 个报废。
- 槽位分配精确返回值 4/5，漏看了「同一来源已接入时应返回 existingHandle」的分支。
第三批：创作类，分层明显
- 视频节点 directive 写作 7/7，与 GLM-5.3 打平。80 到 150 字的单段中文、动作加镜头加光线三要素、无咒语堆料词、无模板占位符，产出可直接进节点参数。这类「规格内的文案」它已经好用了。
- 散文 4/5，文质偏弱。约束层面两边都栽在字数下限（它 573 字、GLM 541 字，都不到 600，约束意识半斤八两）。文质差距明显：它的散文连发九个「像」字比喻，情感锚点稀薄，读完记不住一个具体的人；GLM 写得出「备选文件夹三年没打开」这种带人味的细节。
- 微型小说 5/5 合规，叙事平。它的伏笔是「回放」：开头磨尖的红笔结尾再提一遍，意义没被照亮；悬念抛出后不回收，348 字读起来像故事梗概。GLM 用一只慢五分钟的电子表完成了真正的显影。
- 15 秒分镜 JSON 6/7。结构合规（时长求和、旁白速率、镜头词都对），但旁白视角发生了漂移：前两镜是外婆的第一人称，后两镜悄悄变成听者视角，违反了「旁白是外婆语音转写」的设定，而且四句旁白都是完整句，「每条只说一半」的未完成感没有做出来。这个缺陷对分镜类应用是实打实的风险。
速度
三批 11 题的生成吞吐稳定在 224–257 tok/s，提示词处理最高测到约 7,900 tok/s。官方参考点是 Apple M5 Max 上的 184 tok/s（2026-10 模型卡数据），桌面级 4090 反而更快一档，MoE 每 token 2.45B 激活的收益肉眼可见。
常思考特性要单独记账：每题思维链 1.3 万到 2.2 万字符，实际 token 消耗是可见答案的数倍。测试中两道题把 8192 的输出预算全部烧在思维链上，可见答案为空，提到 16384 才正常出结果。用它的系统必须监控这个指标，否则用户看到的会是「模型想了很多、什么都没说」。
多维度评分
| 维度 | 评分 | 依据（均为 2026-10-14 实测，标注除外） |
|---|---|---|
| 部署友好度 | 9/10 | 官方 GGUF 全谱系、采样参数内嵌、llama.cpp 发布当天支持 |
| 单卡交互速度 | 9/10 | 224–257 tok/s @ RTX 4090 Q4_K_M，加载 6.5s |
| Agentic / 工具编排 | 9/10 | 编排 8/8、门控语义 5/5 + 语义要点 4/4 |
| 精细代码实现 | 6/10 | 括号扫描 off-by-one、槽位分支遗漏 |
| 中文长文创作 | 5/10 | 合规但比喻堆砌、伏笔不显影、旁白视角漂移 |
| 知识密集任务 | 6/10 | 官方自报 GPQA 74.42 落后同级约 9 分（未实测，引自模型卡） |
结论
LFM2.5-24B-A2B 是我测过的「单卡体验」最好的 24B 级模型：一条命令起服务、200+ tok/s 的响应、131K 上下文、官方生态全格式铺开。它的能力分布非常清晰，适合的活就大胆交给它：
- 本地 Copilot 与工具编排。子 agent 的参数契约拿捏和规格理解在同参数级里是第一梯队，这与官方 ToolSandbox 80.71 的自报数据互相印证。
- 离线批处理与隐私敏感数据。完全本地推理，192GB 内存的机器还能上更高量化甚至 BF16 混合卸载。
- 规格内的短文案（视频提示词、字段化脚本），产出可用率已经接近云端旗舰。
别交给它的活同样清晰：要人味的长文（品牌散文、故事线、旁白定稿）和「生成即运行」的无人值守代码场景。前者交给云端大模型或人工；后者必须配断言兜底，这与我们此前在视频重制管线稳定性里得出的结论同向：可验证的约束比模型自觉可靠。而它的 always-think 形态意味着每一份产出都自带完整推理审计，用得好，这是免费的解释器；用不好，token 账单和响应时延都会替你记住它。
至于 16GB 显存的读者，官方 QAD-Q4_0（13.58GB，量化感知蒸馏）就是为你准备的；显存更小的，等家族里更小的成员铺完 GGUF。
参考资料
- LiquidAI — LFM2.5-24B-A2B 模型卡（2026-10-12 发布，2026-10-14 查阅）
- LiquidAI — LFM2.5-24B-A2B-GGUF 官方量化仓库
- ggml-org — llama.cpp Releases（b11609，2026-10-14）
- LiquidAI — Liquid LFM 1.0 License
- 官小西 — 生成式画布智能体架构（本站）
- 官小西 — AI 重制视频为什么总是不稳定（本站）