llama.cpp 更新底层算法，让混合专家模型能跳过零计算步骤直接节省算力。 北京时间 10 月 24 日 18:15，llama.cpp 合并更新。此前遇到美团 LongCat-Flash 等模型的零计算专家时，系统仍会用全零数据空跑一遍乘法，现在底层可识别无效编号直接跳过。 改动支持 CPU 与苹果 Metal 等路径，但官方明确排除了 CUDA，也未公布吞吐对比数据。 作者自述代码 100% 由 AI 生成且只在苹果 Metal 上实测过，使用英伟达显卡的用户暂不在支持范围...

🌐 链接: https://x.com/dsoch8c/status/2114026035503337957
🏷️ 分组: X｜为你推荐
🕒 时间: 2026-10-25 00:07:38