智谱 GLM-5.3-Flash 的本地部署实测来了:单张 RTX PRO 6000(96GB),prefill 约 3000 tok/s,单用户 decode 67 tok/s;四路并发总吞吐 110 tok/s;20 万 token 上下文 needle 测试全绿,194K 位置一次找到。单卡扛 200K 上下文,本地部署这条路越来越香了。

🌐 链接: https://x.com/taiyanghere/status/2108742675520528477
🏷️ 分组: X|太阳(taiyanghere)
🕒 时间: 2026-10-10 10:13:27