你好 NVFP4： strata-0.1.44.1， qwen3.8-flash-next， rtx pro 5000 48GB + 64GB RAM， decode 130t/s， prefill2600 t/s

🌐 链接: https://www.v2ex.com/t/1248704#reply0
🏷️ 分组: V2EX技术
🕒 时间: 2026-10-14 13:57:13
V2EX
你好 NVFP4： strata-0.1.44.1， qwen3.8-flash-next， rtx pro 5000 48GB + 64GB RAM， decode 130t/s， prefill2600 t/s - V2EX
Local LLM - @sentinelK - 如题。相较于只有[ISTA-DASLab 孤立跑分]( https://huggingface.co/ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-GGUF)的