坏消息，只有FP/BF16的算力破解成功，对于低精度量化模型的推理场景没有提升。 顺便用sglang跑了两个小一点的不同量化方式的模型，一个BF16，一个FP8，都对比破解前后的实际提升：