消息推送9GB显存就能塞下64K上下文?商汤 SenseNova Loop 9B 官方量化版(AWQ/GGUF)来了!3060焕发第二春2小时前9GB显存就能塞下64K上下文?商汤 SenseNova Loop 9B 官方量化版(AWQ/GGUF)来了!3060焕发第二春🌐 链接: https://linux.do/t/topic/3203517🏷️ 分组: LinuxDo论坛🕒 时间: 2026-11-19 15:46:38 LINUX DO 9GB显存就能塞下64K上下文?商汤 SenseNova Loop 9B 官方量化版(AWQ/GGUF)来了!3060焕发第二春 佬们,擅长做漂亮网页和3D场景的 SenseNova Loop 9B,刚刚放出了官方AWQ和GGUF的量化版 原版之前在前端代码和交互生成上表现挺impressive的,但显存要求还是有点高。。 这次官方量化把64K上下文的门槛降低到了9-10GB显存,老3060 12G也能跑了 看了眼hf trending的数据,这个模型在总榜里冲到了第7 按官方估算,4bit权重搭配量化 KV 缓存,64K 上下文约需 9–10 GB显存,12GB消费级显卡就有尝试长上下文的空间 俩版本一共: … 2小时前