消息推送对普通笔电即可带动的mini多模态模型(默认前提为量化版本)前端能力的斗蛐蛐测试22:05 · 2026年10月6日 · 周二对普通笔电即可带动的mini多模态模型(默认前提为量化版本)前端能力的斗蛐蛐测试🌐 链接: https://linux.do/t/topic/2988304🏷️ 分组: LinuxDo论坛🕒 时间: 2026-10-06 22:02:54 LINUX DO 对普通笔电即可带动的mini多模态模型(默认前提为量化版本)前端能力的斗蛐蛐测试 本人电脑配置如下 偶然听得网上说有bonsai做的新的27b(基于qwen3.8 27b)三值极端量化模型可本地部署,速度也很快,即便只有12GB显存也可爽玩,于是拉来和我以往玩过的几个模型做了两轮的前端图一乐测试,本来没抱有多大希望(感觉实在是量化的太狠了),不过最终结果反而有点意外 我挑了三个选手来和bonsai2做对比,分别是Qwen3.6-35B-A3B Q4_K_M,Ornith-1.5-35B-A3B IQ4_XS,Ornith-1.5-9B Q6_K, 运行配置统一为 131K 上下… 22:05 · 2026年10月6日 · 周二