奉劝买macmini 理由是为了自己部署模型的人早点放弃

🌐 链接: https://linux.do/t/topic/3066033
🏷️ 分组: LinuxDo论坛
🕒 时间: 2026-10-23 19:54:54
LINUX DO
奉劝买macmini 理由是为了自己部署模型的人早点放弃
96G显存的NVIDIA RTX PRO 6000 部署GLM-5.3-Flash-IQ4_X 跑个鹈鹕跟个龟速一样,花了30分钟 其他模型也试了,Ornith-1.5-122B-Q5 ,Qwen3.8-Flash-Next ,Qwen3.8-27B-BF16,基本跑出来的鹈鹕轮子是飞掉的 佬们还有其他小模型推荐吗