新手请教16G显存32G内存本地部署推荐装哪个版本的模型

🌐 链接: https://linux.do/t/topic/3017664
🏷️ 分组: LinuxDo论坛
🕒 时间: 2026-10-13 15:14:48
LINUX DO
新手请教16G显存32G内存本地部署推荐装哪个版本的模型
各位大佬，看到很多本地部署大模型的视频，但是现在陷入了尴尬的局面，5080显卡16G显存+32Gddr5内存，到底是部署27B版本的模型还是部署125B的轻量化的模型呢？请各位大佬指点 :😳: