本地部署大语言模型用什么工具比较好？

🌐 链接: https://linux.do/t/topic/3101954
🏷️ 分组: LinuxDo论坛
🕒 时间: 2026-10-31 21:44:52
LINUX DO
本地部署大语言模型用什么工具比较好？
最近想在自己电脑上玩一下大语言模型，看了个视频有几种开源的工具： 1、llama.cpp 2、LM Studio 3、Jan 4、kobpldcpp 5、ramalama 哪个可玩性高一点、教程多一点啊？