消息推送求教:5 台 8 卡 H100,部署几十种开源模型,有什么好的调度方案?15:06 · 2026年10月12日 · 周一求教:5 台 8 卡 H100,部署几十种开源模型,有什么好的调度方案?🌐 链接: https://linux.do/t/topic/3012759🏷️ 分组: LinuxDo论坛🕒 时间: 2026-10-12 15:03:18 LINUX DO 求教:5 台 8 卡 H100,部署几十种开源模型,有什么好的调度方案? 各位佬,想请教一下多机、多模型的部署和调度方案。 目前手头有 5 台服务器,每台 8 张 H100,共 40 张卡,准备部署 Wan2.2、Qwen-Image 等几十种开源模型,主要覆盖生图、生视频和语音等场景。 想了解一下,这种场景有没有比较成熟的开源框架或平台,能统一管理模型和调度 GPU 资源? 有佬做过类似的部署吗?求推荐一些开源项目或实践方案 15:06 · 2026年10月12日 · 周一