以后升级 PyTorch 不用重编 vLLM 了,这对我这种本地跑模型的人来说是最直接的好消息。vLLM 团队刚宣布,他们的 CUDA 构建已经迁移到 LibTorch Stable ABI,从 v0.33.0 起发布 ABI Stable CUDA wheels。以前新 PyTorch 一出,很可能就得等 vLLM 重建才能跟上,现在同一个 vLLM wheel 可以跨兼容的 PyTorch 版本工作,我只需要更新 PyTorch wheel 就能直接升级,开发者改 PyTorch 也可以只重建 PyTorch 再在 vLLM 里测试,不用再重...

🌐 链接: https://x.com/taiyanghere/status/2118962020162949306
🏷️ 分组: X|太阳(taiyanghere)
🕒 时间: 2026-11-07 15:01:28