DeepSeek把自家推理引擎DeepInfer开源了,昇腾950也能跑

🌐 链接: https://www.nodeseek.com/post-997573-1
🏷️ 分组: NodeSeek论坛
🕒 时间: 2026-10-21 09:32:27
NodeSeek
DeepSeek把自家推理引擎DeepInfer开源了,昇腾950也能跑
今天看到DeepSeek把生产环境那套推理框架DeepInfer开源了,Apache2.0协议不光英伟达SM100,华为昇腾950也直接支持,自托管的有福了不过只覆盖离线推理,KV缓存和跨机负载均衡还得自己补