各位佬友，问下NVIDIA Jetson Orin NX 16GB部署什么量化模型比较合适

🌐 链接: https://linux.do/t/topic/3001893
🏷️ 分组: LinuxDo论坛
🕒 时间: 2026-10-10 00:20:20
LINUX DO
各位佬友，问下NVIDIA Jetson Orin NX 16GB部署什么量化模型比较合适
公司收拾出一台，有没有佬友有经验，想部署一个本地模型聊聊天，整理点材料这种。