177B 的模型能在 Mac 本地跑起来,我看到 Tokspur 这个项目第一反应是,这也太狠了。 它是个面向 Mac 的开源推理引擎,本地跑的是 Qwen3.8 Flash-Next,上下文 65,536 token,自研 Metal 引擎带原生多 token 预测,还给了兼容 OpenAI 的 Chat API。 不过门槛得老实说清楚:要 Apple M5 Max、128GB 统一内存、macOS 27 或更高版本,装好之后在本地 18081 端口提供服务,不是人人都能跑。仓库 11 月 9 号才建,现在只有 12 个星、5 ...

🌐 链接: https://x.com/taiyanghere/status/2120146161986162992
🏷️ 分组: X|太阳(taiyanghere)
🕒 时间: 2026-11-10 21:26:50