一台越狱的 PS4,不联网跑起了 90 亿参数的大模型,写代码最快每秒 43 个词。 开源项目 Garlic LLM 让越狱版 PlayStation 4 本地运行 Qwen3.5-9B,普通文本生成约每秒 31 至 39 个词元,生成代码时最高每秒 43 个词元,上下文窗口约 16000 个词元。项目由开发者 Leonardo Alegria 创建,绕过 PS4 原本面向游戏图形处理的驱动,直接向 AMD GCN 架构 GPU 下达底层指令,把游戏主机变成一台离线运行 AI 推理的电脑。为适配有限内存,...

🌐 链接: https://x.com/taiyanghere/status/2122592770468860351
🏷️ 分组: X|太阳(taiyanghere)
🕒 时间: 2026-11-17 15:28:47