三星新开源了个压缩方法 LittleBit：把 13B 参数的模型压到了不到 1GB。 原理是权重先做低秩因式分解再二值化，最后用残差补偿把精度拉回来。 这么一来，手机、笔记本本地跑 13B 级别模型的存储门槛，直接砍掉一大半。 端侧 AI 部署的成本账要重算了，玩本地部署的可以关注下。

🌐 链接: https://x.com/taiyanghere/status/2108497683979898961
🏷️ 分组: X｜太阳（taiyanghere）
🕒 时间: 2026-10-09 17:59:56
X (formerly Twitter)
太阳 (@taiyanghere) on X
三星新开源了个压缩方法 LittleBit：把 13B 参数的模型压到了不到 1GB。
原理是权重先做低秩因式分解再二值化，最后用残差补偿把精度拉回来。
这么一来，手机、笔记本本地跑 13B 级别模型的存储门槛，直接砍掉一大半。
端侧 AI 部署的成本账要重算了，玩本地部署的可以关注下。