尼玛，现在随便一家厂商发的小模型都是1M上下文….. 你GPT叔叔还是坚持256k…. 跑一会就压缩一下，关键是token输出速度还慢……上下文都这么短了怎么还这么慢？

🌐 链接: https://x.com/Super_Nius/status/2119863640904134736
🏷️ 分组: X｜为你推荐
🕒 时间: 2026-11-10 02:44:11
X (formerly Twitter)
Super Niu (@Super_Nius) on X
尼玛，现在随便一家厂商发的小模型都是1M上下文…..

你GPT叔叔还是坚持256k….

跑一会就压缩一下，关键是token输出速度还慢……上下文都这么短了怎么还这么慢？