消息推送淘宝 MNN 团队开源 0.3B 手机模型,苹果 iPhone 18 Pro 离线跑出 350 token/s52分钟前淘宝 MNN 团队开源 0.3B 手机模型,苹果 iPhone 18 Pro 离线跑出 350 token/s🌐 链接: https://linux.do/t/topic/3131997🏷️ 分组: LinuxDo论坛🕒 时间: 2026-11-06 15:17:02 LINUX DO 淘宝 MNN 团队开源 0.3B 手机模型,苹果 iPhone 18 Pro 离线跑出 350 token/s 11 月 6 日消息,淘宝旗下 MNN 团队今日发布了 MNN-Pocket-0.3B 模型,面向手机应用的任务需求与资源预算,在有限算力、内存和能耗下,兼顾任务能力、响应速度与持续运行体验。 围绕淘宝等综合型手机应用,团队将“手机应用原生大模型”落实为四个维度的设计目标: 速度上,在指定设备与上下文配置下,解码吞吐超过 200token/s。这一目标参考高速云端模型服务的生成吞吐,力求在本地提供流畅的生成体验。 内存上,在指定测试条件下,峰值内存低于 300MB。即使手机拥有 8~16GB… 52分钟前