想要更好的阅读体验，欢迎到我的网站阅读：《On Policy Distillation(OPD) 学习》。 On Policy Distillation(OPD) 学习 知识蒸馏 知识蒸馏是一种模型训练方法，通过让学生模型（Student）学习教师模型（Teacher）的输出或中间表示，将教师模型的知识迁移到学生模型中。 那为啥需要蒸馏捏，不是有 SFT 吗，直接学不就完了？实际上蒸馏是用于模仿教师，让其学习到教师的一些隐状态，例如： 假设你要训练一个模型识别三种动物，训练数据告诉模型图片里是猫。…