知识蒸馏

知识蒸馏的通俗易懂的解释

知识蒸馏可以被比喻为一位经验丰富的老师(教师模型)向学生(学生模型)传授知识的过程。想象一下,老师不仅教会学生书本上的知识(硬标签,即正确的答案),还会分享解题的技巧、对问题的

2025-02-06