Research#Distillation🔬 Research分析: 2026年1月10日 12:08

自适应加权提高对抗蒸馏中的迁移一致性

发布:2025年12月11日 04:31
1分で読める
ArXiv

分析

这篇研究论文探讨了一种改进知识蒸馏性能的新方法,尤其是在对抗性设置中。 核心贡献在于样本自适应加权策略,这很可能增强了从教师模型到学生模型的知识转移。

引用

该论文侧重于对抗蒸馏背景下的转移一致性。