加速LLM推理：新方法显著加快训练速度

这项研究介绍了一种新颖的以数据为中心的方法，可以显著提高大型语言模型 (LLM) 的训练效率。 Sample-level-flatness-based Dataset Distillation (SFDD) 方法承诺令人印象深刻的训练加速，为更易于访问和高效的生成式人工智能模型铺平了道路。

• •该研究侧重于优化 Speculative Decoding，这是一种用于加速大型语言模型 (LLM) 推理的技术。
• •新方法 SFDD 过滤训练数据，优先考虑产生更平坦预测分布的样本。
• •SFDD 在保持高推理性能的同时实现了显着的训练加速（超过 2 倍）。