BRIDGE:通过中间蒸馏和引导示例进行预算感知推理
分析
本文介绍了一种新方法BRIDGE,用于在大型语言模型(LLM)的背景下进行预算感知推理。该方法利用中间蒸馏和引导示例来优化预算约束下的推理过程。这表明了对LLM应用中效率和资源管理的关注,这是一个相关且重要的研究领域。
Reference / Citation
View Original"BRIDGE: Budget-aware Reasoning via Intermediate Distillation with Guided Examples"