使用邻接自适应动态草稿树加速视觉自回归模型推理

Paper#image generation, autoregressive models, speculative decoding🔬 Research|分析: 2026年1月3日 23:58
发布: 2025年12月26日 04:45
1分で読める
ArXiv

分析

本文解决了自回归(AR)图像模型推理速度慢的问题,这是一个重要的瓶颈。它提出了一种新方法,即邻接自适应动态草稿树(ADT-Tree),通过根据不同图像区域的复杂性动态调整草稿树结构来加速推理。这比现有的投机解码方法有了显著改进,因为现有的方法难以处理视觉AR模型中空间变化的预测难度。结果表明,在基准数据集上实现了显著的加速。
引用 / 来源
查看原文
"ADT-Tree achieves speedups of 3.13x and 3.05x, respectively, on MS-COCO 2017 and PartiPrompts."
A
ArXiv2025年12月26日 04:45
* 根据版权法第32条进行合法引用。