PADE: 通过统一执行和阶段融合实现无预测器的稀疏注意力加速器

本文介绍了 PADE，这是一种加速 LLM 中稀疏注意力机制的新方法。核心创新在于消除了对预测器的需求，并采用了统一执行和阶段融合。这可能会导致 LLM 推理和训练的重大性能提升，特别是对于使用稀疏注意力的模型。 论文侧重于硬件加速，表明了实际应用和对现实世界产生影响的潜力。

• •PADE 是一种用于稀疏注意力的新型加速器。
• •它消除了对预测器的需求。
• •它使用统一执行和阶段融合。
• •侧重于硬件加速，表明了实际应用。