SGLang支持扩散LLM：LLaDA 2.0的Day-0实现

本文重点介绍了扩散LLM LLaDA 2.0快速集成到SGLang框架中。利用现有的分块预填充机制表明重点在于高效实现和利用现有基础设施。本文的价值在于展示了SGLang的适应性以及基于扩散的LLM更广泛采用的潜力。

• •SGLang现在支持Diffusion LLM。
• •LLaDA 2.0已在SGLang中实现。
• •集成利用现有的分块预填充机制。