R2Q：通过残差细化量化实现2比特大语言模型的鲁棒性

R2Q 论文介绍了一种通过残差细化量化来提高 2 比特大型语言模型鲁棒性的新方法，这是模型压缩方面的一项重大进步。 这种方法有可能使 LLM 在资源受限设备上的部署更加高效，从而扩大其可访问性。

• •R2Q 提出了一种使 2 比特 LLM 更加 resilient 的方法。
• •核心技术是残差细化量化。
• •这项工作旨在提高 LLM 的效率和更广泛的部署。