SQ格式：一种面向LLM的统一稀疏量化硬件友好数据格式

这项研究介绍了SQ格式，这是一种旨在提高大型语言模型（LLM）在硬件上效率的新数据格式。 这篇论文可能侧重于稀疏和量化数据表示在减少计算和内存需求方面的优势。

• •SQ格式旨在优化LLM的硬件效率。
• •该格式可能利用稀疏和量化数据表示。
• •这可能导致LLM的计算成本和内存使用量降低。