腾讯推出超小AI：端侧LLM迎来突破！

腾讯推出的新HY-1.8B-2Bit模型标志着在设备端部署生成式人工智能方面取得重大突破，在极小的体积内实现了令人印象深刻的性能。通过利用创新的2比特量化技术，该模型为移动设备和其他消费类硬件上更高效、更强大的AI体验打开了大门。

• •HY-1.8B-2Bit 在非常小的体积（600MB）下实现了接近全精度模型的性能。
• •该模型在边缘设备上显著提升速度，最高可达3倍。
• •利用2比特量化和量化感知训练（QAT）以获得卓越性能。