テンセント、小型AIでブレイクスルー：デバイス内LLMに革命！

テンセントの新しいHY-1.8B-2Bitモデルは、デバイス内での生成AIの展開における重要な飛躍であり、驚くほど小さなパッケージで印象的なパフォーマンスを実現しています。革新的な2ビット量子化を活用することにより、このモデルは、モバイルデバイスやその他の消費者向けハードウェアで、より効率的で強力なAI体験への扉を開きます。

• •HY-1.8B-2Bitは、非常に小さい(600MB)ながら、フル精度モデルに近い性能を実現しています。
• •このモデルは、エッジデバイスで最大3倍高速化し、速度を大幅に向上させます。
• •優れたパフォーマンスのために、2ビット量子化と量子化対応トレーニング（QAT）を利用しています。