Ternary Bonsai：以超高效1.58位大语言模型 (LLM) 实现顶尖性能

Ternary Bonsai在极限模型压缩领域代表了令人兴奋的飞跃，证明了严格的内存限制并不一定会影响性能。通过利用创新的三进制权重{-1, 0, +1}，这个新模型家族在轻松超越同级竞争对手的同时，实现了极其出色的内存占用。这一突破为在各种硬件配置上实现高度可扩展且易于访问的本地AI部署铺平了道路。