Qwen3.5 LLM 在 Strix Halo 上性能飙升:令人兴奋的 Unsloth 量化见解!
分析
这项研究探索了 Qwen3.5-35B 和 122B 模型的性能,在 Strix Halo 系统上使用了新的“动态”量化方法。测试比较了 Unsloth UDXL 量化与 Bartowski 的实现,揭示了在创建具有 3D 动画太阳系的复杂 HTML 文件期间的性能提升和有趣的特性。
要点
引用 / 来源
查看原文"除了性能数据之外,我在测试“动态”量化时注意到了一些奇怪的事情,我已经测试了 strix halo 上的 122B-A10B-UD-Q5_K_XL 和 35B-A3B-UD-Q6_K_XL,它们表现得很奇怪。"