DGX Spark LLM 训练基准测试:比宣传的慢?
分析
这篇文章报告了在 DGX Spark 系统上训练 LLM 时观察到的性能差异。作者购买了 DGX Spark,试图复制 Nvidia 公布的基准测试结果,但发现 token/s 速率明显较低。这表明可能存在优化、库兼容性或其他影响性能的因素的问题。这篇文章强调了独立验证供应商提供的性能声明的重要性。
要点
引用
“作者说:“然而,目前的现实是 DGX Spark 比宣传的慢得多,或者库尚未完全优化,或者可能还有其他问题,因为这两种库的性能都低得多,而且我不是唯一一个获得这些速度的人。””