苹果神经引擎的秘密解锁:为小型LLM提供动力!
分析
这项令人兴奋的进展揭示了一种使用苹果神经引擎(ANE)训练更小模型的新方法。 逆向工程 ANE 并创建专门的训练管道的能力是向前迈出的巨大一步。 所展示的能源效率确实非常出色,为节能 AI 发展打开了大门。
要点
引用 / 来源
查看原文"ANE 上的峰值计算仅消耗 2.8 W,在 19 tflops 下变为 6.6 tflops/瓦。 疯狂!"
"ANE 上的峰值计算仅消耗 2.8 W,在 19 tflops 下变为 6.6 tflops/瓦。 疯狂!"