微软 Zero 和 DeepSpeed：内存高效的大型神经网络训练

这篇文章引用了微软的 Zero 和 DeepSpeed，重点介绍了训练大型神经网络时的内存效率提升。 重点可能在于诸如模型分区和梯度压缩之类的技术，以克服硬件限制。