神经正切核背后的数学

这篇文章介绍了神经正切核（NTK）作为一种工具，用于理解过度参数化的神经网络在训练期间的行为。它强调了这些网络即使在完美拟合训练数据的情况下也能实现良好的泛化性能，即使参数数量多于数据点。文章承诺深入探讨NTK的动机、定义和收敛特性，特别是在无限宽度网络的背景下。

• •NTK是一种用于解释神经网络训练动态的核。
• •过度参数化的神经网络即使完美拟合训练数据也能很好地泛化。
• •本文将探讨NTK的收敛特性，特别是在无限宽度网络中。