利用物理学启发的奇异学习理论理解现代神经网络的Grokking及其他相变

这篇ArXiv论文探讨了使用受物理学启发的奇异学习理论来分析现代神经网络中如“grokking”等复杂行为。这项研究为理解和预测深度学习模型中的相变提供了一个潜在的宝贵框架。

• •应用源于物理学的奇异学习理论（SLT）来分析神经网络行为。
• •侧重于理解诸如“grokking”（一种突然的性能提升）等现象。
• •旨在提供一个用于预测深度学习中相变的理论框架。