深度神经网络：33年前和33年后

Andrej Karpathy 的这篇文章讨论了 1989 年 Yann LeCun 关于手写邮政编码识别的论文的历史意义，强调了其在现实世界中对反向传播的早期应用。 Karpathy 强调了这篇论文令人惊讶的现代结构，包括数据集描述、架构、损失函数和实验结果。 然后，他描述了他使用 PyTorch 重现这篇论文的努力，将其视为关于深度学习演变的案例研究。 这篇文章强调了该领域基础研究的持久相关性。

• •1989 年 LeCun 的论文代表了反向传播在现实世界图像识别中的早期应用。
• •该论文的结构和方法论出人意料地现代，类似于当代深度学习研究。
• •重现这篇论文可以深入了解深度学习技术的进步和演变。