深度神经网络:33年前和33年后
分析
Andrej Karpathy 的这篇文章讨论了 1989 年 Yann LeCun 关于手写邮政编码识别的论文的历史意义,强调了其在现实世界中对反向传播的早期应用。 Karpathy 强调了这篇论文令人惊讶的现代结构,包括数据集描述、架构、损失函数和实验结果。 然后,他描述了他使用 PyTorch 重现这篇论文的努力,将其视为关于深度学习演变的案例研究。 这篇文章强调了该领域基础研究的持久相关性。
引用 / 来源
查看原文"The Yann LeCun et al. (1989) paper Backpropagation Applied to Handwritten Zip Code Recognition is I believe of some historical significance because it is, to my knowledge, the earliest real-world application of a neural net trained end-to-end with backpropagation."