写在前面:
首先感谢兄弟们的关注和订阅,让我有创作的动力,在创作过程我会尽最大能力,保证作品的质量,如果有问题,可以私信我,让我们携手共进,共创辉煌。
1. 前言
LeNet5算法是LeCun在1998年提出的卷积神经网络模型。大约90年代,由于支持向量机等算法的发现,深度学习的发展受到了很大的阻碍(尽管Geoffery Hinton在1986年提出的BP算法(Backpropagation)解决了神经网络的非线性分类学习的问题,但梯度消失的问题没有得到很好的解决)。Lecun等人坚持不懈,依然坚持苦苦研究。1998年,LeCun提出了LeNet5网络来解决手写识别的问题。其被誉为卷积网络的“Hello world”,这足以该算法的重要性。在此之前,LeCun最早在1989年提出了LeNet-1,并在接下来的几年中继续探索,陆续提出了LeNet-4、Boosted LeNet-4等(LeNet-2和LeNet-3并没有找到相关资料,感兴趣的朋友可以继续深挖)。
LeNet5论文:
LeNet5论文地址:
http://yann.lecun.com/exdb/publis/pdf/lecun-98.pdf
2. LeNet5
LeNet的最