深度学习学习笔记:最优化方法SGD、Momentum、AdaGrad、RMSProp、Adam
以下素材全部整理于:博主BVL10101111 。话不多说,直接上图。
1、 最优化方法之SGD
2、 最优化方法之Momentum(动量)
3、最优化方法之Nesterov(牛顿动量)
4、 最优化方法之AdaGrad
5、最优化方法之RMSProp
6、 最优化方法之Adam
————————————————
原文链接:https://blog.****.net/bvl10101111/article/details/72615436