5种优化器的对比
在(lr=0.1 epoch=500 batch=32)和(lr=0.1 epoch=100 batch=32)两种情况下,SGD,SGDM,ADAGRAD,RMSPROP,ADAM 在鸢尾花数据集中的loss,acc,训练耗时对比。
1. 在(lr=0.1 epoch=500 batch=32)的情况下:
在 lr=0.1 ,epoch=500 , batch=32的情况下:

2. 在(lr=0.1 epoch=100 batch=32)的情况下

详细对比文档:
https://download.****.net/download/qq_40575024/12378870