optimizer 性能对比
在线性回归或者监督学习中，我们会计算预测值与真实值之间的差距，也就是loss。
在计算得出loss之后，通常会使用Optimizer对所构造的数学模型/网络模型进行参数优化，
通常情况下，优化的最终目的是使得loss趋向于最小。
下面是几种Optimizer模型参数优化算法对比：
在线性回归或者监督学习中，我们会计算预测值与真实值之间的差距，也就是loss。
在计算得出loss之后，通常会使用Optimizer对所构造的数学模型/网络模型进行参数优化，
通常情况下，优化的最终目的是使得loss趋向于最小。
下面是几种Optimizer模型参数优化算法对比：