中国人工智能学会通讯——一张图看懂BP算法 1.3 神经网络的 BP 算法

它描述了网络输出和目标输出之间的距离，刻画了网络性能的好坏。显然，J越小，网络性能越好。寻求J的极小点是BP算法的目标。

中国人工智能学会通讯——一张图看懂BP算法 1.3 神经网络的 BP 算法

这一关系式表明只要能计算出敏感性，即可据此计算出梯度。

中国人工智能学会通讯——一张图看懂BP算法 1.3 神经网络的 BP 算法

删除中间过程，有

中国人工智能学会通讯——一张图看懂BP算法 1.3 神经网络的 BP 算法

通过计算网络最后一层神经元的敏感性，然后在网络中反向逐层计算其他层神经元敏感性，这就是所谓BP。

中国人工智能学会通讯——一张图看懂BP算法 1.3 神经网络的 BP 算法

图4非常容易记忆和理解，这就是我们所谓的一张图看懂BP算法。