神经网络基础学习笔记(四)误差反向传播法

前言:

数值微 分虽然简单,也容易实现,但缺点是计算上比较费时间。本章我们将学习一 个能够高效计算权重参数的梯度的方法——误差反向传播法

正确理解误差反向传播法:一种是基于数学式; 另一种是基于计算图(computational graph)

5.1 计算

5.1.1 用计算图求解

节点用○表示,○中是计算的内 容。

神经网络基础学习笔记(四)误差反向传播法

也可以表示为:

神经网络基础学习笔记(四)误差反向传播法