机器学习与深度学习系列连载： 第二部分 深度学习（三）反向传播 Backpropagaton
反向传播 Backpropagaton
神经网络之所以能够工作，反向传播 Backpropagaton 算法功不可没。
上节我们一起学习了Gradient Decent， 由于可能有数百万的参数，BP算法更加高效。
链式规则 Chain Rule
导数可以进行传递：
反向传递 Backpropagaton
前向 Forward pass
为每一个参数 计算 ??/??
后向 Backward pass
为每一个参数 计算 ?C/?? C是损失函数， 输入是z
总结：
反向传播：
本专栏图片、公式很多来自台湾大学李弘毅老师、斯坦福大学cs229，斯坦福大学cs231n 、斯坦福大学cs224n课程。在这里，感谢这些经典课程，向他们致敬！