链式法则
链式法则是微积分中的求导法则,用于求一个复合函数的导数,是在微积分的求导运算中一种常用的方法。复合函数的导数将是构成复合这有限个函数在相应点的 导数的乘积,就像锁链一样一环套一环,故称链式法则。(来自百度百科)
链式法则是求复合函数的导数(偏导数)的法则,若 I,J 是直线上的开区间,函数 f(x) 在 I 上有定义处可微,函数 g(y) 在 J 上有定义
,在 f(a) 处可微,则复合函数
在 a 处可微 (
在 I 上有定义),且
. 若记 u=g(y),y=f(x),而 f 在 I 上可微,g 在 J 上可微,则在 I 上任意点 x 有
即,或写出
在深度学习中,神经网络在反向传播训练参数的时候也要用到链式法则,举个栗子
假设存在下面的关系:
假设
a=2,b=1
那么
逐级求导:
图示如下:
链式求导:
验证:
参考:深度学习-链式求导 https://blog.****.net/weixin_40476348/article/details/94434483