最详细的Sigmoid函数的求导推导过程
Sigmoid函数为logistic回归、神经网络等模型的**函数。
函数图像如下:
定义域是从 (−∞,+∞),值域是(0,1)。
函数:
导数:
推导过程为:
(1)
(2)
其中,第一步到第二步可以看成的形式。即:
(3)
第二步到第三步是复合函数求导。
复合函数求导:先对外层函数求导再依次往里进行求导。
(1)外层可以看成的形式。
的导数为:
等价于A。即:外层
求导为
(2)再乘以内层的导数。内层又是一个1+的形式。
所以的导数为:0 +
(3)外部和内部相乘为:,即为第四步。
(4)