深度学习—机器学习(神经网络2)
1. 关于非线性转化方程(non-linear transformation function)
sigmoid 函数(S 曲线)用来作为activation function:
**在0和一之间渐变的一个曲线**
1.1 双曲函数(tanh)
tanhx为下方蓝色的线
双曲函数的倒数:
1.2 逻辑函数(logistic function)
导数:P(t)*(1-P(t))