深度学习—机器学习(神经网络2)

1. 关于非线性转化方程(non-linear transformation function)
    sigmoid  函数(S 曲线)用来作为activation function:
        **在0和一之间渐变的一个曲线**
     1.1 双曲函数(tanh)
                               深度学习—机器学习(神经网络2)
                        tanhx为下方蓝色的线
                             深度学习—机器学习(神经网络2)
        双曲函数的倒数:
                            深度学习—机器学习(神经网络2)
     1.2  逻辑函数(logistic function)

                  深度学习—机器学习(神经网络2)     深度学习—机器学习(神经网络2)

             导数:P(t)*(1-P(t))