《machine learning》8神经网络:表述
8.1 传统机器学习非线性假设
逻辑回归适用于特征类别少的数据集,当特征类别数多的时候,使用逻辑回归会产生非常多的特征项,会过拟合。
上图5050像素的灰度图像,在一张图像中会产生5050*255个特征类别,在使用传统的机器学习中的逻辑回归,将不同的特征类别按最高二次进行组合,会产生3百万个不同的特征。显然这是不实用的。
8.2 神经元与大脑
8.3 神经网络的假设
输入层input layer
输出层output layer
隐藏层hidden layer
模型参数parameter = 权重wight
a
i
(
j
)
a_i^{(j)}
ai(j):第j层的第i个**项(神经元)
Θ
(
j
)
\Theta^{(j)}
Θ(j):控制从第j层到第j+1层的映射权重
8.4 向量化表示神经网络(正向传播)
8.5 神经网络计算输入的复杂非线性函数
在这里插入图片描述
逻辑与运算
**函数:
g
(
z
)
=
1
1
−
e
−
Θ
T
x
g(z)={1\over 1-e^{-\Theta^Tx}}
g(z)=1−e−ΘTx1
或运算
8.6 多层神经元计算更复杂的输入
非运算