[机器学习]05.神经元神经网络

[机器学习]05.神经元神经网络

神经元模型,逻辑单元

x0,偏置单位/偏置神经元=1

Theta是参数,又称权重weight


[机器学习]05.神经元神经网络


神经网络:不同的神经元在一起的组合

第一层输入层input layer 最后一层输出层output layer 中间hidden layer

当只有一层hidden layer

[机器学习]05.神经元神经网络


aj层的第i个单位的激励

Theta jj+1层的作用函数的矩阵

[机器学习]05.神经元神经网络


Theta的维度:

[机器学习]05.神经元神经网络

Theta(j)等于第j+1层的单元数X(第j层单元数+1


计算h(x) 的过程: forward propagation 前向传播(输入层到隐藏层到输出层计算)

向量化:

[机器学习]05.神经元神经网络


定义

[机器学习]05.神经元神经网络

z就为thetax的乘积,Theta 3x4x 4x1z 3x1

 

上式就为

[机器学习]05.神经元神经网络


x改为a(1)

[机器学习]05.神经元神经网络

最后一步时

[机器学习]05.神经元神经网络