模型表示1

神经网络模型建立在很多神经元之上，每一个神经元又是一个个学习模型。这些神经元（也叫**单元，activation unit）采纳一些特征作为输出，并且根据本身的模型提供一个输出。下图是一个以逻辑回归模型作为自身学习模型的神经元示例，在神经网络中，参数又可被成为权重（weight）

其中$x_1$x1​, $x_2$x2​, $x_3$x3​是输入单元（input units），我们将原始数据输入给它们。 $a_1$a1​, $a_2$a2​, $a_3$a3​是中间单元，它们负责将数据进行处理，然后呈递到下一层。 最后是输出单元，它负责计算${h_\theta}\left( x \right)$hθ​(x)。
其中每一层根据具体问题需求，会设置加入$x_0$x0​
神经网络模型是许多逻辑单元按照不同层级组织起来的网络，每一层的输出变量都是下一层的输入变量。下图为一个3层的神经网络，第一层成为输入层（Input Layer），最后一层称为输出层（Output Layer），中间一层成为隐藏层（Hidden Layers）。我们为每一层都增加一个偏差单位（bias unit）：

下面引入一些标记法来帮助描述模型： $a_{i}^{\left( j \right)}$ai(j)​ 代表第$j$j 层的第 $i$i 个**单元。${{\theta }^{\left( j \right)}}$θ(j)代表从第 $j$j 层映射到第$ j+1$ 层时的权重的矩阵，例如${{\theta }^{\left( 1 \right)}}$θ(1)代表从第一层映射到第二层的权重的矩阵。其尺寸为：以第 $j+1$j+1层的**单元数量为行数，以第 $j$j 层的**单元数加一为列数的矩阵。例如：上图所示的神经网络中${{\theta }^{\left( 1 \right)}}$θ(1)的尺寸为 3*4。

对于上图所示的模型，**单元和输出分别表达为：

$a_{1}^{(2)}=g(\Theta {10}^{(1)}{{x}{0}}+\Theta {11}^{(1)}{{x}{1}}+\Theta {12}^{(1)}{{x}{2}}+\Theta {13}^{(1)}{{x}{3}})$a1(2)​=g(Θ10(1)x0+Θ11(1)x1+Θ12(1)x2+Θ13(1)x3)
$a_{2}^{(2)}=g(\Theta {20}^{(1)}{{x}{0}}+\Theta {21}^{(1)}{{x}{1}}+\Theta {22}^{(1)}{{x}{2}}+\Theta {23}^{(1)}{{x}{3}})$a2(2)​=g(Θ20(1)x0+Θ21(1)x1+Θ22(1)x2+Θ23(1)x3)
$a_{3}^{(2)}=g(\Theta {30}^{(1)}{{x}{0}}+\Theta {31}^{(1)}{{x}{1}}+\Theta {32}^{(1)}{{x}{2}}+\Theta {33}^{(1)}{{x}{3}})$a3(2)​=g(Θ30(1)x0+Θ31(1)x1+Θ32(1)x2+Θ33(1)x3) ${{h}_{\Theta }}(x)=g(\Theta {10}^{(2)}a{0}^{(2)}+\Theta {11}^{(2)}a{1}^{(2)}+\Theta {12}^{(2)}a{2}^{(2)}+\Theta {13}^{(2)}a{3}^{(2)})$hΘ​(x)=g(Θ10(2)a0(2)+Θ11(2)a1(2)+Θ12(2)a2(2)+Θ13(2)a3(2))
上面进行的讨论中只是将特征矩阵中的一行（一个训练实例）喂给了神经网络，我们需要将整个训练集都喂给我们的神经网络算法来学习模型。

我们可以知道：每一个$a$a都是由上一层所有的$x$x和每一个$x$x所对应的决定的。

（我们把这样从左到右的算法称为前向传播算法( FORWARD PROPAGATION )）

把$x$x, $\theta$θ, $a$a 分别用矩阵表示：

我们可以得到$\theta \cdot X=a$θ⋅X=a 。

模型表示2

我们令 ${{z}^{\left( 2 \right)}}={{\theta }^{\left( 1 \right)}}x$z(2)=θ(1)x，则 ${{a}^{\left( 2 \right)}}=g({{z}^{\left( 2 \right)}})$a(2)=g(z(2)) ，计算后添加 $a_{0}^{\left( 2 \right)}=1$a0(2)​=1。 计算输出的值为：

我们令 ${{z}^{\left( 3 \right)}}={{\theta }^{\left( 2 \right)}}{{a}^{\left( 2 \right)}}$z(3)=θ(2)a(2)，则 $h_\theta(x)={{a}^{\left( 3 \right)}}=g({{z}^{\left( 3 \right)}})$hθ​(x)=a(3)=g(z(3))。 这只是针对训练集中一个训练实例所进行的计算。如果我们要对整个训练集进行计算，我们需要将训练集特征矩阵进行转置，使得同一个实例的特征都在同一列里。即：
${{z}^{\left( 2 \right)}}={{\Theta }^{\left( 1 \right)}}\times {{X}^{T}}$z(2)=Θ(1)×XT

${{a}^{\left( 2 \right)}}=g({{z}^{\left( 2 \right)}})$a(2)=g(z(2))

为了更好了了解Neuron Networks的工作原理，我们先把左半部分遮住：

右半部分其实就是以$a_0, a_1, a_2, a_3$a0​,a1​,a2​,a3​, 按照Logistic Regression的方式输出$h_\theta(x)$hθ​(x)：

其实神经网络就像是logistic regression，只不过我们把logistic regression中的输入向量$\left[ x_1\sim {x_3} \right]$[x1​∼x3​] 变成了中间层的$\left[ a_1^{(2)}\sim a_3^{(2)} \right]$[a1(2)​∼a3(2)​], 即:
$h_\theta(x)=g\left( \Theta_0^{\left( 2 \right)}a_0^{\left( 2 \right)}+\Theta_1^{\left( 2 \right)}a_1^{\left( 2 \right)}+\Theta_{2}^{\left( 2 \right)}a_{2}^{\left( 2 \right)}+\Theta_{3}^{\left( 2 \right)}a_{3}^{\left( 2 \right)} \right)$hθ​(x)=g(Θ0(2)​a0(2)​+Θ1(2)​a1(2)​+Θ2(2)​a2(2)​+Θ3(2)​a3(2)​)
我们可以把$a_0, a_1, a_2, a_3$a0​,a1​,a2​,a3​看成更为高级的特征值，也就是$x_0, x_1, x_2, x_3$x0​,x1​,x2​,x3​的进化体，并且它们是由 $x$x与$\theta$θ决定的，因为是梯度下降的，所以$a$a是变化的，并且变得越来越厉害，所以这些更高级的特征值远比仅仅将 $x$x次方厉害，也能更好的预测新数据。 这就是神经网络相比于逻辑回归和线性回归的优势。

特征和直观理解1

神经网络中，单层神经元（无中间层）的计算可用来表示逻辑运算，比如逻辑与(AND)、逻辑或(OR)。

举例说明：逻辑与(AND)；下图中左半部分是神经网络的设计与output层表达式，右边上部分是sigmod函数，下半部分是真值表。

我们可以用这样的一个神经网络表示AND 函数：

其中$\theta_0 = -30, \theta_1 = 20, \theta_2 = 20$θ0​=−30,θ1​=20,θ2​=20 我们的输出函数$h_\theta(x)$hθ​(x)即为：$h_\Theta(x)=g\left( -30+20x_1+20x_2 \right)$hΘ​(x)=g(−30+20x1​+20x2​)

我们知道$g(x)$g(x)的图像是：

所以我们有：$h_\Theta(x) \approx \text{x}_1 \text{AND} \text{x}_2$hΘ​(x)≈x1​ANDx2​

所以我们的：$h_\Theta(x)$hΘ​(x)

这就是AND函数。

OR函数：

特征与直观理解2

二元逻辑运算符（BINARY LOGICAL OPERATORS）当输入特征为布尔值（0或1）时，我们可以用一个单一的**层可以作为二元逻辑运算符，为了表示不同的运算符，我们只需要选择不同的权重即可。

下图的神经元（三个权重分别为-30，20，20）可以被视为作用同于逻辑与（AND）：

下图的神经元（三个权重分别为-10，20，20）可以被视为作用等同于逻辑或（OR）：

下图的神经元（两个权重分别为 10，-20）可以被视为作用等同于逻辑非（NOT）：

我们可以利用神经元来组合成更为复杂的神经网络以实现更复杂的运算。例如我们要实现XNOR 功能（输入的两个值必须一样，均为1或均为0），即 $\text{XNOR}=( \text{x}_1, \text{AND}, \text{x}_2 ), \text{OR} \left( \left( \text{NOT}, \text{x}_1 \right) \text{AND} \left( \text{NOT}, \text{x}_2 \right) \right)​$XNOR=(x1​,AND,x2​),OR((NOT,x1​)AND(NOT,x2​))​ 首先构造一个能表达$\left( \text{NOT}, \text{x}_1 \right) \text{AND} \left( \text{NOT}, \text{x}_2 \right)​$(NOT,x1​)AND(NOT,x2​)​部分的神经元

多类分类

当我们有不止两种分类时（也就是$y=1,2,3….$y=1,2,3….），比如以下这种情况，该怎么办？如果我们要训练一个神经网络算法来识别路人、汽车、摩托车和卡车，在输出层我们应该有4个值。例如，第一个值为1或0用于预测是否是行人，第二个值用于判断是否为汽车。

输入向量$x$x有三个维度，两个中间层，输出层4个神经元分别用来表示4类，也就是每一个数据在输出层都会出现${{\left[ a\text{ }b\text{ }c\text{ }d \right]}^{T}}$[a b c d]T，且$a,b,c,d$a,b,c,d中仅有一个为1，表示当前类。下面是该神经网络的可能结构示例：


神经网络算法的输出结果为四种可能情形之一：