ML笔记——神经网络

想法

用计算机的方式表示各个神经元，模仿生物的大脑。
用数据表示各个神经细胞，用函数表示神经细胞间的传递过程。

ML笔记——神经网络
其中的

x_{1}, x_{2}

表示原始数据，

a_{1}^{(2)}

表示第二个**层的第一个单元
由原始数据向**层传递的过程表示为

a_{1}^{(2)} = g (θ_{10}^{(1)} x_{0} + θ_{11}^{(1)} x_{1} + θ_{12}^{(1)} x_{2})

上式中的

θ_{i k}^{(j)}

表示为从第 j 层中的第 k 个单元向第 j+1 层中第 i 个单元传递的权值
其中的假设函数

h_{θ} (x) = a_{1}^{(2)}

对于再复杂一些的网络如下图：
ML笔记——神经网络

则有

a_{1}^{(2)} = g (θ_{10}^{(1)} x_{0} + θ_{11}^{(1)} x_{1} + θ_{12}^{(1)} x_{2} + θ_{13}^{(1)} x_{3})

a_{2}^{(2)} = g (θ_{20}^{(1)} x_{0} + θ_{21}^{(1)} x_{1} + θ_{22}^{(1)} x_{2} + θ_{23}^{(1)} x_{3})

a_{3}^{(2)} = g (θ_{30}^{(1)} x_{0} + θ_{31}^{(1)} x_{1} + θ_{32}^{(1)} x_{2} + θ_{33}^{(1)} x_{3})

h_{θ} (x) = a_{1}^{(3)} = g (θ_{10}^{(2)} a_{0}^{(2)} + θ_{11}^{(2)} a_{1}^{(2)} + θ_{12}^{(2)} a_{2}^{(2)} + θ_{13}^{(2)} a_{3}^{(2)})

神经网络的实现方式可以选择一组基本操作（如：加减法），再通过这一组基本操作求解复杂过程的解（如：解一元一次方程）
机器学习视频中讲述的是通过构造与、或、非三个基本的逻辑运算，并用这些简单的神经网络构造异或运算