神经网络算法与Python(二):矩阵的应用

参考

一、Python神经网络编程(Tariq Rashid著)
二、CSDN博客以及简书

矩阵与神经网络

在上一节,我们已经讨论了一个简单的神经网络的由来和构造。我们选择了S函数作为每一个神经元的行为函数(即该神经元的输入*S函数=输出)。
那么神经网络到底是如何工作的呢?我们可以从最简单的一个神经网络出发,如下图下图所示:神经网络算法与Python(二):矩阵的应用
注意,该图中的神经元并未对输入输出进行S函数处理。
由图可知,即便是一个简单的2层的神经网络的运算都比较繁琐。因此矩阵可以被应用在计算中:X=WI(W是权重矩阵,I是输入矩阵,X是该层神经元对输入信号的处理结果)。倘若考虑神经元本身的行为函数即S函数的话,我们只需要令O=sigmoid(X)即可。

同理对于多层神经元,只需要建立每一层神经元的权重矩阵即可。无论是第三层,第一百层还是一千层均一视同仁。