神经网络模型

定义：

神经网络是由具有适应性的简单单元组成的广泛并行互联的网络，它的组织能够模拟生物神经系统对真实世界物体所做出的交互反应。

神经网络的最基本的单位是神经元(neuron)模型，就是定义中的简单单元。

在生物神经网络中，每个神经元和其他神经元相连，当它“兴奋”的时候，就会向相连的神经元发送化学物质，从而改变这些神经元内的电位，如果某种电位超过了一个“阈值”，那么它就会被**，即兴奋起来，向其他神经元传递化学物质。

在M-P神经元模型中，神经元收到来自n个其他神经元传递过来的输入信号，这些输入信号通过权重连接进行传递，神经元接收到的总输入值将会与神经元的阈值进行比较，然后通过**函数处理以产生神经元输出。

x = ⎛ ⎝ ⎜ ⎜ ⎜ ⎜ x 1 x 2 ⋮ x n ⎞ ⎠ ⎟ ⎟ ⎟ ⎟

w = ⎛ ⎝ ⎜ ⎜ ⎜ ⎜ w 1 w 2 ⋮ w n ⎞ ⎠ ⎟ ⎟ ⎟ ⎟

t h r e s h o l d = θ

则输出可以表示为：

y = f (\sum i = 1 n w i x i - θ) = f (w T x - θ)

y \in {0, 1}

{1 代 表 兴 奋 0 代 表 抑 制

常见**函数：
机器学习笔记（XIV）神经网络（I）基本概念

s g n (x) = {10, x \geq 0;, x < 0;

s i g m o i d (x) = 1 1 + e - x