神经网络学习笔记（4）：RNN
处理神经网络时包括两个主要阶段：训练 和 评估。
在训练阶段，我们采取包含多对输入及其相应目标（输出）的数据集(又称训练集)，我们的目标是找到一组权重，可以从输入到理想输出实现最佳映射。 在评估阶段，我们使用在训练阶段创建的网络，应用新的输入，得到理想的输出。
训练阶段包括两个步骤：前馈 和 反向传播。
根据需要，我们会多次重复这些步骤，直到我们确定的系统得到一组最佳权重，可以得到最优输出。
在反向传播算法过程中，我们通过调整权重，利用每次迭代使网络误差最小化。
最常用的两个误差函数是均方误差(MSE)(通常用于回归问题)和交叉熵(通常用于分类问题)。
RNN：
需要调整的权重有Wy,Ws,Wx:
1、Ws
基于时间的反向传播算法
2、Wx