图解时间序列的深度学习(RNN&LSTM)

对于时间序列,我们无法使用CNN来处理一些问题,这个时候,就需要引入新的深度学习网络结构了,RNN和LSTM就是两个非常经典的工具。他们的结构分别如下所示:

RNN的结构图

图解时间序列的深度学习(RNN&LSTM)
图解时间序列的深度学习(RNN&LSTM)
有些时候,我们需要联系上下文,而不仅仅是前文,因此我们引入了双向RNN:
图解时间序列的深度学习(RNN&LSTM)

不严谨的,我们可以把RNN的知识要点整理成一下脑图:
图解时间序列的深度学习(RNN&LSTM)

LSTM

如果时间序列太长,RNN就会遇到梯度爆炸和梯度消失的问题,因为在求梯度的过程中的链式法则使得梯度的计算值和序列的长度高度依赖,为了解决这个问题,我们需要遗忘一些东西,这个时候,我们就可以使用LSTM的网络结构来进行优化了,其结构如下所示:
图解时间序列的深度学习(RNN&LSTM)
同样,我们把LSTM的重要概念整理成了脑图如下:
图解时间序列的深度学习(RNN&LSTM)