台湾老李--LSTM拓展

RNN梯度消失和爆炸的原因

误差曲面为非常平坦或非常陡峭

台湾老李--LSTM拓展

台湾老李--LSTM拓展

LSTM能解决梯度消失问题的原因:

普通RNN每次都是重置记忆单元,LSTM除非忘记门关闭,否则记忆单元的影响永远不会消失

台湾老李--LSTM拓展

台湾老李--LSTM拓展

上面输入输出相等的应用下面介绍更多应用

台湾老李--LSTM拓展

多对一:电影情感分析

台湾老李--LSTM拓展

多对多:语音识别

台湾老李--LSTM拓展

多对多:序列到序列(机器翻译)

台湾老李--LSTM拓展