Stanford 深度自然语言处理 学习笔记(九)
复习
机器翻译
传统的机器翻译需要很多人工特征
编码器使用RNN
扩展:
使得两个单元解耦,同时两个RNN模块都会有更高的准确率。这意味着编码器和解码器有不同的W(hh)矩阵。
解码阶段的输入改变
翻转输入词的顺序使对应词的位置更靠近,能够减少输出阶段的误差比例,减少梯度消失问题
复习
机器翻译
传统的机器翻译需要很多人工特征
编码器使用RNN
扩展:
使得两个单元解耦,同时两个RNN模块都会有更高的准确率。这意味着编码器和解码器有不同的W(hh)矩阵。
解码阶段的输入改变
翻转输入词的顺序使对应词的位置更靠近,能够减少输出阶段的误差比例,减少梯度消失问题