双向LSTM的信息瓶颈的解决

分类: 文章 • 2025-02-28 14:25:59

双向LSTM的信息瓶颈的解决
如果在时间步的最后输出，则可能会导致开始的一些字符被遗忘门给遗忘。所以这里就对每个时间步的输出做出了处理，主要处理有：
1.拼接：把所有的输出拼接在一起。2.Average 3.Pooling