深度学习——记忆网络

分类: 文章 • 2025-03-27 17:30:27

大多数机器学习模型缺少可以读取、写入的长期记忆的内存结构，LSTM和RNN记忆太小了，不够。

深度学习——记忆网络
下面是端到端单层网络的具体流程：

深度学习——记忆网络
左边输入句子，通过Embedding转换为向量。下面输入问题，转换为特征，再通过softmax得到概率，输出部分o加权求和，然后把输入和O一起通过softmax得到最终的输入。

key-Value记忆网络

深度学习——记忆网络