论文《word2vec Parameter Learning Explained》笔记

###Xin Rong的 论文《word2vec Parameter Learning Explained》

CBOW
Skip gram
H softmax
negative sampling

【CBOW】

【single word 】

给出一个context,预测一个目标word
论文《word2vec Parameter Learning Explained》笔记
inputs:one-hot编码,也就是{x1```xv}中只有一个1,其余是0

【input 计算 hidden】
论文《word2vec Parameter Learning Explained》笔记

【hidden 计算 output】
论文《word2vec Parameter Learning Explained》笔记

【output 到 损失函数】

论文《word2vec Parameter Learning Explained》笔记
论文《word2vec Parameter Learning Explained》笔记
【Multi-word】
论文《word2vec Parameter Learning Explained》笔记
论文《word2vec Parameter Learning Explained》笔记

未完待续····