GitChat 武博士 深度学习与 NLP(一)阅读笔记

地址: https://gitbook.cn/books/5c7888e1a19247277cb5c313/index.html
GitChat 武博士 深度学习与 NLP(一)阅读笔记
GitChat 武博士 深度学习与 NLP(一)阅读笔记

GitChat 武博士 深度学习与 NLP(一)阅读笔记
GitChat 武博士 深度学习与 NLP(一)阅读笔记

  • 深度学习优势总结:

手工特征耗时耗力,还不易拓展
自动特征学习快,方便拓展
深度学习提供了一种通用的学习框架,可用来表示世界、视觉和语言学信息
深度学习既可以无监督学习,也可以监督学习

  • 在 Deep NLP 中我们处理自然语言分如下几个方面:

处理层次:语音、词汇、语法、语义等
处理方案:词性标注、命名实体识别、句法、语义分析等

  • 词向量主要拥有以下优点:

预训练获得,习得一个好的词向量可以在多个任务中被继续使用;
可以表示单词之间的联系和差异,让模型更好地“读”懂单词和句子;
它是一个定长连续的稠密向量,占用资源少,计算速度快。

  • 词向量的缺点。

可解释性较弱 。
多义词歧义问题。
偏见问题 。