动手深度学习(1-3)

线性回归

softmax与分类模型

softmax函数的常数不变性
动手深度学习(1-3)
为什么是指数形式(了解)
动手深度学习(1-3)
动手深度学习(1-3)

多层感知机

文本预处理

文本是一类序列数据,一篇文章可以看作是字符或单词的序列,本节将介绍文本数据的常见预处理步骤,预处理通常包括四个步骤:

读入文本
分词
建立字典,将每个词映射到一个唯一的索引(index)
将文本从词的序列转换为索引的序列,方便输入模型
重点是分词工具:英文分词使用spaCy和NLTK
中文分词工具jieba分词

语言模型

基于统计的语言模型,主要是 nn元语法( nn -gram)

动手深度学习(1-3)动手深度学习(1-3)
每个batch_size中包含n个时间步数

循环神经网络基础

动手深度学习(1-3)
动手深度学习(1-3)