深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习-01
深度学习-01
深度学习概述
引入
人工智能划时代事件
深度学习巨大影响
深度学习
什么是深度学习
深度神经网络
深度学习与机器学习的关系
深度学习的特点
深度学习的优点
深度学习的缺点
为什么要学习深度学习
深度学习的应用
深度学习发展史
深度网络进化过程
小结
感知机与神经网络
感知机
什么是感知机
感知机的功能
实现逻辑和
实现逻辑或
如何实现感知机
实现逻辑和
实现逻辑或
感知机的缺陷
多层感知机
多层感知机解决异或门实现
神经网络
什么是神经网络
神经网络的功能
通用近似定理
深层网络的优点
**函数
什么是**函数
为什么使用**函数
常见的**函数
阶跃函数
sigmoid函数
tanh双曲正切函数
ReLU(Rectified Linear Units,修正线性单元)
Softmax
小结
损失函数与梯度下降
损失函数
什么是损失函数
损失函数的作用
常用的损失函数
均方误差损失函数
交叉熵
梯度下降
什么是梯度下降
梯度下降
导数与偏导数
导数
偏导数
学习率
梯度递减训练法则
梯度下降算法
批量梯度下降
随机梯度下降
小批量梯度下降
几种梯度下降算法收敛比较
小结
反向传播算法
什么是正向传播网络
什么是反向传播
为什么需要反向传播
反向传播算法及简史
图解反向传播
反向传播计算
链式求导法则
案例1:通过反向传播计算偏导数
小结
卷积神经网络
卷积函数
什么是卷积
离散卷积与多维卷积
生活中的卷积
卷积神经网络
全连接神经网络的局限
什么是卷积神经网络
卷积神经网络的用途
卷积运算
单通道、二维卷积运算示例
相同位置相乘再相加