深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

深度学习-01

深度学习-01

深度学习概述

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

引入

人工智能划时代事件

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

深度学习巨大影响

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

深度学习

什么是深度学习

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

深度神经网络

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

深度学习与机器学习的关系

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

深度学习的特点

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

深度学习的优点

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

深度学习的缺点

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

为什么要学习深度学习

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

深度学习的应用

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

深度学习发展史

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

深度网络进化过程

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

小结

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

感知机与神经网络

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

感知机

什么是感知机

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

感知机的功能

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

实现逻辑和

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

实现逻辑或

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

如何实现感知机

实现逻辑和

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

实现逻辑或

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

感知机的缺陷

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

多层感知机

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

多层感知机解决异或门实现

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

神经网络

什么是神经网络

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

神经网络的功能

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

通用近似定理

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

深层网络的优点

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

**函数

什么是**函数

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

为什么使用**函数

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

常见的**函数

阶跃函数

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

sigmoid函数

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

tanh双曲正切函数

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

ReLU(Rectified Linear Units,修正线性单元)

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

Softmax

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

小结

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

损失函数与梯度下降

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

损失函数

什么是损失函数

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

损失函数的作用

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

常用的损失函数

均方误差损失函数

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

交叉熵

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

梯度下降

什么是梯度下降

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

梯度下降

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

导数与偏导数

导数

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

偏导数

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

学习率

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

梯度递减训练法则

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

梯度下降算法

批量梯度下降

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

随机梯度下降

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

小批量梯度下降

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

几种梯度下降算法收敛比较

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

小结

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

反向传播算法

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

什么是正向传播网络

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

什么是反向传播

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

为什么需要反向传播

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

反向传播算法及简史

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

图解反向传播

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

反向传播计算

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

链式求导法则

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

案例1:通过反向传播计算偏导数

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

小结

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

卷积神经网络

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

卷积函数

什么是卷积

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

离散卷积与多维卷积

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

生活中的卷积

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

卷积神经网络

全连接神经网络的局限

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

什么是卷积神经网络

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

卷积神经网络的用途

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

卷积运算

单通道、二维卷积运算示例

相同位置相乘再相加
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

单通道、二维带偏置的卷积运算示例

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

带填充(padding)的单通道、二维卷积运算示例

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

步幅(stride)为2的卷积算示例

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

卷积运算输出矩阵大小计算公式

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

多通道卷积

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

卷积运算的效果

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

案例2:图像卷积运算

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)
深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

卷积神经网络结构

总体结构

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

卷积层

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

**层

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

池化层

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

池化层计算

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

池化层的特征

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

全连接层

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

典型CNN介绍

LeNet:主要参数

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

AlexNet:特点

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

AlexNet:主要参数

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

VGG:概要介绍

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

VGG:主要参数

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

小结

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)

总结

深度学习01-(深度学习概述、感知机、神经网络、损失函数与梯度下降、反向传播算法、卷积神经网络)