微信公众号：小白图像与视觉

关于技术、关注yysilence00。有问题或建议，请公众号留言。

paddlepaddle深度学习框架实战学习总结1

day 01 图像识别与人工智能

• 1、主要介绍图像识别定义和问题

• 2、传统图像识别方法

• 3、人工智能发展历程

---

图像识别

1、问题：

语义鸿沟semantic gap。图像的底层视觉特性和高层语义概念之间的鸿沟。相似的视觉特性(color, texture, shape，…) ，不同的语义概念。不相似的视觉特性，相同的语义概念。

2、目标：

人们看到的是图片却看不到后面二维像素 因此将图像用数学矩阵表达的值来替代，更能让人们能够理解

传统图像识别方法

1、图像识别基本框架

测量空间————特征空间————类别空间

​

2、传统图像识别技术

1、早期图像识别技术(1990-2003)

流程：

特征提取——————索引技术——————相关反馈——————重排序

具体来讲就是：通过互联网或其他相机设备将采集到的图像存到小型数据库，然后通过计算机相关软件对需要图像处理的图像提取特征，然后进行相似度计算，最后将结果返回。

特征提取方法：

1、全局特征提取：比如颜色、形状、纹理将他们变成特征向量。全局提出忽略了细节。
原图片到向量空间映射再到向量表示。

特征变换：

2、映射为低维空间下的向量表示，常用方法如PCA、MDS、ISOMAP、LLE、Laplacian Eigenmap
空间变换：相似的物体距离近, 不相似的物体距离远

索引技术示例：二进制哈希

相关反馈

Explicit feedback ：反馈正例或者负例
Implicit feedback: 根据可观察的行为推断用户意图

2、中期图像识别技术(2003-2012)

流程：

特征提取——————向量化——————索引技术——————后处理

文本搜索的经典模型：词袋模型（Bag-of-Words ）

特征提取方法：

1、局部特征提取：

• 特征检测子Feature Detector
  检测图像区块中心位置：Harris, DoG,SURF,Harris-Affine

• 特征描述子Feature Descriptor：
  描述区块的视觉内容：SIFT,GLOH,Shape,Context,ORB

人工智能发展历程

• 1、推理期（20世纪50-70年代初） 认为只要给机器赋予逻辑推理能力
• 2、知识期（20世纪70年代中期） 认为要使机器具有智能，就必须设法使机器拥有知识
• 3、学科形成（20世纪80年代） 机器学习成为一个独立学科领域
• 4、繁荣期（20世纪80年代-至今） 20 世纪90 年代后，统计学习方法占主导，代表为SVM 2006 至今，大数据分析的需求，神经网络又被重视，成为深度学习理论的基础

机器学习

1、机器学习模型

2、机器学习一般过程

定义训练数据——————然后通过设计的模型进行训练————————用测试数据进行测试————————最后获得学习结果用来预测

深度学习

1、深度学习模型

传统方法与深度学习在特征空间表达方式不同

传统方法：人工特征提取+分类器=设计特征
深度学习：学习特征

总结01

传统计算机视觉与深度学习和机器学习在对图像处理中特征空间表达方式不同，深度学习在于学习特征，二传统方法在于设计特征。其中我们需要基本数学知识和python语言知识,熟悉numpy库的操作以及后续需要对各种深度学习算法的了解与复现知识，道长且阻,努力吧。

paddlepaddle深度学习框架实战学习总结2

深度学习

人脑视觉原理

使用机器学习（深度学习）的目的：寻找一个合适的函数f(x)

例如：
手写数字识别任务——图像识别
猫狗分类任务——图像分类
都是需要找到合适的函数模型去表征图像。

整个学习过程中 人确实函数集合 人评价好坏 机器找出最好的函数模型

监督学习（Supervised Learning）

• 人————————建立模型 {????(????)=????????|????=1,2,3……}

• 人————————损失函数 ????????????2(????−????(????))

• 机器——————参数学习 ????(????)=2????

深度学习步骤

1、建立模型

1）、选择什么样的网络结构
2）、多少层合适 隐藏层越深网络越深
**函数：
建立模型需要**函数，引入**函数增强网络表达能力，将线性函数->非线性函数 非线性的**函数需要有连续性。因为连续非线性**函数可以可导的，所以可以用最优化的方法来求解

前馈神经网络
前向传播

2、损失函数

1）、平方差损失函数
2）、交叉熵损失函数
找到一个合适的函数使得损失函数loss越小越好

3、参数学习

1）、梯度下降
2）、反向传播算法
w,b参数找到一组合适的权重和偏置参数使得总损失最小
梯度为负——————增加w
梯度为正——————减小w
????−????????????????????——————????为学习率
局部最优与全局最优

1、全连接神经网络的问题

• 模型结构不灵活
  对于100100的话比1616的图片手写分类任务使用全连接网络参数
  要多好多（增加每层的神经元个数或者增加网络的层数）
• 模型参数太多
  输入为16 x 16 的图片，输入层为256个神经元，隐藏层每层1000个神经元，输出层10个。假设共5层，则共需要学习（256*103+106+106+104 ）个w再加（1000+1000+1000+10）个b

2、卷积神经网络

1、建立模型

卷积神经网络（CNN）
卷积层
Pooling层
卷积神经网络应用示例
减少网络参数，加快训练速度：
局部连接（roi）、只有第一层是在输入图像上计算，后面是在特征图上计算。
权重共享(神经元权重相同，均为????1,…,????n)、
下采样(对图像像素进行下采样，并不会对物体进行改变虽然下采样之后的图像尺寸变小了，但是并不影响我们对图像中物体的识别)

2、损失函数

分类损失：交叉熵损失函数

回归损失：平方损失函数

3、参数学习

1）、梯度下降
2）、反向传播算法
w,b参数找到一组合适的权重和偏置参数使得总损失最小
梯度为负——————增加w
梯度为正——————减小w
????−????????????????????——————????为学习率
局部最优与全局最优

全连接神经网络的问题vs卷积神经网络

总结02

1、首先是使用何种网络，哪几种网络结合一起，多少层合适并且每一层输入通道 卷积核大小 卷积核个数 输出通道都要会计算

2、其次网络调参方法 学习使用网络调优方法和经验

3、最后要将算法和实际相结合。