吴恩达公开课笔记--第3单元第4周内容

4.1 人脸识别

人脸识别通常是指人脸校验和人脸识别。
人脸校验是指输入一张图像和一个人的ID，输出是这个图像是不是这个人。

人脸识别是有一个K个人的数据库，输入一张图像，如果这个图像属于K个人中的一个，输出他的ID。

4.2 One-shot 学习

人脸识别的挑战之一是你需要解决单样本学习问题。
也即是说对于大多数人脸识别的应用，需要在只见过一次照片或一个人的脸部的前提下识别出这个人。

举个例子：
左侧是数据库中已有的四个人，我们希望再输入一个已存在的人，能够识别出是数据库中的哪个人。而输入数据库中不存在的人，则识别出不是数据库中四个人中任一个。

因此在单样本学习中，我们必须从一个样本中学习，就可以做到认出这个人。（大多数人脸识别系统都需要做到这样的能力，因为可能数据库中只有一张员工的照片。）

一种尝试的方式，是输入这个人的照片，经过卷积网络，然后通过5个类别的softmax,输出一个标签。
但这种通常效果不好，因为数据集太小，不足以训练出一个可以解决这个任务的足够鲁棒的神经网络。而且每当数据库中的员工增加或者减少时，还需要修改最后softmax层的输出个数，对模型进行重新训练。

因此，人脸校验是学习一个相似性函数，特别的，我们需要用一个神经网络来学习一个函数，

4.3 Siamese network

在上一节中，我们学习函数d 接收两张脸到的输入，并输出他们是多相似或者多不相似。
实现这个的一个好办法是siamese network 。

我们输入一张图像，经过卷积网络，得到一个128个数字组成的向量，看作是对输入图像的编码。
那么构建人脸识别系统的方法，如果你想比较两张图像，就分别把两张图像输入同一个网络，使用相同的参数，得到一个不同的128维的向量，也就是第二张图像的编码。

这种方法，用两个完全相同的卷积神经网络对两张不同的图像进行计算，然后比较两者的结果。我们称之为孪生网络架构。

因此，我们说卷积神经网络的参数决定了图像的编码表达。
我们训练学习参数，目的是使得如果两张图像是一个人，那么两个编码表达的函数值很小；
如果两张图像不是一个人，那么两个编码表达的函数值很大。
我们一旦改变了卷积神经网络的参数，对一张图像来说就会有不同的编码。我们不断的训练参数，使得满足上面的目的。

4.4 Triplet 损失

为了学习卷积神经网络的参数，以获得一个优良的人脸图像的编码。
有一种方法是定义一个应用了梯度下降的三元组损失函数（triplet loss function）

为了使用三元组，我们需要使用对照组，需要一张anchor 图像，一张正例图像，一张负例图像。作为一个组合。
我们希望做的，anchor 图像编码和正例图像编码的差平方，小于等于anchor图像编码和负例图像编码的差平方。
但是会有一种情况使得这个式子的条件轻易满足，就是所有图像的编码都为0或者说都一样。
为了确保神经网络不会把所有图像的编码训练的一样，我们需要在式子中加上一个margin 。margin 用来拉大d(A,P)和d(A，N)之间的差距。

下面我们正式定义三元组损失函数

通过定义一个L(A,P,N), 目标是使得L(A,P,N)最小，从而使我们上述公式小于等于0

神经网络中全部训练数据集整体损失函数，是训练集中不同三元组对应的损失总和。

假设有一个训练数据集，其中包含1000个不同的人组成的10000张图像（平均1人10张图像），我们可以基于这10000张图像去生成三元组。然后用整体损失函数去训练学习算法。

注意在 训练阶段，至少确保一部分人需要有多张图像，来组成三元组。如果每个人都只有一张图像，则无法组成训练数据集。

那么如何选择正确的三元组呢？

这里的问题之一是如果随机的选择A,P,N，那么上述的约束很容易满足。
因为如果有两张随机选择的图像A,N,那么A和N的差异通常会远远大于A和P中间的差异。
那么神经网络将无法从中学习到更多有用的东西。

因此，要建立一个训练数据集，我们需要选择很难的训练数据三元组，

有时间的话去看看FaceNet 。

商业的人脸识别系统通常是使用几百万张图像，一千万图像甚至更多。