logistic回归
线性回归不适合分类而logistic回归是分类的算法之一~
logistic函数(或称为sigmode函数)，表达形式为：
函数图像如下：
决策边界:
由函数图像可知，当z>=0时，g(z)>=0.5，y=1；反之z < 0 g(z) < 0.5 ， y=0，即：
因此
0就是决策边界(或者分类超平面)，可以是线性或者非线性的，即
划分类别，然后g(y)就是得到此分类的概率
logistic回归也可以和线性回归一样，当场景很复杂，只是直线满足不了需求后，我们可以通过多项式，然后对应的参数赋值来解决这个问题，而让回归可以满足各种各样的场景，就像上面图片中x1x2拓展出有对应变量的二次方的函数
logistic的损失函数如下，和平常遇到的平方差的均值不同，因为这样的损失函数会是凸函数更利于求解最优化问题；
y=1 时的损失函数图像如下：可自己计算得到他是如下函数图像，而且当某实例为1类型时，预测成为1的概率为0，那么他的损失函数会值会无穷大，因为这个代价太大
y=0时的损失函数图像如下：
多元分类：
一对多法：
如下图有三个类，那么我们分别对三个类进行操作：
把其他类当成一个负类，把当前类当成一个正类，这样我们就只有两个类了，然后以此训练二分类模型
这样最终我们将得到三个分类器（有多少种类别就有多少个分类器）
最后我们需要做的就是：对每个输入x，分别放到分类器中，哪个分类器得到的概率最高，就认为是此初入x对应的类别