1、如何使用逻辑回归解决多分类问题?
我们知道,逻辑回归只能解决二分类问题,即y={0,1},当遇到多分类问题(下图1是多分类问题的一些实例),即y的取值超过2时,比如y={0,1,2,3}我们应该解决这种问题呢?
2、one vs all 思想
当遇到多分类问题时,我们可以使用一对多的思想来解决。
一对多思想是指将多元分类问题转化成多个二元分类问题:
对于每个类i,将数据集分成两部分,一部分属于i,另一部分不属于i,属于i那部分的标签视为1,不属于i的部分标签视为0,利用逻辑回归得到针对类i的二元分类器hθ(x)(i),该分类器的输出值表示样本x属于类i的概率,即p(y=i∣x;θ):
最后,对于新的输入样例,只需取概率最大的那个类作为该类的类标签即可