AI_06_多分类、决策树分类、随机森林分类_01_逻辑回归多分类图示理解_逻辑回归和Softmax区别

1、在数学,尤其是概率论和相关领域中,Softmax函数,或称归一化指数函数,是逻辑函数的一种推广。

Softmax函数实际上是有限项离散概率分布的梯度对数归一化。

2、逻辑函数,是一类返回值为逻辑值true或逻辑值false的函数。

true:代表判断后的结果是真的,正确的,也可以用1表示;

false:代表判断后的结果是假的,错误的,也可以用0表示。

 

3、逻辑回归做多(大于等于3)分类,可以看成是单层神经网络,输出是多个!

逻辑回归的归一化函数是sigmoid函数

以下训练猫狗鱼模型的数据的Y是不一样的!

训练猫模型,Y就分成是猫还是非猫。

训练狗模型,Y就分成是狗还是非狗。

训练鱼模型,Y就分成是鱼还是非鱼。

 

AI_06_多分类、决策树分类、随机森林分类_01_逻辑回归多分类图示理解_逻辑回归和Softmax区别

4、以下是逻辑回归做2分类,可以看成是单层神经网络,输出是1个!

AI_06_多分类、决策树分类、随机森林分类_01_逻辑回归多分类图示理解_逻辑回归和Softmax区别

5、Softmax

AI_06_多分类、决策树分类、随机森林分类_01_逻辑回归多分类图示理解_逻辑回归和Softmax区别

6、逻辑回归和Softmax回归的损失函数都是交叉熵

分类,损失函数选交叉熵

预测,损失函数选MSE

7、AI_06_多分类、决策树分类、随机森林分类_01_逻辑回归多分类图示理解_逻辑回归和Softmax区别

AI_06_多分类、决策树分类、随机森林分类_01_逻辑回归多分类图示理解_逻辑回归和Softmax区别

θ和AI_06_多分类、决策树分类、随机森林分类_01_逻辑回归多分类图示理解_逻辑回归和Softmax区别的不同!!!