logit&sigmoid&logistic&logits傻傻分不清

在机器学习、深度学习中经常会遇到logit、sigmoid、logistic、logits几个概念,特别再加上一些汉语翻译的如“逻辑斯蒂”,更加容易混淆,这篇文章就为大家总结区分下。

首先要明确logit、sigmoid、logistic、logits都是数学函数的名称,表示一个具体的函数。
分别看下,
 logit(x)=log(x1x) \ logit(x) = log( \frac{x}{1-x} )

logit&sigmoid&logistic&logits傻傻分不清
 sigmoid(x)=11+ex \ sigmoid(x)=\frac{1}{1+e^{-x}}

logit&sigmoid&logistic&logits傻傻分不清

  • 从图像上,可以清楚的看出来logit和sigmoid互为反函数。

  • 同时,sigmoid和logistic是同一个函数,只是名字不同。

logits是在一些深度学习编程框架中用到的概念,其实就是一个线性变换,然后输入sigmoid或者softmax。

参考