最大似然估计法与贝叶斯估计最容易理解的解释

最大似然估计法与贝叶斯估计最容易理解的解释

最大似然

概率:已知参数估计事件发生的可能性,例如已知硬币“花”朝上的概率为 p=0.6,则求我抛一次硬币出现“花”的可能性。

似然:根据样本分布求参数,例如根据100次抛硬币结果估计“花”朝上的概率。似然一般都是针对多组实验来说的,因为它要根据这多组实验拟合出一个分布,根据分布求最大值,就是我们所要求的最大似然,这个最大值所对应的的参数就是我们所要求的参数。

贝叶斯估计

贝叶斯估计:就是全概率公式。

条件概率:
P(BA)=P(AB)P(A)P(B|A) = \frac{P(A \bigcap B)}{P(A)}

最大似然估计法与贝叶斯估计最容易理解的解释
最大似然估计法与贝叶斯估计最容易理解的解释

由条件概率的公式也可以写成
P(D)=P(DA)P(A)+P(DB)P(B)+P(DC)P(AC)P(D) = P(D|A)P(A) + P(D|B)P(B) + P(D|C)P(AC)
算出来的结果就是事件 DD 在样本空间 SS 下发生的概率。


则,M发生在A中的概率为:
P(AD)=P(AD)P(D)=P(DA)P(A)P(D)=P(DA)P(A)+P(DB)P(B)+P(DC)P(AC)P(A|D) = \frac{P(A \bigcap D)}{P(D)}= \frac{P(D|A)P(A)}{P(D) = P(D|A)P(A) + P(D|B)P(B) + P(D|C)P(AC)}

这就是贝叶斯公式。


图示:
最大似然估计法与贝叶斯估计最容易理解的解释

最大似然估计法与贝叶斯估计最容易理解的解释