模式识别笔记（二）——贝叶斯（最小错误和最小风险）
统计模式识别方法，计算逆向概率
贝叶斯法则：当分析样本大到接近总体数时，样本中事件发生的概率将接近于总体中事件发生的概率。
1. 最大后验概率决策（最小错误率决策Minimum-error-rate Bayes classification）
先验概率：
类条件概率：
后验概率：
最大后验概率决策：
后验概率形式
条件概率形式
似然比形式
最大后验概率使平均误差概率达到最小；
后验概率越集中，则错误率越小，后验概率越平缓，越接近均匀分布，则错误率越大。
最小错误率决策：
决策判定方法同最大后验概率
2. 最小风险决策（Minimum-risk Bayes classification）
错误率最小并不一定是最佳选择。实际应用时， 从根据不同性质的错误会引起不同程度的损失考虑出发， 宁可扩大一些总的错误率。
把第i类错判为第j类的风险
创建损失函数
对应的损失矩阵
最小损失准则
对于两类问题
当取0-1损失函数时,最小风险贝叶斯判决准则等价于最
小错误率贝叶斯判决准则
步骤：求后验概率，再求条件风险，在选择风险最小的决策