机器学习数学基础——概率论与贝叶斯先验

机器学习数学基础——概率论与贝叶斯先验

一、引入

机器学习数学基础——概率论与贝叶斯先验
代码:机器学习数学基础——概率论与贝叶斯先验机器学习数学基础——概率论与贝叶斯先验
机器学习数学基础——概率论与贝叶斯先验
应用:商品推荐
机器学习数学基础——概率论与贝叶斯先验
解决办法:
机器学习数学基础——概率论与贝叶斯先验
公路堵车模型:
机器学习数学基础——概率论与贝叶斯先验
机器学习数学基础——概率论与贝叶斯先验

二、概率公式

机器学习数学基础——概率论与贝叶斯先验
贝叶斯公式的应用
机器学习数学基础——概率论与贝叶斯先验
在给定一些样本的条件下,求事件θ的发生概率
机器学习数学基础——概率论与贝叶斯先验

三、分布

(一)两点分布(离散的)

机器学习数学基础——概率论与贝叶斯先验

(二)二项分布Bernoulli distribution(离散的)

机器学习数学基础——概率论与贝叶斯先验
机器学习数学基础——概率论与贝叶斯先验
机器学习数学基础——概率论与贝叶斯先验

(三)考察Taylor展式(离散的)

机器学习数学基础——概率论与贝叶斯先验

(四)泊松分布Poisson distribution(离散的)

机器学习数学基础——概率论与贝叶斯先验
机器学习数学基础——概率论与贝叶斯先验
机器学习数学基础——概率论与贝叶斯先验

(五)均匀分布(连续的)

机器学习数学基础——概率论与贝叶斯先验

(六)指数分布(连续的)

机器学习数学基础——概率论与贝叶斯先验
机器学习数学基础——概率论与贝叶斯先验
指数分布的无记忆性
机器学习数学基础——概率论与贝叶斯先验

(七)正态分布

机器学习数学基础——概率论与贝叶斯先验
机器学习数学基础——概率论与贝叶斯先验
二元正态分布图
机器学习数学基础——概率论与贝叶斯先验

(八)总结机器学习数学基础——概率论与贝叶斯先验

(九)Beta分布

机器学习数学基础——概率论与贝叶斯先验
机器学习数学基础——概率论与贝叶斯先验
机器学习数学基础——概率论与贝叶斯先验

(十)Bernoulli分布

机器学习数学基础——概率论与贝叶斯先验
机器学习数学基础——概率论与贝叶斯先验
Sigmoid/Logistic函数
机器学习数学基础——概率论与贝叶斯先验
Sigmoid函数的导数
机器学习数学基础——概率论与贝叶斯先验

(十一)Gaussian分布

机器学习数学基础——概率论与贝叶斯先验

四、事件的独立性

机器学习数学基础——概率论与贝叶斯先验

(一)不同数据类型期望的定义方法

机器学习数学基础——概率论与贝叶斯先验

(二)期望的性质

机器学习数学基础——概率论与贝叶斯先验

(三)例子

计算期望
机器学习数学基础——概率论与贝叶斯先验
机器学习数学基础——概率论与贝叶斯先验
机器学习数学基础——概率论与贝叶斯先验
集合Hash问题
机器学习数学基础——概率论与贝叶斯先验
机器学习数学基础——概率论与贝叶斯先验
机器学习数学基础——概率论与贝叶斯先验

五、方差

机器学习数学基础——概率论与贝叶斯先验

六、协方差

机器学习数学基础——概率论与贝叶斯先验

(一)协方差的意义

机器学习数学基础——概率论与贝叶斯先验

(二)协方差的上界

机器学习数学基础——概率论与贝叶斯先验

(三)协方差上界定理的证明

机器学习数学基础——概率论与贝叶斯先验

(四)Pearson相关系数

机器学习数学基础——概率论与贝叶斯先验

(五)代码

机器学习数学基础——概率论与贝叶斯先验

七、协方差矩阵

机器学习数学基础——概率论与贝叶斯先验

八、切比雪夫不等式机器学习数学基础——概率论与贝叶斯先验

九、大数定律

机器学习数学基础——概率论与贝叶斯先验

(一)大数定律的意义

机器学习数学基础——概率论与贝叶斯先验

(二)重要推论(事件发生的频率只要这个事件足够多,这个事件的频率无相接近其概率)

机器学习数学基础——概率论与贝叶斯先验

十、中心极限定理

机器学习数学基础——概率论与贝叶斯先验

(一)中心极限定理的意义

机器学习数学基础——概率论与贝叶斯先验
机器学习数学基础——概率论与贝叶斯先验