样本的均值和方差的无偏估计与测试阶段均值方差的关系

什么是无偏估计??

估计是用样本统计量(可以理解为随机抽样)来估计总体参数时的一种无偏推断。

无偏估计的要求就是:估计出来的参数的数学期望等于被估计参数的真实值。

所以呢,可以看出:估计值也是一个变量,因为是随机的嘛。 真实值谁也不知道啊(因为你不可能把列出无限的实验结果来,除了可能通过数学计算得到的常见的分布)。

给你一组服从一定分布的随机变量 X , 假设样本的真实的均值与方差可以表示为:
样本的均值和方差的无偏估计与测试阶段均值方差的关系

样本的均值a 是否为无偏估计?
样本的均值和方差的无偏估计与测试阶段均值方差的关系

样本的方差b 是否为无偏估计呢?
样本的均值和方差的无偏估计与测试阶段均值方差的关系
可以看出,它不是无偏估计,那怎么办??

怎么的方差估计为无偏的呢?
样本的均值和方差的无偏估计与测试阶段均值方差的关系
总结,样本的无偏估计有:
样本的均值和方差的无偏估计与测试阶段均值方差的关系
测试阶段均值方差与mini-batch的关系(无偏估计):
样本的均值和方差的无偏估计与测试阶段均值方差的关系
样本的均值和方差的无偏估计与测试阶段均值方差的关系
参考链接:https://zhuanlan.zhihu.com/p/34879333
https://www.cnblogs.com/yinheyi/p/6991715.html