总体方差和样本方差

在概率论中方差用来度量随机变量和数学期望之间的偏离程度。比如已知随机变量X

以及它的期望:

那么它的方差为:

对于很多场景而言，它的总体方差是难以获取的，比如有些破坏性测试的场合。所以在实际应用中一般采用抽样的方法，用样本均值和方差估计总体的均值和方差。

总体方差是个确定值，样本方差是个随机变量。

无偏估计

比如我们想知道当前地球上人类的平均寿命μ,没有办法把所有的国家、种族的人群寿命都做统计研究，只能从中选取一些样本来估算全球人类的平均寿命。

比如我们采样到的人类的寿命为：

那么:

如果不同采样得到的X是围绕μ附近波动的，就称X是μ的一个无偏估计。

这就跟打靶一样，只要命中在靶心周围，还算不错的成绩，这就是无偏的。

更加严谨的定义:

样本方差是总体方差的一个无偏估计。

期望，方差和二阶矩之间有如下重要恒等式:

下面根据定义证明样本方差是整体方差的无偏估计: