无偏估计

统计学术语

无偏估计是用样本统计量来估计总体参数时的一种无偏推断。估计量的数学期望等于被估计参数的真实值，则称此估计量为被估计参数的无偏估计，即具有无偏性，是一种用于评价估计量优良性的准则。无偏估计的意义是：在多次重复下，它们的平均数接近所估计的参数真值。无偏估计常被应用于测验分数统计中。

定义

无偏估计

设总体ξ的概率分布函数为F(x;θ)，其中x为变元，θ∈Θ为未知参数，Θ称为参数空间。(ξ1，ξ2，…，ξn)为取自总体ξ的随机样本，若 (ξ1，…，ξn)是参数θ的一个估计量，且对一切θ∈Θ关系式Eθ( (ξ1，…，ξn))=θ成立，其中，E[ (ξ1，ξ2，…，ξn)]表示数学期望，则称 (ξ1…ξn)为θ的无偏估计，并称具有无偏性。

例如，估计总体平均值μ时，若以样本平均值ξ'为估计量，则可算得ξ'的数学期望E(ξ')=μ，这说明ξ'是总体平均值μ的无偏估计。

当n→ 时，对一切θ∈Θ，若有 E[ (ξ1，ξ2，…，ξn)]=θ，则称 (ξ1，ξ2，…，ξn)为θ的渐近无偏估计。

具有上述无偏性的估计称为无偏估计。在统计学中，总体参数的估计基本上都是无偏估计。

有偏估计

若的数学期望不为θ，即E( )≠θ，包括E( )>θ和E( )<θ，则称为θ的有偏估计。其中，当E( )>θ时，为偏高估计；当E( )<θ时，为偏低估计。例如，若样本方差取s=Σ(X- )/n，则E(s)<σ，s与σ的有偏估计(偏低估计)。

优良性

无偏估计的优良性可以从下面两个方面给予概率论解释。

没有系统偏差

无偏性的实际意义是指没有系统性的偏差。统计推断的误差有系统误差和随机误差两种。无论用什么样的估计值去估计，总会时而对某些样本偏高，时而对另一些样本偏低。而无偏性表示，把这些正负偏差在概率上平均起来，其值为零，即无偏估计量只有随机误差而没有系统误差。例如，用样本均值作为总体均值的估计时，虽无法说明一次估计所产生的偏差，但这种偏差随机地在0的周围波动，对同一统计问题大量重复使用不会产生系统偏差。

但是需要注意的是，所谓“平均为零”只有在大量重复使用此模型时才能体现出来。关于这一点，需要用大数定律作进一步解释。

解释

设想进行m次重复抽样，对进行估计。第i次的样本记为X(i)，估计量为 (X(i))。设X(1)，X(2)，…，X(m)是独立同分布的。若具有无偏性，按照强大数定律，有

这即是说，尽管一次估计的结果 (X(i))不一定恰好等于θ，但在大量重复使用时，多次估计的算术平均值可以任意接近待估参数θ的真实值。若估计量只使用一次，则无偏性这个概念实际上说明不了什么问题，因为的无偏性并不能保证在任何情况下，估计必等于θ。

无偏估计量与θ的偏差的平均值随使用次数的增多而趋于零。因此，无偏性只有在多次重复使用中，各次误差相互抵消，才能显出其优良性。无偏估计并不总是存在的，如服从二项分布的总体B(n，p)，0

性质

(1) 样本均值是总体期望E[X]的无偏估计；

(2) 样本二阶原点矩是总体二阶原点矩的无偏估计；

(3) 对任意总体 X ，若 E (X)=，，是来自总体X的样本，则，；

(4)当总体X的k阶矩存在时，样本的 k 阶原点矩是总体 k 阶原点矩的无偏估计，但对 k 阶中心矩则不一样。

(5)无偏性不具有不变性若是的无偏估计，一般而言，其函数g ()不是g()的无偏估计，除非 g ()是的线性函数。

存在问题