无偏估计

更新时间:2023-11-17 21:22

无偏估计是用样本统计量来估计总体参数时的一种无偏推断。估计量的数学期望等于被估计参数的真实值,则称此估计量为被估计参数的无偏估计,即具有无偏性,是一种用于评价估计量优良性的准则。无偏估计的意义是:在多次重复下,它们的平均数接近所估计的参数真值。无偏估计常被应用于测验分数统计中。

定义

无偏估计

设总体ξ的概率分布函数为F(x;θ),其中x为变元,θ∈Θ为未知参数,Θ称为参数空间。(ξ1,ξ2,…,ξn)为取自总体ξ的随机样本,若 (ξ1,…,ξn)是参数θ的一个估计量,且对一切θ∈Θ关系式Eθ( (ξ1,…,ξn))=θ成立,其中,E[ (ξ1,ξ2,…,ξn)]表示数学期望,则称 (ξ1…ξn)为θ的无偏估计,并称 具有无偏性。

例如,估计总体平均值μ时,若以样本平均值ξ'为估计量,则可算得ξ'的数学期望E(ξ')=μ,这说明ξ'是总体平均值μ的无偏估计。

当n→ 时,对一切θ∈Θ,若有 E[ (ξ1,ξ2,…,ξn)]=θ,则称 (ξ1,ξ2,…,ξn)为θ的渐近无偏估计。

具有上述无偏性的估计称为无偏估计。在统计学中,总体参数的估计基本上都是无偏估计。

有偏估计

若 的数学期望不为θ,即E( )≠θ,包括E( )>θ和E( )<θ,则称为θ的有偏估计。其中,当E( )>θ时,为偏高估计;当E( )<θ时,为偏低估计。例如,若样本方差取s=Σ(X- )/n,则E(s)<σ,s与σ的有偏估计(偏低估计)。

优良性

无偏估计的优良性可以从下面两个方面给予概率论解释。

没有系统偏差

无偏性的实际意义是指没有系统性的偏差。统计推断的误差有系统误差随机误差两种。无论用什么样的估计值 去估计 ,总会时而对某些样本偏高,时而对另一些样本偏低。而无偏性表示,把这些正负偏差在概率上平均起来,其值为零,即无偏估计量只有随机误差而没有系统误差。例如,用样本均值作为总体均值的估计时,虽无法说明一次估计所产生的偏差,但这种偏差随机地在0的周围波动,对同一统计问题大量重复使用不会产生系统偏差。

但是需要注意的是,所谓“平均为零”只有在大量重复使用此模型时才能体现出来。关于这一点,需要用大数定律作进一步解释。

解释

设想进行m次重复抽样,对 进行估计。第i次的样本记为X(i),估计量为 (X(i))。设X(1),X(2),…,X(m)是独立同分布的。若具有无偏性,按照强大数定律,有

这即是说,尽管一次估计的结果 (X(i))不一定恰好等于θ,但在大量重复使用时,多次估计的算术平均值可以任意接近待估参数θ的真实值。若估计量 只使用一次,则无偏性这个概念实际上说明不了什么问题,因为 的无偏性并不能保证在任何情况下,估计 必等于θ。

无偏估计量 与θ的偏差的平均值随使用次数的增多而趋于零。因此,无偏性只有在多次重复使用中,各次误差相互抵消,才能显出其优良性。无偏估计并不总是存在的,如服从二项分布的总体B(n,p),0

性质

(1) 样本均值是总体期望E[X]的无偏估计;

(2) 样本二阶原点矩是总体二阶原点矩的无偏估计;

(3) 对任意总体 X ,若 E (X)=,,是来自总体X的样本,则,;

(4)当总体X的k阶矩存在时,样本的 k 阶原点矩是总体 k 阶原点矩的无偏估计,但对 k 阶中心矩则不一样。

(5)无偏性不具有不变性若是的无偏估计,一般而言,其函数g ()不是g()的无偏估计,除非 g ()是的线性函数。

存在问题

(1)无偏估计有时并不一定存在。

(2)可估参数的无偏估计往往不唯一。统计学中,将存在无偏估计的参数称为可估参数,可估参数的无偏估计往往不唯一,而且只要不唯一,则即有无穷多个。一个参数往往有不止一个无偏估计。

(3)无偏估计不一定是好估计。

免责声明
隐私政策
用户协议
目录 22
0{{catalogNumber[index]}}. {{item.title}}
{{item.title}}