参数估计 Parameter Estimation

参数估计是指用样本指标估计总体指标。具体是用样本均数估计总体均数或用样本率估计总体率。

具体思想是,希望用较少的参数去描述总体的分布。

常用的参数估计

   
常用的参数估计有:最大似然估计,贝叶斯估计和最大后验估计。

  • 最大似然估计是把待估计的参数看做是确定性的量,只是值未知,因此只需要求得最佳估计即可,就是使得产生已观测到的样本概率为最大值的那个值。

  • 贝叶斯估计是把待估计的参数看成是符合某种先验概率分布的随机变量。对比两种方法,极大似然估计更简单,样本量增大时收敛效果更好。

  • 最大后验概率估计则是想求出似然函数最大时的参数。求得的参数不单单让似然函数大,自己出现的先验概率也得大。

参数估计分类

参数估计通常有点估计 ( point estimation ) 和区间估计 ( interval estimation ) 两种。

  • 点估计是指:用样本的一个函数去估计总体函数。

  • 区间估计是指:用区间函数去估计总体函数。

其他

除了参数估计,还存在另一种非参数估计:是指已知样本所属类别,但未知总体概率密度函数的形式,要求直接推断概率密度函数本身。