Skip to content

5.4 三大抽样分布

大家很快会看到,有很多统计推断是基于正态分布的假设,以标准正态变量为基石而构造的三个著名统计量在实际中有广泛的应用,这是因为这三个统计量不仅有明确背景,而且其抽样分布的密度函数有显式表达式,它们被称为统计中的“三大抽样分布”. 若设 是来自标准正态分布的两个相互独立的样本,则此三个统计量的构造及其抽样分布如表 5.4.1 所示. 表 5.4.1 三个著名统计量的构造及其抽样分布

统计量的构造抽样分布密度函数期望方差
( ) ( )
( ) ( )
下面我们将对它们逐个进行推导与说明.

定义 5.4.1

独立同分布于标准正态分布 ,则 的分布称为自由度为 分布,记为 . 在第三章我们已经指出, 若随机变量 , 则 , 根据伽马分布的可加性立有 , 由此可见, 分布是伽马分布的特例, 故 分布的密度函数为

该密度函数的图像是一个只取非负值的偏态分布, 见图 5.4.1, 其期望等于自由度, 方差等于 2 倍自由度, 即 , .

图5.4.1 分布的密度函数

例 5.4.1

是来自正态分布 的一个样本,其中 是已知常数,求统计量

的分布.

,则 是独立同分布随机变量,其共同分布为 ,于是由定义5.4.1

的密度函数为

这就是伽马分布 . (5.4.3) 式与 (5.4.1) 式在变量上只相差一个因子 . 分布有用的一个重要原因即是下面的定理.

定理 5.4.1

是来自正态总体 的样本,其样本均值和样本方差分别为

则有 (1) 相互独立; (2) ; (3)

证明

的联合密度函数为

,取一个 维正交矩阵 ,其第一行的每一个元素均为 ,如

,则该变换的雅可比(Jacobi)行列式为1,且注意到

于是 的联合密度函数为

由此, 的各个分量相互独立,且都服从正态分布,其方差均为 ,而均值并不完全相同, 的均值为 0, 的均值为 ,这就证明了结论 (2).由于

这证明了结论(1),由于 独立同分布于 ,于是

定理证明完成. 当随机变量 时,对给定 ,称满足概率等式 是自由度为 分布的 分位数.分位数 可以从附表3中查到.譬如 ,那么从附表3上查得

定义 5.4.2

设随机变量 , , 独立, 则称 的分布是自由度为 分布, 记为 , 其中 称为分子自由度, 称为分母自由度. 下面分两步来导出 分布的密度函数. 第一步,我们导出 的密度函数,若记 分别为 的密度函数,根据独立随机变量商的分布的密度函数的公式(3.3.22), 的密度函数为

运用变换 ,可得

最后的定积分为伽马函数 ,从而

第二步,我们导出 的密度函数,设 的取值为 ,对 ,有

这就是自由度为 分布的密度函数.该密度函数的图像是一个只取非负值的偏态分布(见图 5.4.2).

图5.4.2 分布的密度函数

当随机变量 时,对给定 ),称满足概率等式 是自由度为 分布的 分位数. 由 分布的构造知, 若 , 则有 , 故对给定 ,

从而

这说明

对小的 ,分位数 可以从附表5中查到,而分位数 则可通过(5.4.4)式得到.

例 5.4.2

若取 m=10, n=5, , 那么从附表 5 上查得

利用(5.4.4)式可得到

推论 5.4.1

是来自 的样本, 是来自 的样本,且此两样本相互独立,记

其中

则有

特别,若 ,则

证明

由两样本独立可知, 相互独立,由定理5.4.1知,

分布定义可知 .

定义 5.4.3

设随机变量 独立且 , 则称 的分布为自由度为 分布, 记为 . 下面导出 分布的密度函数. 由标准正态密度函数的对称性知, 有相同分布, 从而 与 -t 有相同分布. 这意味着: 对任意正实数

于是

变量构造可知, , 将上式两边关于 求导可得 分布的密度函数为

这就是自由度为 分布的密度函数. t 分布的密度函数的图像是一个关于纵轴对称的分布(见图 5.4.3),与标准正态分布的密度函数形状类似,只是峰比标准正态分布低一些,尾部的概率比标准正态分布的大一些.

图 5.4.3 t 分布与 的密度函数

- 自由度为 1 的 分布就是标准柯西分布, 它的均值不存在. - 时, 分布的数学期望存在且为0. - 时, 分布的方差存在, 且为 . - 当自由度较大(如 )时, 分布可以用 分布近似. t 分布是统计学中的一类重要分布, 它与标准正态分布的微小差别是由英国统计学家戈塞特(Gosset)发现的.在1908年以前,统计学的主要用武之地先是社会统计,尤其是人口统计,后来加入生物统计问题.这些问题的特点是,数据一般都是大量的、自然采集的,所用的方法多以中心极限定理为依据,总是归结到正态,.皮尔逊就是此时统计界的权威,他认为正态分布是上帝赐给人们唯一正确的分布.但到了20世纪,受人工控制的试验条件下所得数据的统计分析问题日渐引人注意.此时的数据量一般不大,故那种仅依赖于中心极限定理的传统方法开始受到质疑.这个方向的先驱就是戈塞特和费希尔. 戈塞特年轻时在牛津大学学习数学和化学,1899年开始在一家酿酒厂担任酿酒化学技师,从事试验和数据分析工作.由于戈塞特接触的样本容量都较小,只有四五个,通过大量试验数据的积累,戈塞特发现 的分布与传统认为的 分布并不同,特别是尾部概率相差较大,表5.4.2列出了标准正态分布 和自由度为4的分布的一些尾部概率. 表 5.4.2 的尾部概率

0.045 50.012 40.002 70.000 465
0.116 10.066 80.039 90.024 9
由此, 戈塞特怀疑是否有另一个分布族存在, 但他的统计学功底不足以解决他发现的问题, 于是, 戈塞特于 1906 年到 1907 年到 . 皮尔逊那里学习统计学, 并着重研究少量数据的统计分析问题, 1908 年他在 Biometrics 杂志上以笔名 Student (工厂不允许其发表论文) 发表了使他名垂统计史册的论文: 均值的或然误差. 在这篇文章中, 他提出了如下结果: 设 是来自 的独立同分布样本, 均未知, 则 服从自由度为 分布. 可以说, 分布的发现在统计学史上具有划时代的意义, 打破了正态分布一统天下的局面, 开创了小样本统计推断的新纪元, 小样本统计分析由此引起了广大统计科研工作者的重视. 事实上, 戈塞特的证明存在着漏洞, 费希尔注意到这个问题并于 1922 年给出了此问题的完整证明, 并编制了 分布的分位数表.

推论 5.4.2

是来自正态分布 的一个样本, 分别是该样本的样本均值与样本方差,则有

证明

定理5.4.1(2)可以推出

将(5.4.6)左端改写为

由于分子是标准正态变量,分母的根号里是自由度为 n-1 的 变量除以它的自由度,且分子与分母相互独立,由 分布定义可知 ,推论证完.

推论 5.4.3

推论5.4.1 的记号下, 设 , 并记

证明

独立,故有

所以

定理5.4.1知, ,且它们相互独立,则由可加性知

由于 相互独立, 根据 分布的定义即可得到 (5.4.7) 式. 当随机变量 时,对给定的 ,称满足概率公式 是自由度为 分布的 分位数。分位数 可以从附表4中查到。譬如 ,那么从附表4上查得 。 由于 分布的密度函数关于 0 对称, 故其分位数间有如下关系

譬如, 较大时(如 ), 分布的分位数常可用标准正态分布分位数代替,如 .

习题5.4
  1. 在总体 中抽取容量为 的样本, 如果要求样本均值落在 (5.6,9.6) 内的概率不小于 0.95, 则 至少为多少?
  2. 是来自 的样本,问 多大时才能使得 成立?
  3. 由正态总体 抽取两个独立样本,样本均值分别为 ,样本容量分别为 15,20,试求 .
  4. 由正态总体 抽取容量为 20 的样本,试求 .
  5. 是来自 的样本,经计算 ,试求 .
  6. 是来自 的样本,试确定最小的常数 ,使得对任意的 ,有 .
  7. 设随机变量 ,证明 .
  8. 设随机变量 , 证明: 服从贝塔分布, 并指出其参数.
  9. 是来自 的样本,试求 的分布.
  10. 设总体为 为样本,试求常数 ,使得
  1. 是来自 的样本, 是来自 的样本,, 是任意两个不为 0 的常数,证明:

其中 12. 设 是来自 的样本, ,试求常数 使得 服从 分布,并指出分布的自由度. 13. 设从方差相等的两个独立正态总体中分别抽取容量为 15,20 的样本, 其样本方差分别为 , , 试求 . 14. 设 是总体 的一个样本,求

的分布. 15. 设 是来自正态分布 的一个样本, 分别是样本均值与样本方差。求 ,使得 。 16. 设总体 服从 , , 从该总体中抽取样本 , 其样本均值为 , 求统计量 的数学期望. 17. 证明: 若随机变量 , 则对

并由此写出 . 18. 证明: 若随机变量 , 则当 时有

由此写出 . 19. 设 是来自某连续总体的一个样本. 该总体的分布函数 是连续严增函数, 证明: 统计量 服从 . 20. 设 是来自正态总体 的一个样本. 是样本方差,试求满足 的最小 值. 21. 设 独立同分布服从 , , 记 . 试找出 分布的联系, 因而定出 的密度函数 (提示: 作正交变换 , ). 22. 设 相互独立, 服从 证明: 相互独立,且 服从 (提示:令 ,作变换 ).