Skip to content

4.4 中心极限定理

大数定律讨论的是在什么条件下,随机变量序列的算术平均依概率收敛到其均值的算术平均.现在我们来讨论在什么条件下,独立随机变量和

的分布函数会收敛于正态分布.以下我们先给出一个独立随机变量和的例子.

例 4.4.1

误差是人们经常遇到且感兴趣的随机变量,大量的研究表明,误差的产生是由大量微小的相互独立的随机因素叠加而成的.譬如一位操作者在机床上加工机械轴,使其直径符合规定要求,但加工后的机械轴与规定要求总有一定的误差,这是因为在加工时受到一些随机因素的影响,它们是 - 在机床方面有机床振动与转速的影响. - 在刀具方面有装配与磨损的影响. - 在材料方面有钢材的成分、产地的影响. - 在操作者方面有注意力集中程度、当天的情绪的影响. - 在测量方面有量具误差、测量技术的影响. - 在环境方面有车间的温度、湿度、照明、工作电压的影响. - 在具体场合还可列出许多其他影响因素. 由于这些因素很多,每个因素对加工精度的影响都是很微小的,每个因素的出现都是随机的、是人们无法控制的、时有时无、时大时小、时正时负.这些因素的综合影响最后使每个机械轴的直径产生误差,若将这个误差记为 ,那么 是随机变量,且可以将 看作很多微小的随机波动 之和,即

这里 是很大的,人们关心的是当 时,“ 的分布是什么?” 当然,我们可以用卷积公式去计算 的分布.但是这样的计算是相当复杂的、不易实现的.从下面例子可以看出这一点.

例 4.4.2

为独立同分布的随机变量序列, 其共同分布为区间 上的均匀分布. 记 的密度函数, 用卷积公式可以求出

表示在图 4.4.1中. 从图上我们可以看出: 随着 的增加, 的图形愈来愈光滑, 且愈来愈接近正态曲线.

图4.4.1 均匀分布的卷积

可以设想, 当 时, 的非零区域为 , 若用卷积公式可以分 100 段求出 的表达式, 它们分别是 99 次多项式. 如此复杂的形式即使求出 (当然没有人去求), 也无法使用. 这就迫使人们去寻求近似分布. 若记 的分布函数为 , 在弱收敛的含义下, 求出其极限分布 , 那么当 很大时, 就可用 作为 的近似分布. 为了使寻求 的极限分布有意义, 有必要先研究一下问题的提法. 在图 4.4.1上可以看出: 当 增大时, 的中心右移, 且 的方差增大. 这意味着当 时, 的分布中心会趋向 , 其方差也趋向 , 分布极不稳定. 为了克服这个缺点, 在中心极限定理的研究中均对 进行标准化

由于 ,这就有可能看出 的极限分布是否为标准正态分布 . 中心极限定理就是研究随机变量和的极限分布在什么条件下为正态分布的问题.

4.4.2 独立同分布下的中心极限定理

Section titled “4.4.2 独立同分布下的中心极限定理”
定理 4.4.1 林德伯格-莱维(Lindeberg-Lévy

中心极限定理) 设 是独立同分布的随机变量序列,且 存在,若记

则对任意实数 ,有

证明

为证(4.4.1)式, 只需证 的分布函数列弱收敛于标准正态分布. 又由定理4.2.6, 只需证 的特征函数列收敛于标准正态分布的特征函数. 为此设 的特征函数为 , 则 的特征函数为

又因为 , 所以有

于是特征函数 有展开式

从而有

正是 分布的特征函数, 定理得证.

定理 4.4.1

只假设 独立同分布、方差存在,不管原来的分布是什么,只要 充分大,就可以用正态分布去逼近随机变量和的分布,所以这个定理有着广泛的应用。它同时揭示了这样的事实:测量误差近似地服从正态分布。以下给出一些林德伯格-莱维中心极限定理的应用例子。

例 4.4.3 正态随机数的产生

在随机模拟(蒙特卡罗方法)中经常需要产生正态分布 的随机数, 一般统计软件都有产生正态随机数的功能. 它是如何产生的呢? 下面介绍用中心极限定理通过 (0,1) 上均匀分布的随机数来产生正态分布 的随机数的一种方法. 设随机变量 服从 上的均匀分布,则其数学期望与方差分别为 1/2 和 1/12。由此得 12 个相互独立的 上均匀分布随机变量和的数学期望与方差分别为 6 和 1。因此我们可以如下产生正态分布 的随机数。 (1) 从计算机中产生 12 个 上均匀分布的随机数,记为 . (2)计算 ,则由林德伯格-莱维中心极限定理知,可将 近似看成来自标准正态分布 的一个随机数. (3)计算 ,则可将 看成来自正态分布 的一个随机数. (4) 重复(1)—(3)n次, 就可得到 分布的 个随机数. 从这个例子可以看出,由12个均匀分布的随机数得到1个正态分布的随机数是利用了林德伯格-莱维中心极限定理.

例 4.4.4 数值计算中的误差分析

在数值计算中,任何实数 都只能用一定位数的小数 来近似.譬如在计算中取 5 位小数,第 6 位以后的小数都用四舍五入的方法舍去,如 和 e=2.718 281 828 的近似数为 . 现在如果要求 个实数 的和 ,在数值计算中,只能用 的近似数 来得到 的近似数 ,记个别误差为 ,则总误差为

若在数值计算中, 取 位小数, 则可认为 服从区间 上的均匀分布, 且相互独立. 下面我们来估计总误差. 一种粗略的估计方法是: 由于 , 所以

现在用中心极限定理来估计: 因为 独立同分布, 且

因此对总误差有

由林德伯格-莱维中心极限定理知,对任意的 z>0,有

要从上式中求出总误差的上限 ,可令上式右边的概率为0.99,由此得

再查标准正态分布函数的 0.995 分位数得

由此解得

也就是我们有 99% 的把握,可以说

譬如在数值计算中保留 5 位小数, 求 10 000 个近似数之和的总误差, 用 (4.4.2) 式估计为 0.05, 而用 (4.4.3) 式估计, 可以概率 0.99 保证为 0.000 743 6, 即万分之七左右. 从上例可以看出,利用中心极限定理不但可以求总误差的上限,还可以给出一定的可信程度.

由林德伯格-莱维中心极限定理,马上就可以得到下面的棣莫弗-拉普拉斯中心极限定理.

定理 4.4.2 棣莫弗-拉普拉斯(de Moivre-Laplace

中心极限定理) 设 重伯努利试验中, 事件 在每次试验中出现的概率为 , 记 次试验中事件 出现的次数, 且记

则对任意实数 ,有

棣莫弗-拉普拉斯中心极限定理是概率论历史上的第一个中心极限定理,它是专门针对二项分布的,因此称为“二项分布的正态近似”。前面第二章中定理2.4.1(泊松定理)给出了“二项分布的泊松近似”。两者相比,一般在 较小时,用泊松分布近似较好;而在 时,用正态分布近似较好。 下面在给出棣莫弗-拉普拉斯中心极限定理的应用之前,先说明两点: (1)因为二项分布是离散分布,而正态分布是连续分布,所以用正态分布作为二项分布的近似计算中,作些修正可以提高精度.若 均为整数,一般先作如下修正后再用正态近似 . 譬如 的值为图 4.4.2 中 5 至 15 上长条矩形的面积之和, 其精确值为 0.978 0. 的值为图 4.4.2 中 5 至 15 上长条矩形的面积之和, 其精确值为 0.978 0.

图 4.4.2 二项分布正态近似时的修正

使用修正的正态近似

不用修正的正态近似

可见不用修正的正态近似误差较大. (2) 对于二项分布的计算,用修正的正态近似还可得

譬如, ,则 的精确值为0.1612,而用(4.4.4)式计算出的近似值为0.1629. 在中心极限定理的应用中, 若记 , 则由棣莫弗-拉普拉斯中心极限定理给出的近似式

可用来解决三类计算问题:① 已知 ;② 已知 ;③ 已知 . 以下我们就分这三类情况给出一些具体的例子.

例 4.4.5

一复杂系统由 100 个相互独立工作的部件组成, 每个部件正常工作的概率为 0.9. 已知整个系统中至少有 85 个部件正常工作, 系统才能正常工作. 试求系统正常工作的概率.

为 100 个部件中正常工作的部件数, 则

所求概率为

例 4.4.6

某药厂生产的某种药品,声称对某疾病的治愈率为 80%.现为了检验此治愈率,任意抽取 100 个此种疾病患者进行临床试验,如果至少有 75 人治愈,则此药通过检验.试在以下两种情况下,分别计算此药通过检验的可能性. (1) 此药的实际治愈率为 80%; (2) 此药的实际治愈率为 70%.

为 100 个临床受试者中的治愈者人数. (1)因为 所以通过检验的可能性为

即此药通过检验的可能性是较大的. (2) 因为 , , . 所以通过检验的可能性为

即此药通过检验的可能性是很小的.

例 4.4.7

某车间有同型号的机床 200 台, 在一小时内每台机床约有 70% 的时间是工作的. 假定各机床工作是相互独立的, 工作时每台机床要消耗电能 15 kW. 问至少要多少电能, 才可以有 95% 的可能性保证此车间正常生产.

为 200 台机床中同时工作的机床数,则 . 因为 台机床同时工作需消耗 电能,设供电量为 ,则保证正常生产可用事件 表示,由题设 ,其中

查标准正态分布表可得标准正态分布的 0.95 分位数为 1.645, 故有

从中解得 ,即此车间每小时至少需要 电量,才有 95% 的可能性保证此车间正常生产.

例 4.4.8

某调查公司受委托, 调查某电视节目在 市的收视率 , 调查公司将所有调查对象中收看此节目的频率作为 的估计 . 现在要保证有 90% 的把握, 使得调查所得收视率 与真实收视率 之间的差异不大于 5%. 问至少要调查多少对象 (样本量)?

设共调查 个对象, 记

独立同分布,且 又记 个被调查对象中, 收看此电视节目的人数为 , 则有

由大数定律知, 当 很大时, 频率 与概率 很接近, 即用频率作为 的估计是合适的. 但 的接近程度可用中心极限定理算出, 根据题意有

所以

查标准正态分布表可得标准正态分布的 0.95 分位数为 1.645, 故有

从中解得

又因为 ,所以 ,即至少调查 271 个对象。

4.4.4 独立不同分布下的中心极限定理

Section titled “4.4.4 独立不同分布下的中心极限定理”

前面我们已经在独立同分布的条件下,解决了随机变量和的极限分布问题.在实际问题中说诸 具有独立性是常见的,但是很难说诸 是“同分布”的随机变量.正如前面所提到的测量误差 的产生是由大量“微小的”相互独立的随机因素叠加而成的,即 ,则诸 间具有独立性,但不一定同分布.本节研究独立不同分布随机变量和的极限分布问题,目的是给出极限分布为正态分布的条件. 为使极限分布是正态分布, 必须对 的各项有一定的要求. 譬如若允许从第二项起都等于 0 , 则极限分布显然由 的分布完全确定, 这时就很难得到什么有意思的结果. 这就告诉我们, 要使中心极限定理成立, 在和的各项中不应有起突出作用的项, 或者说, 要求各项在概率意义下“均匀地小”. 下面我们来分析如何用数学式子来明确表达这个要求. 设 是一个相互独立的随机变量序列,它们具有有限的数学期望和方差:

要讨论随机变量的和 ,我们先将其标准化,即将它减去均值、除以标准差,由于

且记 ,则 的标准化为

如果要求 中各项 “均匀地小”,即对任意的 ,要求事件

发生的可能性小,或直接要求其概率趋于0.为达到这个目的,我们要求

因为

若设诸 为连续随机变量,其密度函数为 ,则

因此, 只要对任意的 , 有

就可保证 中各加项“均匀地小”. 上述条件(4.4.5)称为林德伯格条件.林德伯格证明了满足(4.4.5)条件的 的极限分布是正态分布,这就是下面给出的林德伯格中心极限定理,由于这个定理的证明需要更多的数学工具,所以以下仅叙述定理,略去其证明.

定理 4.4.3 林德伯格中心极限定理

设独立随机变量序列 满足林德伯格条件, 则对任意的 , 有

假如独立随机变量序列 具有同分布和方差有限的条件, 则必定满足以上 (4.4.5) 林德伯格条件, 也就是说定理4.4.1定理4.4.3 的特例. 这一点是很容易证明的: 设 是独立同分布的随机变量序列,为确定起见,设诸 是连续随机变量,其共同的密度函数为 这时 ,由此得

因为方差存在,即

所以其尾部积分一定有

故林德伯格条件满足. 林德伯格条件虽然比较一般,但该条件较难验证,下面的李雅普诺夫(Lyapunov)条件则比较容易验证,因为它只对矩提出要求,因而便于应用.下面我们仅叙述其结论,证明从略.

定理 4.4.4 李雅普诺夫中心极限定理

为独立随机变量序列, 若存在 , 满足

则对任意的 ,有

其中 如前所述.

例 4.4.9

一份考卷由 99 个题目组成, 并按由易到难顺序排列. 某学生答对第 1 题的概率为 0.99, 答对第 2 题的概率为 0.98. 一般地, 他答对第 题的概率为 . 假如该学生回答各题目是相互独立的, 并且要正确回答其中 60 个以上 (包括 60 个) 题目才算通过考试. 试计算该学生通过考试的可能性多大. 解设

于是诸 相互独立,且服从不同的二点分布:

而我们要求的是

为使用中心极限定理,我们可以设想从 开始的随机变量都与 同分布,且相互独立.下面我们用 来验证随机变量序列 满足李雅普诺夫条件(4.4.6),因为

于是

满足李雅普诺夫条件(4.4.6),所以可以使用中心极限定理. 又因为在 时,

所以该学生通过考试的可能性为

由此看出:此学生通过考试的可能性很小,大约只有千分之五.

习题4.4
  1. 某保险公司多年的统计资料表明,在索赔户中被盗索赔户占 ,以 表示在随机抽查的100个索赔户中因被盗向保险公司索赔的户数. (1) 写出 的分布列; (2) 求被盗索赔户不少于 14 户且不多于 30 户的概率的近似值.
  2. 某电子计算机主机有 100 个终端, 每个终端有 的时间被使用. 若各个终端是否被使用是相互独立的, 试求至少有 15 个终端空闲的概率.
  3. 有一批建筑房屋用的木柱, 其中 的长度不小于 , 现从这批木柱中随机地取出 100 根, 问其中至少有 30 根短于 的概率是多少?
  4. 掷一颗骰子 100 次, 记第 次掷出的点数为 , 点数之平均为 , 试求概率 .
  5. 连续地掷一颗骰子 80 次, 求点数之和超过 300 的概率.
  6. 有 10 个灯泡, 设每个灯泡的寿命服从指数分布, 其平均寿命为 60 天. 每次用一个灯泡, 当使用的灯泡坏了以后立即换上一个新的, 求这些灯泡总共可使用 450 天以上的概率.
  7. 为独立同分布的随机变量,共同分布为 ,其算术平均为 ,试求概率 .
  8. 某汽车销售点每天出售的汽车数服从参数为 的泊松分布. 若一年365天都经营汽车销售, 且每天出售的汽车数是相互独立的, 求一年中售出700辆以上汽车的概率.
  9. 某餐厅每天接待 400 名顾客, 设每位顾客的消费额 (单位: 元) 服从 (20, 100) 上的均匀分布, 且顾客的消费额是相互独立的. 试求: (1) 该餐厅每天的平均营业额; (2) 该餐厅每天的营业额在平均营业额±760元内的概率.
  10. 一仪器同时收到 50 个信号, 其中第 个信号的长度为 . 设 是相互独立的, 且都服从 (0,10) 内的均匀分布, 试求 .
  11. 计算机在进行加法运算时对每个加数取整数(取最为接近于它的整数). 设所有的取整误差是相互独立的, 且它们都服从 上的均匀分布. (1) 若将 1500 个数相加, 求误差总和的绝对值超过 15 的概率; (2) 最多几个数加在一起可使得误差总和的绝对值小于 10 的概率不小于 90%?
  12. 设各零件的重量都是随机变量, 它们相互独立, 且服从相同的分布, 其数学期望为 , 标准差为 , 问 5000 只零件的总重量超过 的概率是多少?
  13. 某种产品由 20 个相同部件连接而成, 每个部件的长度是均值为 2 mm、标准差为 0.02 mm 的随机变量. 假如这 20 个部件的长度相互独立同分布, 且规定产品总长为 mm 时为合格品, 求该产品的不合格品率.
  14. 一个保险公司有 10 000 个汽车投保人, 每个投保人平均索赔 280 元, 标准差为 800 元. 求总索赔额超过 2 700 000 元的概率.
  15. 有两个班级同时上一门课, 甲班有 25 人, 乙班有 64 人. 该门课程期末考试平均成绩为 78 分, 标准差为 14 分. 试问: 甲班的平均成绩超过 80 分的概率大, 还是乙班的平均成绩超过 80 分的概率大?
  16. 进行独立重复试验,每次试验中事件 发生的概率为 0.25. 试问能以 95% 的把握保证 1000 次试验中事件 发生的频率与概率相差多少? 此时 发生的次数在什么范围内?
  17. 设某生产线上组装每件产品的时间服从指数分布, 平均需要 10 min, 且各件产品的组装时间是相互独立的. (1) 试求组装 100 件产品需要 15 h 至 20 h 的概率; (2) 保证有 的可能性, 问 16 个小时内最多可以组装多少件产品?
  18. 某种福利彩票的奖金额 由摇奖决定, 其分布列为
    X(万元)51020304050100
    P0.20.20.20.10.10.10.1
    若一年中要开出 300 个奖,问需要多少奖金总额,才有 95% 的把握能够发放奖金.
  19. 一家有 500 间客房的大旅馆的每间客房装有一台 2 kW(千瓦)的空调机。若开房率为 80%,需要多少千瓦的电力才能有 99% 的可能性保证有足够的电力使用空调机?
  20. 设某元件是某电气设备的一个关键部件, 当该元件失效后立即换上一个新的元件. 假定该元件的平均寿命为 100 小时, 标准差为 30 小时, 试问: 应该有多少备件, 才能有 0.95 以上的概率, 保证这个系统能连续运行 2000 小时以上?
  21. 独立重复地对某物体的长度 进行 次测量, 设各次测量结果 服从正态分布 . 记 次测量结果的算术平均值, 为保证有 的把握使平均值与实际值 的差异小于 0.1 ,问至少需要测量多少次?
  22. 某工厂每月生产 10 000 台液晶投影机,但它的液晶片车间生产液晶片合格品率为 90%,为了以 99.7% 的可能性保证出厂的液晶投影机都能装上合格的液晶片,试问该液晶片车间每月至少应该生产多少片液晶片?
  23. 某产品的合格品率为 ,问包装箱中应该装多少个此种产品,才能有 的可能性使每箱中至少有 100 个合格产品。
  24. 为确定某城市成年男子中吸烟者的比例 ,任意调查 个成年男子,记其中的吸烟人数为 , 问 至少为多大才能保证 m/n 与 的差异小于 0.01 的概率大于 95%.
  25. , 试问 应该多大, 才能满足
  1. 为一独立同分布的随机变量序列, 已知 . 试证明: 当 充分大时, 近似服从正态分布, 并指出此正态分布的参数.
  2. 用概率论的方法证明: