跳转到内容

3.2 随机过程的统计特性

杨鸿文 主编(北京邮电大学通信原理课程组)北京邮电大学出版社《通信原理(第5版)》大学本科 · 教材与微课双语助读 (Alt+Y)

如前所述,随机过程在任何具体的时刻都是随机变量。随机过程就是沿时间轴排列的无数个随机变量。随机过程的统计特性就是这些随机变量的统计特性。

概率是概率论的核心概念,反映事件在随机试验中出现的可能性。基于大数定律,事件 A 的概率可以通过大量的随机试验来测量:

P(A) = lim_(N → ∞) (N_A)/(N) (3.2.1)

其中 N 是试验次数,N_A 是 N 次试验中事件 A 发生的次数。式 (3.2.1) 是计算机仿真以及通信仪表(如误码仪)中测量概率的基本原理。这里的极限是概率意义上的极限。

通信中经常需要考虑多个随机事件。两个事件 A, B 的联合概率 P(A, B) 是它们同时发生的机会。条件概率 P(B|A) 是事件 A 已发生的情况下,事件 B 发生的机会。联合概率满足如下链式法则:

P(A, B) = P(A)P(B|A) = P(B)P(A|B) (3.2.2)

根据上式可以给出条件概率与联合概率的关系:P(B|A) = P(A,B)/P(A),P(A|B) = P(A,B)/P(B),同时可以给出两个条件概率之间的关系,即贝叶斯(Bayes)公式:

P(A|B) = P(B|A) (P(A))/(P(B)) (3.2.3)

如果事件 A 发生的概率不受事件 B 影响,则称事件 A 与 B 独立。此时必有:

P(A|B) = P(A), P(B|A) = P(B), P(A,B) = P(A)P(B)

即两个事件独立意味着条件概率等于无条件概率、联合概率等于各自概率的乘积。

复包络象限判定中的概率计算

给定时刻 t₀,定义事件 A 为“同相分量 x_c(t₀) > 0”,事件 B 为“正交分量 xₛ(t₀) > 0”,则联合概率 P(A,B) 就是复包络 x_L(t) = x_c(t) + jxₛ(t) 在 t₀ 时刻位于第 1 象限的概率。条件概率 P(B|A) 就是已知 t₀ 时刻复包络 x_L(t₀) 位于右半平面的情况下,x_L(t₀) 落在第 1 象限的概率。

若有 10 万条记录,其中 t₀ 时刻同相分量大于零的记录有 2 万条,则基于大数定律,可近似认为 P(A) = 0.2。若在这 2 万条记录中,有 5000 条记录在 t₀ 时刻的正交分量大于零,则 P(B|A) = 0.25。10 万条记录中,复包络在 t₀ 时刻位于第 1 象限的记录有 5000 条:

P(A,B) = 0.05 = P(B|A)P(A)

随机变量的概率分布主要指概率质量函数(Probability Mass Function, PMF)、概率密度函数(Probability Density Function, PDF)和累积分布函数(Cumulative Distribution Function, CDF)。下表列出了通信中常用的一些概率分布:

分布名称PMF / PDF均值 m_X方差 σ_X²
伯努利分布P(X=1) = p, P(X=0) = 1-ppp(1-p)
二项分布P(X=k) = binomnk p^k(1-p)ⁿ-k, k=0,1,2,…,nnpnp(1-p)
泊松分布P(X=k) = fracλ^k e⁻λk!, k=0,1,2,…λλ
均匀分布p(x) = (1)/(b-a), x ∈ [a, b](a+b)/(2)(1)/(12)(b-a)²
高斯分布 mathcalN(a, σ²)p(x) = (1)/(√(2πσ²)) e⁻((x-a)²)/(2σ²)aσ²
指数分布p(x) = λ e⁻λ x, x ≥ 0(1)/(λ)(1)/(λ²)
瑞利分布p(x) = (x)/(σ²) e⁻(x²)/(2σ²), x ≥ 0√((πσ²)/(2))(4-π)/(2)σ²
莱斯分布p(x) = (x)/(σ²)e⁻(x²+A²)/(2σ²) I₀((Ax)/(σ²)), x ≥ 0
莱斯因子 K = (A²)/(2σ²)
√((πσ²)/(2)) L₁/2(-(A²)/(2σ²))2σ² + A² - m_X²
表 3.2.1 常用概率分布

注:莱斯分布中 I₀(·) 是第一类零阶修正贝塞尔函数,L_q(·) 是拉盖尔多项式函数。当 A/σ 很大时,莱斯分布可近似为高斯分布 mathcalN(A, σ²);当 A = 0 时,莱斯分布退化为瑞利分布。

概率质量函数是对离散随机变量各可能取值的出现概率的枚举,即对 X 的每个可能取值 x₀, x₁, …, x_(M-1),逐一列出概率 P(X=xₖ), k=0,1,…,M-1。概率质量函数也称为分布列。

纠错编码数据包丢包率计算

某通信系统发送的数据包有 n = 100 比特。到达接收端时,数据包中可能有一些比特出错,假设错误比特数 X 服从二项分布,其中 p = 0.01。假设该系统采用了某种信道编码技术,使得错误比特数在 X = 0, 1, 2, …, t 范围内时,接收端可以完全纠正错误,而当错误比特数超过 t 时,只能丢包。求 t = 2 及 t = 6 情况下,丢包的概率。

查看解析与步骤

丢包概率为:

Pₗoss = 1 - ∑ₖ=0^t P(X=k) = 1 - ∑ₖ=0^t binomnk p^k(1-p)ⁿ-k

代入 n = 100, p = 0.01 后可以算出:

  • t = 2 时丢包率约为 8%;
  • t = 6 时丢包率约为 7.1 × 10⁻5。

连续随机变量做不到逐一列举每个可能取值的出现概率(每个特定取值的概率为零),改用概率的密度。若随机变量 X 的概率密度函数为 p_X(x),则对于充分小的区间 [x, x+Δ x](x 为 p_X(x) 的连续点),X 落在该区间内的概率近似为 p_X(x)Δ x。密度的积分是总量,p_X(x) 对所有 x 积分的结果是 1。

离散随机变量的每个可能取值有相应的概率值,相应的概率密度无穷大,呈现为冲激函数。例如伯努利分布的概率密度函数为:

p_X(x) = pδ(x-1) + (1-p)δ(x) (3.2.4)

这一点类似于物理中的质点,其质量集中在一个点上,质量密度是冲激;也类似于确定信号中的复单频信号,其功率集中在一个频率点上,功率谱密度是冲激。

无论是离散随机变量还是连续随机变量,X 的取值不超过 x 的概率是累积分布函数,其导数是概率密度函数:

F_X(x) = P(X ≤ x) = ∫_(-∞)ˣ p_X(u) du (3.2.5) p_X(x) = (d)/(dx)F_X(x) (3.2.6)

设有两个连续随机变量 X, Y。令 A 表示事件“X 落在区间 [x, x+Δ x]”,B 表示事件“Y 落在区间 [y, y+Δ y]”,则对于充分小的 Δ x, Δ y(Δ x > 0, Δ y > 0),联合概率 P(A, B) 近似是 p_(X,Y)(x,y)Δ xΔ y,条件概率 P(A|B) 近似是 p_(X|Y)(x|y)Δ x,其中的 p_(X,Y)(x,y) 是联合概率密度,也叫二维概率密度,p_(X|Y)(x|y) 是条件概率密度。代入式 (3.2.2) 后,联合概率密度可表示为:

p_(X,Y)(x,y) = p_X(x)p_(Y|X)(y|x) = p_Y(y)p_(X|Y)(x|y) (3.2.7)

事件“X 不超过 x”与事件“Y 不超过 y”的联合概率是 X, Y 的联合累积分布函数,也称为二维累积分布函数,其二阶偏导是联合概率密度:

F_(X,Y)(x,y) = P(X ≤ x, Y ≤ y) (3.2.8) p_(X,Y)(x,y) = (∂²)/(∂ x∂ y)F_(X,Y)(x,y) (3.2.9)

两个随机变量 X, Y 独立表现为联合概率密度等于各自概率密度的乘积:p_(X,Y)(x,y) = p_X(x)p_Y(y),条件概率密度与条件无关:p_(Y|X)(y|x) = p_Y(y)。

在不致混淆的情况下,概率密度函数记号中的下标可以省略,如用 p(x,y), p(y|x) 分别表示 p_(X,Y)(x,y) 和 p_(Y|X)(y|x)。

随机过程在任何时刻都是随机变量,这些随机变量未必分布相同。时刻 t 的随机变量 X(e,t) 的累积分布函数记为 F_X(x,t),概率密度函数记为 p_X(x,t)。F_X(x,t) 与 p_X(x,t) 只涉及 t 时刻这一个随机变量,是随机过程的一维概率分布。

二值波形随机过程的一维概率密度

考虑前面探测器发出的二值随机过程 X(t) ∈ {s₁(t), s₂(t)}。对于任意时刻 t ∈ [0, T_b],X(t) 有两种可能取值:s₁(t) = cos(2π f₀ t) 或 s₂(t) = -cos(2π f₀ t),是离散随机变量。若抽中 s₁(t) 的机会是 3/4,则 X(t) 在 t 时刻的一维概率密度函数为:

p_X(x,t) = 3/4δ(x - cos(2π f₀ t)) + 1/4δ(x + cos(2π f₀ t)) (3.2.10)

任意给定两个时刻 t₁, t₂,X₁ = X(e, t₁) 与 X₂ = X(e, t₂) 是两个随机变量。所取时间 t₁, t₂ 不同,则随机变量不同,联合分布也不同。记 t₁, t₂ 时刻的两个随机变量 X₁, X₂ 的联合累积分布函数为 F_X(x₁, x₂, t₁, t₂),联合概率密度为 p_X(x₁, x₂, t₁, t₂),它们是 X(e,t) 的二维概率分布。

扩展到 n 维,随机过程 X(t) 的 n 维联合累积分布函数是任意 n 个时刻 t₁, t₂, …, tₙ 上的 n 个随机变量 X₁ = X(t₁), X₂ = X(t₂), …, Xₙ = X(tₙ) 的联合累积分布函数:

F_X(x₁, x₂, …, xₙ, t₁, t₂, …, tₙ) = P(X₁ ≤ x₁, X₂ ≤ x₂, …, Xₙ ≤ xₙ) (3.2.11)

相应的 n 维联合概率密度为:

p_X(x₁, x₂, …, xₙ, t₁, t₂, …, tₙ) = (∂ⁿ)/(∂ x₁ ∂ x₂ … ∂ xₙ) F_X(x₁, x₂, …, xₙ, t₁, t₂, …, tₙ) (3.2.12)

考虑两个随机过程 X(t), Y(t)。在 X(t) 上任取 n 个随机变量 X₁ = X(t₁), …, Xₙ = X(tₙ),在 Y(t) 上任取 m 个随机变量 Y₁ = Y(t'₁), …, Yₘ = Y(t'ₘ),这 n+m 个随机变量的联合累积分布函数为:

& F_(XY)(x₁, …, xₙ, t₁, …, tₙ; y₁, …, yₘ, t'₁, …, t'ₘ) & = P(X₁ ≤ x₁, …, Xₙ ≤ xₙ; Y₁ ≤ y₁, …, Yₘ ≤ yₘ) (3.2.13)

联合概率密度函数为:

p_(XY) = frac∂ⁿ+m∂ x₁ … ∂ xₙ ∂ y₁ … ∂ yₘ F_(XY) (3.2.14)

两个随机过程相互独立时,联合分布等于各自联合分布之积,即对任意正整数 n, m 以及任意时刻 t₁, …, tₙ, t'₁, …, t'ₘ,有:

F_(XY)(x₁, …, xₙ, t₁, …, tₙ; y₁, …, yₘ, t'₁, …, t'ₘ) = F_X(x₁, …, xₙ, t₁, …, tₙ) F_Y(y₁, …, yₘ, t'₁, …, t'ₘ) (3.2.15)

随机过程 X(e,t) 有 e, t 两个变量,对其取平均有按 e 取平均和按 t 取平均两种情况。固定 t,对随机变量 X(e,t) 的各种可能结果(对应不同 e)取平均,平均结果叫统计平均值、均值或数学期望。

根据概率论,若 X(e) ∈ {a₁, a₂, …, a_M} 是离散随机变量,其各可能取值的出现概率依次为 p₁, p₂, …, p_M,则 X 的数学期望为:

mathbbE[X] = ∑ᵢ=1^M aᵢ pᵢ (3.2.16)

若 X(e) 是连续随机变量,其概率密度函数为 p_X(x),则 X 的数学期望为:

mathbbE[X] = ∫_(-∞)^∞ x p_X(x) dx (3.2.17)

随机变量的均值可能是零,也可能不是零。均值不为零的随机变量可看成是零均值随机变量叠加了常数:

X = widetildeX + m_X (3.2.18)

其中 m_X = mathbbE[X] 是 X 的均值,widetildeX = X - m_X 是从 X 中扣除了均值,mathbbE[widetildeX] = mathbbE[X] - m = 0。

工程中测量数学期望的基本原理是大数定律,即用 N 次随机试验的结果 x₁, x₂, …, x_N 取平均来逼近数学期望:

mathbbE[X] = lim_(N → ∞) 1/N∑ᵢ=1^N xᵢ (3.2.19)

设 y = g(x) 是确定函数,则 Y(e) = g[X(e)] 是随机变量。Y 的数学期望可以用 X 的概率密度来计算:

mathbbE[Y] = ∫_(-∞)^∞ g(x) p_X(x) dx (3.2.20)

若 Y(e) = a · X(e) + c,其中的 a, c 与 e 无关(即不是随机变量),则:

mathbbE[Y] = mathbbE[a X(e) + c] = a mathbbE[X(e)] + c (3.2.21)

也就是说,数学期望作用于 e,与 e 无关的加性或乘性系数都可以提到 mathbbE[ · ] 的外面。

Y = (X - m_X)² 是随机变量 X 的函数,其数学期望反映随机变量 X 中围绕均值的波动部分 widetildeX = X - m_X 的强弱,称为 X 的方差:

σ_X² = mathbbE[(X - m_X)²] = mathbbE[X²] - m_X² (3.2.22)

方差也可记为 Var(X) 或 D(X)。σ_X 称为标准差,mathbbE[X²] 称为 X 的二阶矩。

设 a 是常数,随机变量 X/a 的均值为 mathbbE[X/a] = m_X/a,二阶矩为 mathbbE[(X/a)²] = mathbbE[X²]/a²,方差为 σ_X²/a²。随机变量 X 除以标准差 σ_X 后,X/σ_X 的方差是 1。令 widetildeX = (X - m_X)/σ_X,则 widetildeX 是将 X 的均值归零、方差归 1,称为 X 的标准化。

随机过程 X(e,t) 在每个时刻都是随机变量,随机过程的数学期望就是这些随机变量的数学期望。不同时刻的数学期望未必相同,一般情况下是 t 的函数:

mathbbE[X(e,t)] = ∫_(-∞)^∞ x p_X(x,t) dx = m_X(t) (3.2.23)

统计平均是按 e 平均,X(e,t) 按 e 取平均将消掉 e、只剩下 t,说明随机信号的数学期望是确定信号。

零均值随机过程对所有 t 恒有 mathbbE[X(e,t)] = 0。若 X(e,t) 的均值不为零,可将其分解为一个零均值随机过程与一个确定信号之和:

X(e,t) = widetildeX(e,t) + m_X(t) (3.2.24)

不妨假设随机过程 X(e,t) 的每个样本函数都是功率信号。给定样本 e 时,样本函数 X(e,t) 是确定信号,其时间平均为:

overlineX(e,t) = lim_(T → ∞) { 1/T∫_(-T/2)^(T/2) X(e,t) dt } (3.2.25)

上式右边是一个与 t 无关、与 e 有关的实数,即 overlineX(e,t) 是一个随机变量。

统计平均与时间平均的本质区别

设有随机信号 X(e,t) = Z(e) · cos²(2π t) + sin(2π t),其中 Z(e) 是零均值随机变量。

统计平均为:

mathbbE[X(e,t)] &= mathbbE[Z(e)cos²(2π t) + sin(2π t)] &= mathbbE[Z(e)] · cos²(2π t) + sin(2π t) &= sin(2π t) (3.2.26)

统计平均 mathbbE[ · ] 是对 e 操作,把与 e 无关的 cos²(2π t) 提到了外边。对 e 取平均后的结果与 e 无关,故统计平均的结果 sin(2π t) 是非随机的确定函数。

时间平均为:

overlineX(e,t) &= overlineZ(e) · cos²(2π t) + sin(2π t) &= Z(e) · overlinecos²(2π t) + overlinesin(2π t) &= 1/2Z(e) (3.2.27)

时间平均 overline( · ) 是对 t 操作,把与 t 无关的 Z(e) 提到了外边。对 t 取平均后的结果与 t 无关但与 e 有关,所以时间平均的结果 1/2Z(e) 是与 t 无关的随机变量。

考虑随机过程的实现(样本函数)为电压信号。对于给定的 e 和 t,X(e,t) 是一个确定的电压值,其平方 X²(e,t) 是样本 e 抽到的波形在 t 时刻的瞬时功率。

  • 对瞬时功率 X²(e,t) 按 e 取平均是二阶矩 mathbbE[X²(e,t)],它是所有样本函数在 t 时刻瞬时功率的统计平均。mathbbE[X²(e,t)] 与 e 无关,与 t 有关,再按 t 取平均便得到随机过程 X(e,t) 的平均功率 P_X = overlinemathbbE[X²(e,t)]。
  • 对瞬时功率 X²(e,t) 按 t 取平均,overlineX²(e,t) 是样本 e 所抽出的确定信号的平均功率。overlineX²(e,t) 与 t 无关,与 e 有关,是一个随机变量,表示不同样本信号有不同的功率。对 overlineX²(e,t) 按 e 取平均同样得到随机过程的平均功率 P_X = mathbbE[overlineX²(e,t)]。

随机信号 X(e,t) 的平均功率是瞬时功率 X²(e,t) 同时做时间平均和统计平均。两个平均可以交换次序:

P_X = overlinemathbbE[X²(e,t)] = mathbbE[ overlineX²(e,t) ] (3.2.28)
flowchart LR
    P["$$X^2(e,t)$$\n样本瞬时功率"] -->|"$$\\mathbb{E}[\\cdot]$$"| Pt["瞬时平均功率\n$$\\mathbb{E}[X^2(e,t)]$$"]
    Pt -->|"$$\\overline{(\\cdot)}$$"| Pavg["平均功率\n$$P_X = \\overline{\\mathbb{E}[X^2]} = \\mathbb{E}[\\overline{X^2}]$$"]
    
    P -->|"$$\\overline{(\\cdot)}$$"| Pe["样本平均功率\n$$\\overline{X^2(e,t)}$$"]
    Pe -->|"$$\\mathbb{E}[\\cdot]$$"| Pavg
图 3.2.1 平均功率是瞬时功率的双重平均值

如果 X(e,t) 的统计平均值 mathbbE[X(e,t)] = m_X(t) ≠ 0,根据式 (3.2.24),可将 X(e,t) 看成是确定信号 m_X(t) 叠加了零均值随机信号 widetildeX(e,t)。widetildeX(e,t) 按 e 平均的功率是 X(e,t) 的方差:

σ_X²(t) = mathbbE[(X(e,t) - m_X(t))²] = mathbbE[X²(e,t)] - m_X²(t) (3.2.29)

对 mathbbE[X²(e,t)] = σ_X²(t) + m_X²(t) 做时间平均是 X(e,t) 的功率:

P_X = mathbbE[ overline(widetildeX(e,t) + m_X(t))² ] = overlineσ_X²(t) + overlinem_X²(t) (3.2.30)

结果说明,随机过程的功率可分成两部分:一部分是均值 m_X(t) 的确定功率,另一部分是零均值随机波动信号 widetildeX(e,t) 的功率。

双重平均计算随机信号功率

设 X(e,t) = Z(e) · cos²(2π t) + sin(2π t),其中 Z 在区间 [-1, 1] 上均匀分布。求 X(e,t) 的平均功率。

查看解析与步骤

由 mathbbE[Z(e)] = 0 可知 mathbbE[Z(e)cos²(2π t)] = 0,即 X(e,t) 是 sin(2π t) 叠加了零均值随机过程 Z(e)cos²(2π t)。

sin(2π t) 的功率是 0.5。而 Z(e)cos²(2π t) = 1/2Z(e)[1 + cos(4π t)] 的平均功率是:

mathbbE[1/4Z²(e)(1 + cos(4π t))²] &= 1/4mathbbE[Z²(e)] · overline[1 + 2cos(4π t) + 1/2 + 1/2cos(8π t)] &= 1/4mathbbE[Z²(e)] · 3/2 = 1/4 · 1/3 · 3/2 = 1/8

故 X(e,t) 的总平均功率是:

P_X = 1/8 + 1/2 = 5/8

两个随机变量 X, Y 的内积定义为乘积的数学期望:

langle X, Y rangle = mathbbE[XY] (3.2.31)

这个操作也称为 X, Y 的相关运算,其结果也称为 X, Y 的相关值。

  • 随机变量 X 与自身的内积是二阶矩 mathbbE[X²]。
  • 两个随机变量扣除均值后的内积是协方差:
Cov(X,Y) = mathbbE[(X - m_X)(Y - m_Y)] (3.2.32)

当 X = Y 时,协方差成为方差 σ_X² = mathbbE[(X - m_X)²]。

若 X, Y 表示信号电压,则 X² 是功率,二阶矩 mathbbE[X²] 是平均功率。对零均值随机变量,平均功率等于方差:mathbbE[X²] = σ_X²。

既然 X 与自身的内积(二阶矩)是功率,那么 X, Y 之间的内积 mathbbE[XY] 自然可以称为互功率。互功率表示两个随机电压相加后,平均功率的额外消耗:

mathbbE[(X + Y)²] = mathbbE[X²] + mathbbE[Y²] + 2mathbbE[XY] (3.2.34)

内积为零称为正交。正交随机变量之和的二阶矩(功率)等于各自二阶矩(功率)之和。内积满足许瓦兹不等式:

|mathbbE[XY]| ≤ sqrtmathbbE[X²] · mathbbE[Y²] (3.2.35)

即互功率的模值不超过自功率的几何平均,等号成立的条件是 Y = kX(k 为常系数)。

将 X, Y 标准化为 widetildeX = (X - m_X)/σ_X, widetildeY = (Y - m_Y)/σ_Y 后的内积称为相关系数:

ρ = mathbbE[(X - m_X)/(σ_X) · (Y - m_Y)/(σ_Y)] = (Cov(X,Y))/(√(σ_X² σ_Y²)) (3.2.36)

根据许瓦兹不等式,相关系数的绝对值不会超过 1(-1 ≤ ρ ≤ 1)。

若两个随机变量的相关系数为零,称为不相关。由 mathbbE[(X - m_X)(Y - m_Y)] = 0 可以导出不相关就是乘积的数学期望等于数学期望的乘积:

mathbbE[XY] = mathbbE[X]mathbbE[Y] (3.2.37)

若 X, Y 独立,则它们不相关。独立说明联合概率密度函数是边缘概率密度函数的乘积:p_(X,Y)(x,y) = p_X(x)p_Y(y)。此时 X, Y 的内积为:

mathbbE[XY] = iint_(-∞)^∞ xy p_X(x)p_Y(y) dxdy = mathbbE[X]mathbbE[Y] (3.2.38)

下图直观展示了独立、不相关、正交之间的关系:

flowchart TD
    indep["独立\n$$p_{XY}(x,y) = p_X(x)p_Y(y)$$"]
    uncorr["不相关\n$$\\mathbb{E}[XY] = \\mathbb{E}[X]\\mathbb{E}[Y]$$"]
    orth["正交\n$$\\mathbb{E}[XY] = 0$$"]
    
    indep -->|"推导成立"| uncorr
    indep -.->|"零均值时推导成立"| orth
    uncorr <==>|"零均值时等价"| orth
图 3.2.2 独立、不相关、正交之间的逻辑关系

随机过程 X(e,t) 的自相关函数定义为:

R_X(t₁, t₂) = mathbbE[X(e, t₁)X(e, t₂)] (3.2.39)

数学期望是对 e 操作,因此自相关函数是确定函数,没有随机性。

自相关函数的概念可以扩展到互相关函数。两个随机过程 X(e,t) 和 Y(e,t) 的互相关函数为:

R_(XY)(t₁, t₂) = mathbbE[X(e, t₁)Y(e, t₂)] (3.2.40)

自相关函数是互相关函数在 Y(e,t) = X(e,t) 的特例。调换信号次序,则互相关函数调换 t₁, t₂ 的次序:

R_(YX)(t₁, t₂) = mathbbE[Y(e, t₁)X(e, t₂)] = R_(XY)(t₂, t₁) (3.2.41)

若 X(t) 上的任何随机变量与 Y(t) 上的任何随机变量不相关,则称 X(t) 与 Y(t) 不相关。若 X(t) 上的任何随机变量与 Y(t) 上同一时刻的随机变量不相关,则称 X(t) 与 Y(t) 在同一时刻不相关。对于零均值随机过程,X(t) 与 Y(t) 不相关就是 R_(XY)(t₁, t₂) = 0;同一时刻不相关就是 R_(XY)(t, t) = 0。

若零均值随机过程 X(t), Y(t) 不相关,则其和的自相关函数等于各自自相关函数之和:

R_(X+Y)(t₁, t₂) &= mathbbE[(X(t₁) + Y(t₁))(X(t₂) + Y(t₂))] &= R_X(t₁, t₂) + R_Y(t₁, t₂) (3.2.42)

若 X(t) 是零均值随机过程,m(t) 是确定功率信号,则 X(t) + m(t) 的自相关函数为:

R_(X+m)(t₁, t₂) = R_X(t₁, t₂) + m(t₁)m(t₂) (3.2.43)
随机相位信号的相关函数求解

设有两个随机信号 X(t) = cos(2π t + θ),Y(t) = cos(3π t + θ),其中 θ(e) 是在 [0, 2π] 内均匀分布的随机变量。求 X(t), Y(t) 的均值、自相关函数与互相关函数。

查看解析与步骤

在任意时刻,X(e,t) = cos[2π t + θ(e)] 是随机变量 θ(e) 的函数。θ 的概率密度函数是 (1)/(2π), 0 ≤ θ < 2π,故 X(e,t) 的均值为:

m_X(t) = mathbbE[cos(2π t + θ)] = ∫₀²π (cos(2π t + θ))/(2π) dθ = 0

对任意两个时刻 t₁, t₂,X(e, t₁) = cos[2π t₁ + θ(e)], X(e, t₂) = cos[2π t₂ + θ(e)] 是两个随机变量,其乘积的数学期望为:

R_X(t₁, t₂) &= mathbbE[cos(2π t₁ + θ(e)) cos(2π t₂ + θ(e))] &= 1/2mathbbE{cos[2π(t₁ - t₂)] + cos[2π(t₁ + t₂) + 2θ(e)]} &= 1/2cos[2π(t₁ - t₂)] + 1/2mathbbE{cos[2π(t₁ + t₂) + 2θ(e)]} &= 1/2cos[2π(t₁ - t₂)]

注意:X(e, t₁) 和 X(e, t₂) 中的 θ 是同一个 e 所映射出的随机变量,θ(e) 是 e 的函数,不是 t 的函数,故对于不同的时刻,θ 并不改变。

同理可得:

m_Y(t) = 0, R_Y(t₁, t₂) = 1/2cos[3π(t₁ - t₂)], R_(XY)(t₁, t₂) = 1/2cos(2π t₁ - 3π t₂)

3. 样本相关函数与平均相关函数

Section titled “3. 样本相关函数与平均相关函数”

给定样本 e 时,X(e,t) 是确定功率信号。按确定信号的定义可求出其自相关函数为:

R_X^s(e, τ) = overlineX(e, t+τ)X(e, t) = lim_(T → ∞) { 1/T∫_(-T/2)^(T/2) X(e, t+τ)X(e, t) dt } (3.2.44)

对 t 取平均后的结果与 t 无关,但不同的样本波形自相关函数可能不同,所以上式与 e 有关,是一个随机量。对 e 求平均以消除随机性:

overlineR_X(τ) &= mathbbE[ overlineX(e, t+τ)X(e, t) ] = lim_(T → ∞) { 1/T∫_(-T/2)^(T/2) mathbbE[X(e, t+τ)X(e, t)] dt } &= lim_(T → ∞) { 1/T∫_(-T/2)^(T/2) R_X(t+τ, t) dt } = overlineR_X(t+τ, t) (3.2.45)

称 overlineR_X(τ) 为随机过程 X(t) 的平均自相关函数。平均自相关函数 overlineR_X(τ) 是样本自相关函数 R_X^s(e, τ) 的统计平均,也等于随机过程自相关函数 R_X(t+τ, t) 的时间平均。统计平均去掉 e,时间平均去掉 t,最终的结果与 e, t 都无关,只与时间差 τ = t₁ - t₂ 有关。

推广到两个随机信号,给定 e,X(e,t), Y(e,t) 是确定功率信号,互相关函数为 R_(XY)^s(e, τ) = overlineX(e, t+τ)Y(e, t),平均互相关函数为:

overlineR_(XY)(τ) = mathbbE[ overlineX(t+τ)Y(t) ] = overlineR_(XY)(t+τ, t) (3.2.46)

平均自相关函数和互相关函数具有如下重要性质:

平均相关函数的数学性质
  1. 偶函数对称性:平均自相关函数是偶函数: overlineR_X(τ) = overlineR_X(-τ)
  2. 原点极大值与平均功率:平均自相关函数在 τ = 0 处最大且最大值是平均功率: overlineR_X(τ) ≤ overlineR_X(0) = overlinemathbbE[X²(t)] = P_X
  3. 互相关时移反转:信号次序调换后,平均互相关函数 τ 变 -τ: overlineR_(YX)(τ) = overlineR_(XY)(-τ)

无限时间随机序列 {Xₙ} 的自相关函数定义为:

R_X(n+m, n) = mathbbE[Xₙ+mXₙ] (3.2.47)
独立同分布双极性符号序列的自相关函数

设随机序列 {Xₙ} 的元素以独立等概方式取值于 {± 1}。当 m ≠ 0 时,Xₙ+m 与 Xₙ 独立,mathbbE[Xₙ+mXₙ] = mathbbE[Xₙ+m]mathbbE[Xₙ] = 0。当 m = 0 时,Xₙ+mXₙ = Xₙ² = 1。{Xₙ} 的自相关函数为 Kronecker 冲激:

R_X(m) = mathbbE[Xₙ+mXₙ] = 1, & m = 0 0, & m ≠ 0 (3.2.48)

每次随机试验中抽出的样本信号 X(e,t) 是确定信号,其功率谱密度为:

P_X(e, f) = lim_(T → ∞) frac|mathcalF[X_T(e, t)]|²T (3.2.49)

其中 X_T(e, t) = operatornamerect(t/T)X(e, t) 是样本信号的截短。

不同的样本信号可能有不同的功率谱密度,随机过程的功率谱密度定义为样本函数功率谱密度的统计平均:

P_X(f) = mathbbE[P_X(e, f)] = lim_(T → ∞) fracmathbbE[|mathcalF[X_T(e, t)]|²]T (3.2.50)

随机过程 X(t), Y(t) 的互功率谱密度相应定义为样本信号互功率谱密度的统计平均:

P_(XY)(f) = lim_(T → ∞) fracmathbbE[mathcalF[X_T(t)] (mathcalF[Y_T(t)])^*]T (3.2.51)

根据第 2 章结论,每个样本函数的功率谱密度是该样本函数自相关函数的傅氏变换:P_X(e, f) = mathcalF[R_X^s(e, τ)]。两边求数学期望,右边交换数学期望与傅氏变换的次序,即得到著名的维纳-辛钦(Wiener-Khinchin)定理:

维纳-辛钦定理(Wiener-Khinchin Theorem)

随机信号的功率谱密度等于平均自相关函数的傅氏变换:

P_X(f) = mathcalF[overlineR_X(τ)] = ∫_(-∞)^∞ overlineR_X(τ)e⁻j2π f τ dτ (3.2.53)

互功率谱密度则等于平均互相关函数的傅氏变换:

P_(XY)(f) = mathcalF[overlineR_(XY)(τ)] = ∫_(-∞)^∞ overlineR_(XY)(τ)e⁻j2π f τ dτ (3.2.54)
  • 两个零均值不相关随机过程之和的功率谱密度是各自功率谱密度之和:P_(X+Y)(f) = P_X(f) + P_Y(f)。
  • 均值非零的随机过程可分解为零均值过程与确定信号之和,其功率谱密度由两部分构成:P_X(f) = P_(widetildeX)(f) + Pₘ_X(f)。
随机冲激序列的自相关函数与功率谱密度

设 X(t) = ∑ₙ=-∞^∞ aₙ δ(t - nTₛ),其中序列 {aₙ} 的元素以独立等概方式取值于 {± 1},Tₛ > 0 是常数。求 X(t) 的自相关函数与功率谱密度。

查看解析与步骤

X(t) 的自相关函数为:

mathbbE[X(t+τ)X(t)] &= mathbbE[{∑ₙ=-∞^∞ aₙ δ(t + τ - nTₛ)}{∑ₘ=-∞^∞ aₘ δ(t - mTₛ)}] &= ∑ₙ=-∞^∞ ∑ₘ=-∞^∞ mathbbE[aₙ aₘ] δ(mTₛ + τ - nTₛ)δ(t - mTₛ) &= δ(τ)∑ₙ=-∞^∞ δ(t - nTₛ) (3.2.55)

其中代入了 mathbbE[aₙ aₘ] = δ[n-m]。对上式按时间取平均可得到平均自相关函数。周期冲激序列的时间平均等于其在一个周期内的平均:

overline∑ₙ=-∞^∞ δ(t - nTₛ) = (1)/(Tₛ)∫_(-Tₛ/2)^(Tₛ/2) δ(t) dt = (1)/(Tₛ) (3.2.56)

因此 X(t) 的平均自相关函数为:

overlineR_X(τ) = (1)/(Tₛ)δ(τ) (3.2.57)

做傅氏变换得到 X(t) 的功率谱密度为白谱:

P_X(f) = (1)/(Tₛ) (3.2.58)

随机过程通过滤波器具体到每次随机试验中就是样本函数通过滤波器:

flowchart LR
    omega["样本空间 $$\\Omega$$"] -->|"$$e$$"| map["映射"]
    map -->|"$$x(t) = X(e,t)$$"| filter["线性时不变系统\n$$h(t), H(f)$$"]
    filter -->|"$$y(t) = Y(e,t)$$"| out["输出随机过程"]
图 3.2.3 随机过程通过线性时不变滤波器

在每次随机试验中,e 固定,X(e,t) 和 Y(e,t) 是确定信号,二者之间的关系为卷积积分:

Y(e,t) = ∫_(-∞)^∞ h(t-τ)X(e,τ) dτ (3.2.59)

两边同求数学期望:

m_Y(t) = mathbbE[Y(e,t)] = ∫_(-∞)^∞ h(t-τ)mathbbE[X(e,τ)] dτ = ∫_(-∞)^∞ h(t-τ)m_X(τ) dτ = h(t) * m_X(t) (3.2.60)

即输出过程的均值是输入过程的均值通过滤波器的输出。很明显,零均值随机过程通过滤波器后还是零均值随机过程。

给定 e 时,若滤波器输入样本信号 X(e,t) 的功率谱密度是 P_X(e,f),则输出样本信号 Y(e,t) 的功率谱密度为:

P_Y(e,f) = |H(f)|² P_X(e,f) (3.2.61)

两边取数学期望:

P_Y(f) = |H(f)|² P_X(f) (3.2.62)

即随机过程通过滤波器后,输出的功率谱密度是输入功率谱密度乘以传递函数的模平方。

类似可以得到互功率谱密度关系为:

P_(XY)(f) = H^*(f)P_X(f), P_(YX)(f) = H(f)P_X(f) (3.2.63)

对式 (3.2.62) 及式 (3.2.63) 两边做傅氏反变换,频域乘积对应到时域是卷积,具体关系为:

overlineR_Y(τ) &= overlineR_X(τ) * h(τ) * h^*(-τ) overlineR_(XY)(τ) &= overlineR_X(τ) * h^*(-τ) overlineR_(YX)(τ) &= overlineR_X(τ) * h(τ) (3.2.64)
数字脉冲成形滤波器的功率谱计算

设有随机信号 Y(t) = ∑ₙ=-∞^∞ aₙ g(t - nTₛ),其中 aₙ 以独立等概方式取值于 {± 1},g(t) 是确定基带成形脉冲信号,其能量谱密度为 |G(f)|²。求 Y(t) 的功率谱密度。

查看解析与步骤

可以注意到,Y(t) 是冲激序列 X(t) = ∑ₙ=-∞^∞ aₙ δ(t - nTₛ) 通过冲激响应为 g(t) 的成形滤波器后的输出。

在前面的例3.2.8 中已求得输入冲激序列 X(t) 的功率谱密度为 P_X(f) = (1)/(Tₛ)。根据线性系统滤波器的谱传输公式 (3.2.62),Y(t) 的功率谱密度直接为:

P_Y(f) = (1)/(Tₛ)|G(f)|² (3.2.65)
共 0 题