第三章:期望、方差与条件矩

用矩概括分布,并通过全期望、全方差和协方差分解理解异质总体。

第三章:期望、方差与条件矩

案例: 保险赔付的总体波动,来自每类客户内部的随机性,还是高低风险客户之间的差异?

矩把完整分布压缩成可解释的数值。压缩会丢失信息,因此应知道每个矩回答什么、不能回答什么。

学习目标

你应能:

  1. 计算离散与连续随机变量的期望;
  2. 使用期望的线性性与 LOTUS;
  3. 分解方差、协方差和相关系数;
  4. 运用条件期望、全期望与全方差;
  5. 说明矩母函数何时存在、何时不能使用。

1. 期望是概率加权平均

离散情形:

E[g(X)]=xg(x)pX(x).E[g(X)]=\sum_xg(x)p_X(x).

连续情形:

E[g(X)]=g(x)fX(x)dx.E[g(X)]=\int_{-\infty}^{\infty}g(x)f_X(x)\,dx.

这就是 LOTUS:计算 g(X)g(X) 的期望不必先求 g(X)g(X) 的分布。存在性要求相应绝对矩有限;柯西分布的“对称中心”不能当作有限期望。

期望的线性性不要求独立:

E[aX+bY+c]=aE[X]+bE[Y]+c.E[aX+bY+c]=aE[X]+bE[Y]+c.

独立性在计算乘积期望 E[XY]=E[X]E[Y]E[XY]=E[X]E[Y] 时才关键。

2. 方差度量围绕均值的平方波动

Var(X)=E[(XE[X])2]=E[X2]E[X]2.\operatorname{Var}(X) =E[(X-E[X])^2] =E[X^2]-E[X]^2.Var(aX+b)=a2Var(X).\operatorname{Var}(aX+b)=a^2\operatorname{Var}(X).

对和:

Var(X+Y)=Var(X)+Var(Y)+2Cov(X,Y).\operatorname{Var}(X+Y) =\operatorname{Var}(X)+\operatorname{Var}(Y) +2\operatorname{Cov}(X,Y).

只有协方差为 0 时方差才直接相加。独立且二阶矩存在会推出零协方差,反向一般不成立。

3. 协方差与相关

Cov(X,Y)=E[(XE[X])(YE[Y])].\operatorname{Cov}(X,Y) =E[(X-E[X])(Y-E[Y])].ρXY=Cov(X,Y)Var(X)Var(Y).\rho_{XY} =\frac{\operatorname{Cov}(X,Y)} {\sqrt{\operatorname{Var}(X)\operatorname{Var}(Y)}}.

相关系数无量纲、位于 [1,1][-1,1],但只度量线性关联。若 XX 关于 0 对称且 Y=X2Y=X^2,常有 Cov(X,Y)=0\operatorname{Cov}(X,Y)=0,二者却完全依赖。

4. 条件期望是随机变量

E[YX]E[Y\mid X]

XX 的函数:观察到不同 XX 会得到不同的条件均值。它是均方误差下预测 YY 的最佳 XX-可测函数。

塔式法则:

E[E[YX]]=E[Y].E[E[Y\mid X]]=E[Y].

全方差公式:

Var(Y)=E[Var(YX)]+Var(E[YX]).\operatorname{Var}(Y) =E[\operatorname{Var}(Y\mid X)] +\operatorname{Var}(E[Y\mid X]).

第一项是组内波动,第二项是组间均值差异。

5. 可运行案例:保险赔付的组内与组间方差

设 20% 客户属于高风险组。低风险与高风险客户的赔付分别服从均值为 1,000 和 5,000 的指数分布。代码核对全期望和全方差。

Py

Python:全期望与全方差分解

Idle

若只报告总体方差,会看不到风险组构成。反过来,即使组间差异很大,每个组内仍可能有大量不可预测波动。

6. 高阶矩与矩母函数

原点矩 E[Xk]E[X^k] 与中心矩 E[(Xμ)k]E[(X-\mu)^k] 描述形状:

  • 三阶标准化矩对应偏度;
  • 四阶标准化矩与尾部/峰度有关。

矩母函数:

MX(t)=E[etX].M_X(t)=E[e^{tX}].

若它在 t=0t=0 的邻域存在,可通过求导得到各阶矩,并在常见条件下唯一确定分布。对数矩母函数 KX(t)=logMX(t)K_X(t)=\log M_X(t) 的导数给出累积量。

但对数正态等分布的 MGF 在正 tt 处可能发散。不要因为形式上能写 E[etX]E[e^{tX}] 就默认有限。

7. 不等式提供分布无关界

Markov 不等式(X0X\ge0):

P(Xa)E[X]a.P(X\ge a)\le\frac{E[X]}{a}.

Chebyshev 不等式:

P(Xμkσ)1k2.P(|X-\mu|\ge k\sigma)\le\frac1{k^2}.

界通常保守,但只依赖少量矩。它们是大数定律、集中不等式和风险控制的入口。

8. 诊断清单

  • 所需矩是否存在?
  • 单位是否正确:方差单位是原单位平方?
  • 是否把独立性当作期望线性性的条件?
  • 聚合方差是否漏掉协方差项?
  • 相关接近 0 是否仍可能存在非线性关系?
  • 总体异质性是否应使用条件矩分解?

课堂任务

某学校学生成绩来自两类课程:

  • A 类占 70%,均值 75、方差 64;
  • B 类占 30%,均值 85、方差 100。

计算总体均值、组内方差、组间方差与总体方差,并解释“总体方差大”有多少来自课程构成。

核心阅读

  • Ross, A First Course in Probability,期望与条件期望章节。
  • Casella & Berger, Statistical Inference,第 1–2 章。
  • Grimmett & Stirzaker, Probability and Random Processes,条件期望章节。

上一章:随机变量|下一章:常见分布族

Copyright © 2026