第三章:期望、方差与条件矩
用矩概括分布,并通过全期望、全方差和协方差分解理解异质总体。
第三章:期望、方差与条件矩
案例: 保险赔付的总体波动,来自每类客户内部的随机性,还是高低风险客户之间的差异?
矩把完整分布压缩成可解释的数值。压缩会丢失信息,因此应知道每个矩回答什么、不能回答什么。
学习目标
你应能:
- 计算离散与连续随机变量的期望;
- 使用期望的线性性与 LOTUS;
- 分解方差、协方差和相关系数;
- 运用条件期望、全期望与全方差;
- 说明矩母函数何时存在、何时不能使用。
1. 期望是概率加权平均
离散情形:
连续情形:
这就是 LOTUS:计算 的期望不必先求 的分布。存在性要求相应绝对矩有限;柯西分布的“对称中心”不能当作有限期望。
期望的线性性不要求独立:
独立性在计算乘积期望 时才关键。
2. 方差度量围绕均值的平方波动
对和:
只有协方差为 0 时方差才直接相加。独立且二阶矩存在会推出零协方差,反向一般不成立。
3. 协方差与相关
相关系数无量纲、位于 ,但只度量线性关联。若 关于 0 对称且 ,常有 ,二者却完全依赖。
4. 条件期望是随机变量
是 的函数:观察到不同 会得到不同的条件均值。它是均方误差下预测 的最佳 -可测函数。
塔式法则:
全方差公式:
第一项是组内波动,第二项是组间均值差异。
5. 可运行案例:保险赔付的组内与组间方差
设 20% 客户属于高风险组。低风险与高风险客户的赔付分别服从均值为 1,000 和 5,000 的指数分布。代码核对全期望和全方差。
Py
Python:全期望与全方差分解
若只报告总体方差,会看不到风险组构成。反过来,即使组间差异很大,每个组内仍可能有大量不可预测波动。
6. 高阶矩与矩母函数
原点矩 与中心矩 描述形状:
- 三阶标准化矩对应偏度;
- 四阶标准化矩与尾部/峰度有关。
矩母函数:
若它在 的邻域存在,可通过求导得到各阶矩,并在常见条件下唯一确定分布。对数矩母函数 的导数给出累积量。
但对数正态等分布的 MGF 在正 处可能发散。不要因为形式上能写 就默认有限。
7. 不等式提供分布无关界
Markov 不等式():
Chebyshev 不等式:
界通常保守,但只依赖少量矩。它们是大数定律、集中不等式和风险控制的入口。
8. 诊断清单
- 所需矩是否存在?
- 单位是否正确:方差单位是原单位平方?
- 是否把独立性当作期望线性性的条件?
- 聚合方差是否漏掉协方差项?
- 相关接近 0 是否仍可能存在非线性关系?
- 总体异质性是否应使用条件矩分解?
课堂任务
某学校学生成绩来自两类课程:
- A 类占 70%,均值 75、方差 64;
- B 类占 30%,均值 85、方差 100。
计算总体均值、组内方差、组间方差与总体方差,并解释“总体方差大”有多少来自课程构成。
核心阅读
- Ross, A First Course in Probability,期望与条件期望章节。
- Casella & Berger, Statistical Inference,第 1–2 章。
- Grimmett & Stirzaker, Probability and Random Processes,条件期望章节。