第二章:随机变量与分布

统一理解 PMF、PDF、CDF、分位数、联合分布、条件分布与变量变换。

第二章:随机变量与分布

案例: 若位置 XX[1,1][-1,1] 上均匀,距离平方 Y=X2Y=X^2 仍然均匀吗?

随机变量是从样本空间到数轴的函数。分布描述它把概率质量放在数轴何处。

学习目标

你应能:

  1. 区分离散、连续与混合随机变量;
  2. 在 PMF、PDF 与 CDF 之间转换;
  3. 计算分位数与尾概率;
  4. 使用联合、边际和条件分布;
  5. 对单调与多对一变换求分布。

1. CDF 是统一语言

FX(x)=P(Xx).F_X(x)=P(X\le x).

任何 CDF 都满足:

  • 单调不减;
  • 右连续;
  • FX()=0,  FX()=1F_X(-\infty)=0,\;F_X(\infty)=1

离散变量用概率质量函数

pX(x)=P(X=x),xpX(x)=1.p_X(x)=P(X=x), \qquad \sum_xp_X(x)=1.

绝对连续变量用密度

FX(x)=xfX(t)dt,P(a<Xb)=abfX(t)dt.F_X(x)=\int_{-\infty}^xf_X(t)\,dt, \qquad P(a<X\le b)=\int_a^bf_X(t)\,dt.

密度值可以大于 1;只有积分后的概率必须位于 [0,1][0,1]。连续变量在单点的概率为 0,不表示该数值“不可能出现”。

2. 分位数反转 CDF

广义 qq 分位数:

Q(q)=inf{x:FX(x)q}.Q(q)=\inf\{x:F_X(x)\ge q\}.

中位数是 Q(0.5)Q(0.5)。离散分布可能没有满足 F(x)=qF(x)=q 的精确点,因此使用“首次达到”定义。

尾概率最好用补集:

P(X>x)=1FX(x),P(X>x)=1-F_X(x),

但离散情形要小心 P(Xx)P(X\ge x)P(X>x)P(X>x) 相差 P(X=x)P(X=x)

3. 联合、边际与条件分布

联合 CDF:

FX,Y(x,y)=P(Xx,Yy).F_{X,Y}(x,y)=P(X\le x,Y\le y).

连续情形中,从联合密度积分得到边际:

fX(x)=fX,Y(x,y)dy.f_X(x)=\int f_{X,Y}(x,y)\,dy.

条件密度:

fYX(yx)=fX,Y(x,y)fX(x),fX(x)>0.f_{Y\mid X}(y\mid x)=\frac{f_{X,Y}(x,y)}{f_X(x)}, \qquad f_X(x)>0.

fX,Y(x,y)=fX(x)fY(y),f_{X,Y}(x,y)=f_X(x)f_Y(y),

X,YX,Y 独立。零协方差比独立弱,除特殊分布族外不能互换。

4. 变量变换

Y=g(X)Y=g(X) 严格单调、可微:

fY(y)=fX(g1(y))ddyg1(y).f_Y(y) =f_X(g^{-1}(y)) \left|\frac{d}{dy}g^{-1}(y)\right|.

绝对值来自长度伸缩。若变换不是一一对应,要把所有原像贡献相加。

Y=X2Y=X^2,一个 y>0y>0 通常对应 x=yx=\sqrt yx=yx=-\sqrt y 两个原像,不能只取一个分支。

5. 可运行案例:均匀变量平方后为何不均匀

XU[1,1]X\sim U[-1,1],则对 0y10\le y\le1

FY(y)=P(X2y)=P(yXy)=y.F_Y(y)=P(X^2\le y)=P(-\sqrt y\le X\le\sqrt y)=\sqrt y.

因此 fY(y)=1/(2y)f_Y(y)=1/(2\sqrt y),概率更集中在 0 附近。

Py

Python:多对一变量变换与 CDF

Idle

直方图的高峰不是概率在 0 点堆积;P(Y=0)=0P(Y=0)=0。它表示靠近 0 的短区间拥有较高概率密度。

6. 变换题的稳定步骤

  1. 写出 YY 的支持集;
  2. 用事件 g(X)yg(X)\le y 求 CDF;
  3. 分段处理不同 yy
  4. 若可微,再求导得到 PDF;
  5. 检查非负与积分为 1;
  6. 用模拟检查分位数或矩。

CDF 法对多对一、非单调和离散—连续混合变换最稳健。

7. 常见误区

  • 把 PDF 的高度当作单点概率;
  • 忘记支持集,导致密度积分不为 1;
  • 变量变换漏掉雅可比绝对值;
  • 多对一映射只保留一个根;
  • 用零相关推断独立;
  • 对离散变量把 >>\ge 混用。

课堂任务

XU(0,1)X\sim U(0,1),分别研究:

  1. Y=logXY=-\log X 的 CDF 与 PDF;
  2. Z=min(X,1X)Z=\min(X,1-X) 的支持集;
  3. 用模拟检查 YY 是否服从指数分布;
  4. 解释 XXX2X^2 为何显然不独立。

核心阅读

  • Casella & Berger, Statistical Inference,随机变量与变换章节。
  • Ross, A First Course in Probability,随机变量章节。
  • Blitzstein & Hwang, Stat 110 Notes

上一章:概率论基础|下一章:数字特征与矩

Copyright © 2026