概率论与数理统计

从概率模型、随机变量与极限定理进入区间估计、点估计、假设检验和 Bootstrap 的本科—研究生课程。

概率论与数理统计

这组笔记按照本科“概率论与数理统计”两学期或一学期加强版课程来组织。前半部分建立随机现象的数学模型，后半部分讨论如何用样本数据估计参数、检验假设并评估不确定性。

如果你已经学过微积分、线性代数，并能读懂基本的 Python 或 R 代码，可以直接从第零章开始。每章都尽量同时回答三个问题：概念是什么，公式为什么成立，以及怎样用模拟或真实数据检查它。

课程定位与学习成果

概率论负责描述不确定性，数理统计负责从有限数据反推未知总体。本课程把二者组织为一条连续链：先定义随机对象和概率模型，再研究统计量的抽样分布，最后构造估计、区间和检验并评价其可靠性。

完成课程后，你应能够：

用样本空间、条件概率、随机变量和联合分布建立随机模型；
推导期望、方差、条件期望和常见分布的重要性质；
区分几乎处处、概率、分布和均方收敛，并使用 LLN、CLT 与 Delta 方法；
从枢轴量、渐近正态、似然或 Bootstrap 构造置信区间；
评价估计量的偏差、方差、MSE、一致性、充分性和有效性；
使用矩估计、MLE、贝叶斯方法和 EM 算法解决参数估计问题；
设计假设检验，解释显著性水平、p 值、功效和多重检验；
用可复现模拟检查覆盖率、抽样分布和检验错误，并诚实说明方法边界。

本科生与研究生路径

层级	核心要求	进一步要求
本科生	能建模、计算、解释常见概率与推断问题，并用模拟验证结论。	比较有限样本方法，完成一份可复现计算报告。
研究生	能陈述正则条件、证明关键结果并连接似然与渐近理论。	讨论一致渐近、局部备择、经验过程、稳健性与计算统计。

代码不是证明，但可以检查推导、发现边界情况并训练统计直觉。每个实验都要求先写理论预期，再运行代码，最后解释差异。

从概率模型到统计推断

Rendering diagram…

这张图对应整门课的主线：前半部分回答“随机现象如何建模”，后半部分回答“看到样本以后如何推断总体”。如果做题时不知道该用哪个公式，先判断自己处在图中的哪个节点。

课程结构

模块	章节	核心问题	建议学习重点
导论	第零章：课程简介	这门课学什么，怎样学	预备知识、符号、练习方式
概率论	第一章：概率论基础	如何给事件赋予概率	样本空间、条件概率、独立性、贝叶斯公式
概率论	第二章：随机变量	怎样把随机结果数值化	PMF、PDF、CDF、联合分布
概率论	第三章：数字特征与矩	如何概括一个分布	期望、方差、协方差、矩母函数、条件期望
概率论	第四章：常见分布族	常用概率模型有哪些	二项、泊松、正态、指数、伽马、贝塔
概率论	第五章：渐近理论	样本量变大后会怎样	大数定律、中心极限定理、Delta 方法
数理统计	第六章：抽样分布	统计量本身有什么分布	样本均值、样本方差、卡方、t、F 分布
数理统计	第七章：区间估计	怎样量化参数不确定性	枢轴量、覆盖率、Wilson、似然区间、Bootstrap 区间
数理统计	第八章：点估计理论	什么估计量算好	无偏性、一致性、充分性、Cramér-Rao 下界
数理统计	第九章：点估计方法	怎样构造估计量	矩估计、极大似然、贝叶斯估计、EM 算法
数理统计	第十章：假设检验	怎样作出统计决策	错误类型、功效、Neyman-Pearson 引理、似然比检验
数理统计	第十一章：假设检验方法	常见检验怎样选	t 检验、ANOVA、卡方检验、非参数检验
数理统计	第十二章：Bootstrap 方法	理论分布难求时怎么办	重抽样、置信区间、Bootstrap 检验、Jackknife
前沿统计	第十三章：现代统计案例	预测与持续监测怎样保持有效	保形预测、分布漂移、e-value 与置信序列

学习顺序

建议按章节顺序学习，不要急着跳到统计检验。概率论部分不是“前置材料”，而是后续所有统计推断的语言。

先读第零章，确认预备知识、符号和练习方式。
第 1-2 章解决“随机对象是什么”，要能把文字问题翻译成事件、随机变量和分布。
第 3-5 章解决“随机对象有什么规律”，重点掌握期望、方差、常见分布和极限定理。
第 6 章是概率论到统计学的桥梁，务必理解统计量也是随机变量。
第 7 章先回答区间怎样覆盖未知参数，再在第 8-9 章研究估计量与估计方法。
第 10-11 章学习检验，第 12 章用现代重抽样方法统一不确定性评估。

15 周教学路线

周次	主题	课堂或实验产出
1	概率公理、计数与条件概率	贝叶斯诊断树与 Monty Hall 模拟
2	随机变量、CDF、变换	离散与连续分布对照表
3	联合分布与条件分布	相关不等于独立的反例
4	期望、方差、协方差	全期望与全方差推导
5	常见分布族	为三个现实机制选择概率模型
6	收敛与极限定理	LLN/CLT 覆盖模拟
7	抽样分布	t、卡方、F 的构造图
8	区间估计	正态均值与比例区间覆盖实验
9	估计量性质	偏差—方差—MSE 比较
10	MM、MLE 与贝叶斯估计	同一模型的三种估计
11	检验原理与功效	功效曲线和样本量讨论
12	参数与非参数检验	方法选择审计表
13	Bootstrap 与 Jackknife	百分位、基本和 BCa 区间比较
14	现代不确定性量化	保形覆盖、漂移与随时有效推断实验
15	综合项目	理论推导、Python/R 复现与口头解释

需要的预备知识

领域	至少需要掌握	在课程中的用途
微积分	极限、导数、积分、多重积分	密度函数、期望、极限定理、优化似然函数
线性代数	向量、矩阵、二次型、特征值	协方差矩阵、多元正态、回归和统计量变换
基础编程	数组运算、函数、画图、随机数	模拟概率模型、验证公式、分析样本数据
数学表达	集合、函数、求和、证明思路	阅读定义、定理和推导

怎样练习

学概率统计不能只看公式。每一章都建议按下面的节奏处理：

概念复述：合上笔记，用自己的话解释本章定义，例如“条件概率”和“独立性”的区别。
公式推导：至少手推一遍本章关键公式，不要求记住所有中间步骤，但要知道用了哪些假设。
数值例子：给公式代入简单数字，检查量纲、范围和极端情况是否合理。
模拟验证：运行代码示例，改动样本量、参数或分布，观察结果怎样变化。
题目迁移：把一个例题改成相近场景，例如把二项模型改成泊松近似，把单样本检验改成两样本检验。

自学检查

每学完一章，可以用下面的问题判断是否真正掌握：

能否说清对象：本章讨论的是事件、随机变量、统计量、参数还是检验决策？如果对象说不清，公式通常会套错。
能否写出假设：公式依赖哪些条件，例如独立同分布、正态总体、方差已知、样本量足够大或抽样有代表性？
能否解释结果：计算出的概率、期望、标准误、p 值或置信区间，在原问题中说明了什么，又不能说明什么？
能否做一个小模拟：把参数或样本量改掉，理论结论是否仍然可见？若看不见，是样本太小、假设不满足，还是代码实现错误？

常见学习陷阱是把概率论部分当作公式表，把统计部分当作软件菜单。本笔记的建议路线是：先用文字建模，再写数学表达，最后用计算验证。

网页交互与复现

课程正文中的 Python 与 R fenced blocks 已分别接入项目现有的 Pyodide 和 webR 运行时。点击“运行”即可在浏览器本地执行；显示代码后可以修改随机种子、样本量、分布参数或检验方法。每个教学单元都独立初始化状态，避免读者因跳读章节而遇到隐藏依赖。

核心章节各保留一个最能暴露机制的 NumPy 实验，不以代码数量代替推理；
概率论章节使用模拟检查条件概率、分布变换、矩、分布近似和极限定理；
区间估计比较 t、Wilson、似然与 Bootstrap 区间的覆盖率；
统计推断章节提供抽样分布、稳健估计、贝叶斯收缩、检验功效和 Bootstrap 实验；
现代统计案例比较交换性与漂移下的保形覆盖，并连接 e-process 与置信序列；
Python 核心示例优先使用 NumPy；区间估计页按需使用 SciPy 与 Matplotlib。R 示例使用 base R，不在浏览器中临时安装额外包。

模拟结果是对理论的数值审计，不是数学证明。正式作业应同时保存参数设置、随机种子、代码输出和文字解释。

评估建议

项目	本科要求	研究生扩展
每周问题集	建模、计算与解释	增加证明和边界反例
交互实验	修改参数并解释图表	做覆盖率、功效或一致性 Monte Carlo
期中任务	概率模型与极限定理	加入条件期望与收敛证明
课程项目	一项完整统计推断分析	比较渐近、Bootstrap 与似然方法

具体分值、考试规则和教学时长应由实际开课单位确定，本页面不假设统一制度。

参考教材

主要参考：

Casella & Berger (2002). Statistical Inference
Wasserman (2004). All of Statistics
Ross (2014). A First Course in Probability

补充参考：

Feller (1968). An Introduction to Probability Theory and Its Applications
Lehmann & Casella (1998). Theory of Point Estimation
Efron & Hastie (2016). Computer Age Statistical Inference

开始学习：第零章：课程简介

Edit this pageorReport an issue

Chart.js 可视化

在 VitePress Markdown 中使用 Chart.js 绘制交互式数据图表。

第零章：概率统计的对象与学习方法

用一次质量抽检串起总体、样本、随机变量、统计量、参数和不确定性。