概率论精讲
何书元《概率论》(北京大学出版社)伴读讲义。章节与原书一一对应,补足原书省略的动机、直觉与推导:从古典概型与概率空间公理化,到随机变量、期望方差、特征函数与极限定理、随机过程初步。
古典概型和概率空间
从'数数'的古典概型出发,经过几何概率的裂缝,走到 Kolmogorov 的公理化概率空间;再在公理之上重建加法公式、条件概率、独立性、全概率与贝叶斯公式,最后到 Borel-Cantelli 引理与遗传模型。逐节对照何书元《概率论》第一章。
随机变量和概率分布
把随机试验的结果数值化:从可测性动机引入随机变量,以分布列、概率密度、分布函数三种形态刻画其概率规律;逐一剖析二项、泊松、几何、超几何与均匀、指数、正态、Gamma 八个基本分布的生成机制,最后建立随机变量函数的分布计算方法与分位数理论。逐节对照何书元《概率论》第二章。
随机向量及其分布
把单变量理论推广到多个随机变量的联合行为:联合分布与边缘分布的信息层级、离散与连续型随机向量、独立性的判别、随机向量函数的分布(卷积与雅可比变换)、条件分布与条件密度,以及次序统计量。本章是全书计算技术最密集的一章。
数学期望和方差
从'用少数几个实数概括一个分布'的需求出发,建立数学期望、方差、协方差与相关系数的完整理论:LOTUS 与线性性、示性函数方法、Markov–Chebyshev 不等式、协方差矩阵,直至条件期望与最佳预测、熵。逐节对照何书元《概率论》第四章。
特征函数和概率极限定理
先构造研究独立随机变量之和的两件变换工具——概率母函数与特征函数,继而建立多元正态分布的一般理论,最后证明概率论的两大顶峰定理:大数律与中心极限定理。第一章遗留的'频率趋于概率'悬案在本章了结。逐节对照何书元《概率论》第五章。
随机过程简介
从有限个随机变量到随时间演化的随机变量族:泊松过程(独立增量)、马尔可夫链(一步依赖)与平稳时间序列(相关结构的平移不变)三种基本依赖结构,以及计数—到达—等待的三位一体、K-C 方程与遍历性。逐节对照何书元《概率论》第六章。