04常见分布

Lingfeng2025-09-06

04常见分布

1. 离散分布

1.1 伯努利分布

为一次试验成功的概率,记

概率分布为
期望为
方差为
特征函数为

Example (两端带有吸收壁的随机游动)

假定质点在时刻时,位于,而在处各有一个吸收壁,求质点在或在被吸收的概率。

表示质点在初始位置为,最终被吸收的概率,显然

时,有
下面考虑求解该方程即可。

注意到

因此

此时若,则

从而
因此
否则设,此时
因此
从而

1.2 二项分布

次独立重复的伯努利饰演,成功的概率为,记

概率分布为
考虑转化为次伯努利试验的和,容易得到期望为
方差为
特征函数为
具有再生性

1.3 多项分布

次独立重复试验中,有中互斥的结果,概率分别为,且,则

概率分布为
单个类别满足二项分布,不同类别间的协方差为
这是因为
因此
从而

1.4 几何分布

在成功概率为的伯努利试验中,设为首次成功的次数,则

概率分布为
期望为
因此
特征函数为

1.5 泊松分布

在独立试验中,表示事件发生的概率,与试验总数有关,若,则当时,有

概率分布为
这是因为
期望为
因此方差为
特征函数为
具有再生性

2. 连续分布

2.1 均匀分布

为有限数,均匀分布记为

概率密度函数为
分布函数为
期望为
因此方差为
特征函数为

2.2 正态分布

正态分布记作

概率密度函数为
期望为,方差为。当,特征函数为
由线性变换,得到一般正态分布特征函数

Theorem (正态分布再生性)

,且相互独立,则

Theorem (正态分布阶矩)

,则

考虑

为奇函数时显然为0。注意到

2.3 多元正态分布

服从多元正态分布,记作

概率密度函数为
特征函数为

Theorem (多元正态分布线性变换)

,设,则

Corollary (标准化)

任何多元正态向量可以通过线性变换为标准多元正态分布

Theorem (多元正态分布的条件分布)

,则

其中

Corollary (二元正态分布的条件分布)

,则

Theorem (独立性)

对于多元正态分布,分量间​​相互独立​​的​​充要条件​​是它们​​两两不相关​​(即协方差为0)。

2.4 指数分布

若随机变量服从参数为的指数分布,记作

概率密度函数为
分布函数为
期望为
因此方差为
特征函数为

Theorem (指数分布无记忆性)

Theorem (指数分布与泊松过程)

设泊松过程速率为表示在时间内发送的事件次数,,设表示第个事件发送的时间,,则

相互独立。

首先

其次假设,此时
考虑考虑数学归纳法,故证毕。

Theorem (指数分布的最小值分布)

,且独立,则

注意到

显然可推广至个场景。

2.5 伽马分布

伽马分布记作

概率密度函数为
期望为,方差为。特征函数为
具有再生性,设,且相互独立,则

Theorem (线性变换)

,则

Theorem (与指数分布关系)

Theorem (伽马分布与泊松过程)

设泊松过程速率为表示在时间内发送的事件次数,,设表示第个事件发送的时间,,则

2.6 贝塔分布

贝塔分布记作

概率密度函数为
注意到
从而期望为
方差为

Theorem (与二项分布的关系)

的先验分布为

试验成功次数为,则

注意到

从而
因此

Theorem (与伽马分布的关系)

,则

2.7 卡方分布

,则

期望为,方差为

Theorem (更一般的卡方分布)

为幂等矩阵,且,则

Theorem (卡方分布与正态分布)

,则

Theorem (卡方分布与伽马分布)

2.8 t 分布

Definition (t分布)

相互独立,则

2.9 F 分布

Definition (F分布)

相互独立,则

Last Updated 9/7/2025, 4:44:59 PM