04常见分布
04常见分布
1. 离散分布
1.1 伯努利分布
设为一次试验成功的概率,记概率分布为期望为方差为特征函数为
Example (两端带有吸收壁的随机游动)
假定质点在时刻时,位于,而在,处各有一个吸收壁,求质点在或在被吸收的概率。
设表示质点在初始位置为,最终被吸收的概率,显然当时,有下面考虑求解该方程即可。
注意到因此
此时若,则从而因此否则设,此时因此从而
1.2 二项分布
设次独立重复的伯努利饰演,成功的概率为,记概率分布为考虑转化为次伯努利试验的和,容易得到期望为方差为特征函数为具有再生性
1.3 多项分布
设次独立重复试验中,有中互斥的结果,概率分别为,且,则概率分布为单个类别满足二项分布,不同类别间的协方差为这是因为因此而从而
1.4 几何分布
在成功概率为的伯努利试验中,设为首次成功的次数,则概率分布为期望为而因此特征函数为
1.5 泊松分布
在独立试验中,表示事件发生的概率,与试验总数有关,若,则当时,有概率分布为这是因为期望为而因此方差为特征函数为具有再生性
2. 连续分布
2.1 均匀分布
若,为有限数,均匀分布记为概率密度函数为分布函数为期望为而因此方差为特征函数为
2.2 正态分布
正态分布记作概率密度函数为期望为,方差为。当,特征函数为由线性变换,得到一般正态分布特征函数
Theorem (正态分布再生性)
若,,且,相互独立,则
Theorem (正态分布阶矩)
若,则
考虑为奇函数时显然为0。注意到故
2.3 多元正态分布
设服从多元正态分布,记作概率密度函数为特征函数为
Theorem (多元正态分布线性变换)
若,设,则
Corollary (标准化)
任何多元正态向量可以通过线性变换为标准多元正态分布
Theorem (多元正态分布的条件分布)
设,,,则其中
Corollary (二元正态分布的条件分布)
设,,,则
Theorem (独立性)
对于多元正态分布,分量间相互独立的充要条件是它们两两不相关(即协方差为0)。
2.4 指数分布
若随机变量服从参数为的指数分布,记作概率密度函数为分布函数为期望为而因此方差为特征函数为
Theorem (指数分布无记忆性)
Theorem (指数分布与泊松过程)
设泊松过程速率为,表示在时间内发送的事件次数,,设表示第个事件发送的时间,,则且相互独立。
首先其次假设,此时考虑考虑数学归纳法,故证毕。
Theorem (指数分布的最小值分布)
设,,且与独立,则
注意到显然可推广至个场景。
2.5 伽马分布
伽马分布记作概率密度函数为期望为,方差为。特征函数为具有再生性,设,,且,相互独立,则
Theorem (线性变换)
若,则
Theorem (与指数分布关系)
Theorem (伽马分布与泊松过程)
设泊松过程速率为,表示在时间内发送的事件次数,,设表示第个事件发送的时间,,则
2.6 贝塔分布
贝塔分布记作概率密度函数为注意到从而期望为方差为
Theorem (与二项分布的关系)
设,的先验分布为试验成功次数为,则
注意到而从而因此
Theorem (与伽马分布的关系)
若,,则
2.7 卡方分布
若,,则期望为,方差为。
Theorem (更一般的卡方分布)
若,为幂等矩阵,且,则
Theorem (卡方分布与正态分布)
若,则
Theorem (卡方分布与伽马分布)
2.8 t 分布
Definition (t分布)
若,,与相互独立,则
2.9 F 分布
Definition (F分布)
若,,与相互独立,则