02-1泊松过程

Lingfeng2024-09-14

02-1泊松过程

1. 独立增量过程

Definition (独立增量过程)

如果对于任意 $t_{1},t_{2},\dots,t_{n}\in T$ ， $t_{1}<t_{2}<\dots<t_{n}$ ，随机变量 $X(t_{2})-X(t_{1})$ ， $X(t_{3})-X(t_{2})$ ， $\dots$ ， $X(t_{n})-X(t_{n-1})$ 是相互独立的，则称 $\{ X(t), t \in T \}$ 是独立增量过程。
如果对于任意 $t_{1}$ ， $t_{2}$ ，有 $X(t_{1}+h)-X(t_{1})\stackrel{ d }{=}X(t_{2}+h)-X(t_{2})$ ，则称 $\{ X(t) ,t\in T \}$ 是平稳增量过程。

Theorem (平稳增量的充分必要条件)

设 $\{ X(t) , t\geq 0 \}$ 是一个独立增量过程，则 $X(t)$ 具有平稳增量的充分必要条件为：其特征函数具有可乘性，即

\psi_{X(t+s)}(a)=\psi_{X(t)}(a)\psi_{X(s)}(a)

2. 泊松过程

Definition (泊松过程Poisson Process)

如果计数过程 $\{ N(t),t\geq 0 \}$ 满足以下条件：

$N(0)=0$
$N(t)$ 有独立增量性
在长度为 $t$ 的时间内发生的次数服从泊松分布，参数为 $\lambda t$ ，即对任意的 $s,t>0$ ，有 $P\{ N(t+s)-N(s)=n \}= \frac{(\lambda t)^{n}}{n!}e^{-\lambda t}$
则称 $N(t)$ 为强度参数为 $\lambda>0$ 的泊松过程。

其矩母函数为

\begin{align*} \psi(u) & = E(e^{uX}) \\ & = \sum_{n = 0}^{\infty} e^{un} \frac{\lambda^{n}}{n!}e^{-\lambda} \\ & = e^{-\lambda}\sum_{n = 0}^{\infty} \frac{(\lambda e^{u})^{n}}{n!} \\ & = e^{-\lambda }e^{\lambda e^{u}} \\ & = e^{\lambda(e^{u}-1)} \end{align*}

对其求导有

\begin{align*} \psi'(u) & = \lambda e^{u}e^{\lambda(e^{u}-1)} \\ \psi''(u) & = (\lambda e^{u})^{2}e^{\lambda(e^{u}-1)}+ \lambda e^{u}e^{\lambda(e^{u}-1)} \end{align*}

因此

\begin{align*} E(X) & = \psi'(0)=\lambda \\ E(X^{2}) & = \psi''(0)= \lambda^{2}+\lambda \\ Var(X) & = E(X^{2})-E^{2}(X)=\lambda \end{align*}

Definition (泊松过程等价定义)

计数过程 $\{ N(t),t\geq0 \}$ 称为泊松过程，参数为 $\lambda>0$ ，如果

$N(0)=0$
过程有平稳增量性和独立增量性
$P\{ N(t+h)-N(t)=1 \}=\lambda h+o(h)$
$P\{ N(t+h)-N(t)\geq 2 \}=o(h)$

证明
$\implies$ 的证明是显然的。注意到

\begin{align*} P\{ N(t+h)-N(t)=1 \} & = \frac{\lambda h}{1!}e^{-\lambda h} \\ & = \lambda h(1-\lambda h+o(h)) \\ & = \lambda h+o(h) \end{align*}

同时

\begin{align*} P\{ N(t+h)-N(t)\geq2 \} & = 1- \sum_{n = 0}^{1} \frac{(\lambda h)^{n}}{n!}e^{-\lambda h} \\ & = 1-e^{-\lambda h}(1+\lambda h) \\ & = 1-(1-\lambda h+o(h))(1+\lambda h) \\ & = o(h) \end{align*}

因此，下面只需要考虑反方向证明，这里给出2种方法。

法一
直接考虑概率递推关系。令 $P_{n}(t)=P\{ N(t)=n \}$ ，条件转化为

P_{1}(h) =\lambda h+o(h)

此时

\begin{align*} P_{n}(t+h) & = P\{ N(t+h)=n \} \\ & = P\{ N(t)=n,N(t+h)-N(t)=0 \} \\ & \quad + P\{ N(t)=n-1,N(t+h)-N(t)=1 \} \\ & \quad + P\{ N(t+h)=n,N(t+h)-N(t)\geq 2 \} \\ & = P_{n}(t)P_{0}(h)+P_{n-1}(t)P_{1}(h)+o(h) \\ & = (1-\lambda h)P_{n}(t)+\lambda hP_{n-1}(t)+o(h) \end{align*}

因此

\frac{P_{n}(t+h)-P_{n}(t)}{h}= -\lambda P_{n}(t)+\lambda P_{n-1}(t)+o(h)

从而

P'_{n}(t)= -\lambda P_{n}(t)+\lambda P_{n-1}(t)

下面只需求出初值

P_{0}(t)

。我们采用类似的办法，注意到

\begin{align*} P_{0}(t+h) & =P\{ N(t+h)=0 \} \\ & = P\{ N(t+h)-N(t)=0,N(t)=0 \} \\ & = P\{ N(t)=0 \}P\{ N(t+h)-N(t)=0 \} \\ & = P_{0}(t)(1-\lambda h+o(h)) \end{align*}

因此

\frac{P_{0}(t+h)-P_{0}(h)}{h}=-\lambda P_{0}(t)+\frac{o(h)}{h}

令

h\to 0

，有

P_{0}'(t)=-\lambda P_{0}(t)

从而根据

P_{0}(0)=1

可得到

P_{0}(t)=e^{-\lambda t}

此时通过递推关系和数学归纳法即可求出

P_{n}(t)

。

法二
考虑 Laplace 变换，只需要求出其变换后表达式与泊松分布相同即可。设 $g(t)=E(e^{-uN(t)})$ ，欲证

g(t)=e^{\lambda t(e^{-u}-1)}

只需证

\frac{g'(t)}{g(t)}=\lambda(e^{-u}-1)

注意到由平稳增量性，有

g(t+h) = g(t)g(h)

此时只需证明

\frac{g(t+h)-g(t)}{h} \cdot \frac{1}{g(t)}= \frac{g(h)-1}{h} \to \lambda(e^{-u}-1)

即证

g(h)=\lambda h(e^{-u}-1)+1+o(h)

而

\begin{align*} g(h) & =E(e^{-uN(h)}) \\ & = (1-\lambda h+o(h))+(\lambda h+o(h))e^{-u }+o(h) \\ & = 1-\lambda h +\lambda he^{-u}+o(h) \end{align*}

故证毕。

Example (泊松过程的随机稀疏)

设事件 $A$ 形成强度为 $\lambda$ 的泊松过程 $\{ N(t),t\geq0 \}$ ，如果每次事件发生时以概率 $p$ 记录下来，设 $M(t)$ 为到 $t$ 时刻被记录下来的事件总数，则 $\{ M(t),t\geq 0 \}$ 时一个强度为 $\lambda p$ 的泊松过程，即

P\{ M(t)=m \}= \frac{(\lambda pt)^{m}}{m!}e^{-\lambda pt}

证明
对于复合随机变量，使用全概率公式。注意到

\begin{align*} P\{ M(t)=m \} & = \sum_{n = 0}^{\infty} P\{ M(t)=m\mid N(t)=n+m \}P\{ N(t)=n+m \} \\ & = \sum_{n = 0}^{\infty} \frac{(n+m)!}{n!m!} p^{m}(1-p)^{n} \frac{(\lambda t)^{n+m}}{(n+m)!} e^{-\lambda t} \\ & = \frac{(\lambda pt)^{m}}{m!}e^{-\lambda t}\sum_{n = 0}^{\infty} \frac{(\lambda(1-p)t)^{n}}{n!} \\ & = \frac{(\lambda pt)^{m}}{m!}e^{-\lambda t} e^{\lambda(1-p)t} \\ & = \frac{(\lambda pt)^{m}}{m!}e^{-\lambda pt} \end{align*}

故证毕。

Example (泊松过程的叠加)

设 $\{ N_{i}(t),t\geq 0 \}$ 是速率为 $\lambda_{i}$ ， $i=1,2$ 的独立泊松过程，则 $\{ N(t)=N_{1}(t)+N_{2}(t),t\geq 0 \}$ 是速率为 $\lambda_{1}+\lambda_{2}$ 的泊松过程。

证明
可以考虑矩母函数，注意到

\begin{align*} \psi_{N(t)}(u) & = \psi_{N_{1}(t)+N_{2}(t)}(u) \\ & = \psi_{N_{1}(t)}(u)+\psi_{N_{2}(t)}(u) \\ & = e^{\lambda_{1}t(e^{u}-1)}\cdot e^{\lambda_{2}t(e^{u}-1)} \\ & = e^{(\lambda_{1}+\lambda_{2})t(e^{u}-1)} \end{align*}

故证毕。

3. 与泊松过程相联系的若干分布

3.1 $X_{n}$ 与 $T_{n}$ 的分布

Theorem ( $X_{n}$ 的分布)

第 $n$ 次与第 $n-1$ 次事件发生的时间间隔 $X_{n}$ ， $n=1,2,\dots$ ，服从参数为 $\lambda$ 的指数分布，且相互独立，即

P\{ X_{n}\leq t \}=1-e^{-\lambda t}

证明
首先注意到 $X_{1}$ 的分布，注意到

P\{ X_{1}>t \}=P\{ N(t)=0 \}=e^{-\lambda t}

此时

\begin{align*} P\{ X_{2}>t\mid X_{1}=s \} & = P\{ N(s+t)-N(s)=0\mid N(s)=1,N(u)=0,u<s \} \\ & = P\{ N(s+t)-N(s)=0 \} \\ & = e^{-\lambda t} \\ \end{align*}

同理可得任意两次事件均独立且满足指数分布。

Theorem ( $T_{n}$ 的分布)

第 $n$ 次事件发生的时刻 $T_{n}$ ， $n=1,2,\dots$ ，服从参数为 $n$ 和 $\lambda$ 的伽马分布。

证明
注意到 $T_{n}=\sum_{i = 1}^{n}X_{i}$ ，而 $X_{i}\sim \exp(\lambda)=Ga(1,\lambda)$ ，因此 $T_{n}\sim Ga(n,\lambda)$ 。

Corollary (泊松分布的再一种定义)

计数过程 $\{ N(t),t\geq 0 \}$ 是参数为 $\lambda$ 的泊松过程，如果每次事件发生的时间间隔 $X_{i}$ 相互独立，且服从同一参数 $\lambda$ 的指数分布。

3.2 $T_{n}$ 的条件分布

Theorem ( $T_{n}$ 的条件分布)

在已知 $N(t)=n$ 的条件下，事件发生的 $n$ 个时刻 $T_{1},T_{2},\dots,T_{n}$ 的联合密度函数为

f(t_{1},t_{2},\dots,t_{n})=\frac{n!}{t^{n}},\quad0<t_{1}<t_{2}<\dots<t_{n}<t

证明
设 $0<t_{1}<t_{2}<\dots<t_{n}<t_{n+1}=t$ ，取 $h_{i}$ 充分小使得 $t_{i}+h_{i}<t_{i+1}$ ，此时

\begin{align*} & P\{ t_{i}<T_{i}\leq t_{i}+h_{i},i=1,2,\dots,n\mid N(t)=n \} \\ & = \frac{P\{ N(t_{i}+h_{i})-N(t_{i})=1,N(t_{i+1})-N(t_{i}+h_{i})=0,1\leq i\leq n,N(t_{1})=0 \}}{P\{ N(t)=n \}} \\ & = \frac{e^{-\lambda(t-h_{1}-h_{2}-\dots-h_{n})}\prod_{i=1}^{n}\lambda h_{i}e^{-\lambda h_{i}}}{\frac{(\lambda t)^{n}}{n!}e^{-\lambda t}} \\ & = \frac{n!}{t^{n}}h_{1}h_{2}\dots h_{n} \end{align*}

因此

\begin{align*} f(t_{1},\dots,t_{n}) & = \frac{ \partial^{n } }{ \partial h_{1}h_{2}\dots h_{n} } P\{ t_{i}<T_{i}\leq t_{i}+h_{i},i=1,2,\dots,n\mid N(t)=n \} \\ & = \frac{n!}{t^{n}} \end{align*}

Corollary (同分布性质)

在已知 $N(t)=n$ 的条件下， $T_{n}$ 与 $(0,t]$ 上的均匀分布的次序统计量同分布，即

T_{n}\mid (N(t)=n)\stackrel{ d }{=}U(0,t)_{(i)}

Example (火车等待)

乘客按照强度为 $\lambda$ 的泊松过程来到火车站，火车在时刻 $t$ 启程，计算在 $(0,t]$ 内乘客等待事件的总和的期望，即求

E\left( \sum_{i = 1}^{N(t)} (t-T_{i}) \right)

其中

T_{i}

是第

i

个乘客来到的时刻。

解
考虑

\begin{align*} E\left( \sum_{i = 1}^{N(t)} (t-T_{i}) \mid N(t)=n\right) & = E\left( \sum_{i = 1}^{n} (t-T_{i})\mid N(t)=n \right) \\ & = nt-E\left( \sum_{i = 1}^{n} T_{i}\mid N(t)=n\right) \end{align*}

而注意到

E\left( \sum_{i = 1}^{n} T_{i}\mid N(t)=n\right)= E\left( \sum_{i = 1}^{n} U_{(i)} \right)= E\left( \sum_{i = 1}^{n} U_{i} \right)=\frac{nt}{2}

因此

E\left( \sum_{i = 1}^{N(t)} (t-T_{i}) \mid N(t)=n\right) = \frac{nt}{2}

由全期望公式

\begin{align*} E\left( \sum_{i = 1}^{N(t)} (t-T_{i}) \right) & =E\left( E\left( \sum_{i = 1}^{N(t)} (t-T_{i}) \mid N(t)\right) \right) \\ & =\frac{t}{2}E(N(t)) \\ & = \frac{\lambda t^{2}}{2} \end{align*}

Example (泊松分布的条件稀疏)

若例2.1改为事件在时刻 $s$ 被记录的概率为 $P(s)$ ，则此时再求 $M(t)$ 的分布。

解
前面的过程是类似的

P\{ M(t)=m \} = \sum_{n = 0}^{\infty} P\{ M(t)=m\mid N(t)=n+m \}P\{ N(t)=n+m \} \\

关键在于

\begin{align*} p & =P\{ \text{事件在}[0,t]\text{中发生且被记录}\mid N(t)=n+m \} \\ & = \int _{0}^{t}P(s) \frac{1}{t} \, ds \\ & = \frac{1}{t}\int _{0}^{t}P(s) \, ds \end{align*}

其余完全一致。

02-1泊松过程

02-1泊松过程

1. 独立增量过程

2. 泊松过程

3. 与泊松过程相联系的若干分布

3.1 与的分布

3.2 的条件分布

ON THIS PAGE

3.1 $X_{n}$ 与 $T_{n}$ 的分布

3.2 $T_{n}$ 的条件分布