05减少方差的统计方法

Lingfeng2025-04-03

05减少方差的统计方法

1. 估计定积分例子

Example (估计定积分)

考虑定积分

1.1 随机投点法

Definition (随机投点法)

考虑积分是由函数在区间形成的曲边梯形的面积。通过向正方形内随机投点，其中，且相互独立，此时

计算期望有

方差为

Corollary (通用情况)

设，，此时令

其中，此时。将随机投点法应用于，此时

1.2 平均值估计法

Definition (平均值估计法)

考虑，，此时

计算期望有

计算方差有

注意到随机投点法

而由，因此

故平均值估计方差更小。

2. 对偶变量

Definition (对偶变量)

设为样本数据，假设存在对偶变量，，同分布且负相关，此时令

有，。

Lemma (均匀分布对偶变量)

设，令，则与同分布且负相关。

证明

首先

同时

Theorem (对偶变量估计)

设为单调函数，，则与负相关。

证明

设，显然也为单增函数，此时只需证明

注意到

故证毕。

Corollary (对偶变量估计)

设是关于每个自变量单调的函数，相互独立，则

Corollary (对偶变量法推广)

若分布函数逆变换存在，则对的估计，可用

估计降低方差。

3. 控制变量法

Definition (控制变量)

设随机变量，。令为常数，为任意的随机变量，，设

为的控制变量。

考虑

此时

欲使方差最小，只需令

此时

4. 条件期望法

Definition (条件期望法 (Rao-Blackwell 方法))

从中抽取个独立样本值，则平均值估计为

对另外随机变量，令，则

注意到

而

5. 重要抽样法

Definition (重要抽样法)

设，此时考虑

其中为重要抽样的权因子，通常取。

注意到

此时计算

因此需考虑

6. 分层抽样法

Definition (分层抽样法)

对区间用点分成个互不相交的子区间，，。则

注意到

其中。而

Theorem (最优分配)

当样本量为 2 时，最优分配为

7. 随机数重复使用

Definition (随机数重复使用)

如果衡量两种不同估计方法差异的方差，在随机模拟中，就可以考虑用随机数重复使用法降低估计的方差。

如果随机数重复使用，则

如果每种方法使用不同的样本，则变成

ON THIS PAGE