06重抽样算法

Lingfeng2025-05-21

06重抽样算法

1. Bootstrap 估计

1.1 估计量偏差的 Bootstrap 估计

Definition (估计量偏差的 Bootstrap 估计)

  1. 从样本中有放回地产生数据,得到的估计并记为
  2. 重复上述步骤次,相应估计分别记为,以及基于样本得到估计
  3. 计算偏差的 Bootstrap 估计
    此时经偏差修正的参数的估计量为

Theorem (样本方差偏差的 Bootstrap 估计)

假设来自方差为的分布,则估计为

请计算,并判断是否为无偏估计。

由定义

注意到对于,满足
从而
因此
最后得到

Example (样本无偏方差的 Bootstrap 估计)

考虑估计为

计算

考虑

从而
因此

1.2 估计量标准差的 Bootstrap 估计

Definition (估计量标准差的 Bootstrap 估计)

  1. 从样本中有放回地产生数据,得到的估计并记为
  2. 重复上述步骤次,相应估计分别记为
  3. 计算
    此时的标准差估计为

Example (样本均值标准差的 Bootstrap 估计)

是来自均值为,方差为的分布,考虑估计

注意到

因此
从而

1.3 基于 Bootstrap 法的置信区间估计

Definition (基于 Bootstrap 法的置信区间估计)

  1. 从样本中有放回地产生数据得到的的估计,记为
  2. 从所得样本中再抽样次,得到的标准差,计算
  3. 重复上述步骤次,相应得到,用表示第次序统计量,则
    因此置信区间为

2. Jackknife 估计

2.1 估计量偏差的 Jackknife 估计

Definition (估计量偏差的 Jackknife 估计)

Example (样本方差偏差的 Jackknife 估计)

考虑

计算

考虑

因此

2.2 估计量标准差的 Jackknife 估计

Definition (估计量标准差的 Jackknife 估计)

Definition (样本均值标准差的 Jackknife 估计)

设总体均值为,方差为,考虑估计

计算

注意到

2.3 Jackknife-after-Bootstrap 估计

Definition (Jackknife-after-Bootstrap 估计)

  1. 固定,从观测数据中有放回地产生数据,基于此样本得到的估计为
  2. 重复上述步骤次,相应估计分别记为
  3. 计算。基于,得到的标准差的 Bootstrap 估计为
  4. 对于,重复上述步骤,得到,则的标准差的 Jackknife 估计为
Last Updated 6/1/2025, 8:16:43 AM