04多重共线性

1. 多重共线性

证明
考虑特征向量，不妨设其为单位向量，此时

故

若，则

故

即存在多重共线性。

反过来

显然也有

这里用到了与同零空间的性质。

2. 诊断方法

2.1 方差膨胀因子诊断法

证明
假设已经经过了标准化，此时建立回归模型为

此时

因此

此时

下面考虑求。由于对称性，这里不妨设正好在最后一个，此时

因此

其中

因此

故证毕。

2.2 特征根诊断法

3. 岭估计

证明
令

故证毕。

3.1 一元岭回归表达式

1. 参数估计：
   对于模型 ，一元情况下：
   

2. 偏差：
   

3. 方差：
   

4. 均方误差：
   

5. t 统计量：
   

6. 置信区间：