02-2多元线性回归-模型推断

1. 模型推断

1.1 SSR性质

证明
注意到

只需证交叉项为0。注意到

证明
由定义

其中为全为的矩阵，显然有，且，故显然有对称幂等，故

下面只需证

法一
由于

因此与正交。而

因此

对于，有，。此时

因此

故证毕。

法二

此时

注意到秩为1或0，显然有

法三
注意到幂等，因此

注意到

欲证与独立，只需证与独立。而其均满足正态分布，故只需考虑

故证毕。

1.2 F检验

1.3 t检验

1.4 偏F检验

证明
注意到

因此

故只需证明，。

首先考虑证明幂等，注意到

而注意到

故证毕。此时

同时

故证毕。

证明
设

则

从而

这解释了为什么：

1. • 分子 衡量了 的"净效应"与 的相关性
   • 分母 衡量了 的"净效应"的大小
2. • 如果 很小，说明 几乎可以被其他变量线性表示
   • 这会导致方差 很大，即多重共线性问题
3. • 这是 的"净效应"对应的投影矩阵
   • 它反映了 对模型的额外贡献

1.5 置信区间

2. 模型预测

2.1 单点预测

2.2 预测区间