多重共线性的解决之法.doc

第七章
教学目的及要求:教学目的及要求:

多重共线性

1,重点理解多重共线性在经济现象中的表现及产生的原因和后果2,掌握检验和处理多重共线性问题的方法3,学会灵活运用Eviews软件解决多重共线性的实际问题.

第一节
一,多重共线性的含义
1,含义

多重共线性的产生及后果

在多元线性回归模型经典假设中,其重要假定之一是回归模型的解释变量之间不存在线性关系,也就是说,解释变量X1,X2,……,Xk中的任何一个都不能是其他解释变量的线性组合.如果违背这一假定,即线性回归模型中某一个解释变量与其他解释变量间存在线性关系,就称线性回归模型中存在多重共线性.多重共线性违背了解释变量间不相关的古典假设,将给普通最小二乘法带来严重后果.2,类型多重共线性包含完全多重共线性和不完全多重共线性两种类型.(1)完全多重共线性完全多重共线性是指线性回归模型中至少有一个解释变量可以被其他解释变量线性表示,存在严格的线性关系.如对于多元线性回归模型

Yi=β0+β1X1i+β2X2i++βkXki+i
存在不全为零的数λ1,λ2,,λk,使得下式成立:

(7-1)

λ1X1i+λ2X2i++λkXki=0

(7-2)

则可以说解释变量X1,X2,,Xk之间存在完全的线性相关关系,即存在完全多重共线性.从矩阵形式来看,就是X'X=0,即rank(X)<k1,观测值矩阵是降秩的,表明在向量X中至少有一个列向量可以由其他列向量线性表示.(2)不完全多重共线性
1

不完全多重共线性是指线性回归模型中解释变量间存在不严格的线性关系,即近似线性关系.如对于多元线性回归模型(7-1)存在不全为零的数λ1,λ2,,λk,使得下式成立:

λ1X1i+λ2X2i++λkXki+ui=0

(7-3)

其中ui为随机误差项,则可以说解释变量X1,X2,,Xk之间存在不完全多重共线性.随机误差项表明上述线性关系是一种近似的关系式,大体上反映了解释变量间的相关程度.完全多重共线性与完全非线性都是极端情况,一般说来,统计数据中多个解释变量之间多少都存在一定程度的相关性,对多重共线性程度强弱的判断和解决方法是本章讨论的重点.

二,多重共线性产生的原因
多重共线性在经济现象中具有普遍性,其产生的原因很多,一般较常见的有以下几种情况.(一)经济变量间具有相同方向的变化趋势在同一经济发展阶段,一些因素的变化往往同时影响若干经济变量向相同方向变化,从而引起多重共线性.如在经济上升时期,投资,收入,消费,储蓄等经济指标都趋向增长,这些经济变量在引入同一线性回归模型并作为解释变量时,往往存在较严重的多重共线性.(二)经济变量间存在较密切关系由于组成经济系统的各要素之间是相互影响相互制约的,因而在数量关系上也会存在一定联系.如耕地面积与施肥量都会对粮食总产量有一定影响,同时,二者本身存在密切关系.(三)采用滞后变量作为解释变量较易产生多重共线性一般滞后变量与当期变量在经济意义上关联度比较密切,往往会产生多重共线性.如在研究消费规律时,解释变量因素不但要考虑当期收入,还要考虑以往各期收入,而当期收入与滞后收入间存在多重共线性的可能很大.(四)数据收集范围过窄,有时会造成变量间存在多重共线性问题.

三,多重共线性产生的后果
由前述可知,多重共线性分完全多重共线性和不完全多重共线性两种情况,两种情况都会对模型进行最小二乘估计都会产生严重后果.

2

(一)完全多重共线性产生的后果以二元线性回归模型为例,

Yi=β0+β1X1i+β2X2i+ui

(7-4)

以离差形式表示,假设其中yi=YiY,x1i=X1iX1,x2i=X2iX2,X1i=λX2i,常数λ≠0,则,x1i=λx2i,β1的最小二乘估计量为

β1=

∑x∑xy∑xx∑x∑x∑x(∑xx)
22i1ii1i2i21i22i21i2i

2i

yi

λ∑x2i∑x2iyiλ∑x2i∑x2iyi022==2222λ(∑x2i)λ(∑x2i)202
同理得到:

(7-5)

β2=

00

(7-6)

可见参数估计值β1和β2无法确定.
再考察参数估计量的方差,由前面章节可知:

varβ1=

()
^

∑x

21i

∑x(∑x1ix2i)
22i

∑x

22i

2

2σu

(7-7)

将x1i=λx2i代入上式,则

σu2∑x2i2var(β)=22221λ(∑x2i)λ(∑x2i)22
=∞

(7-8)

说明此种情况下β1方差为无穷大.同理可以证明β2的方差在完全共线性下也为无穷大.
以上分析表明,在完全多重共线性条件下,普通最小二乘法估计的参数值不能确定,并且估计值的方差为无穷大.(二)不完全多重共线性产生的后果

假设上述二元线性回归模型中解释