经典线性回归模型.pdf

2经典线性回归模型§2.1概念与记号1．线性回归模型是用来描述一个特定变量y与其它一些变量x，…，x之间的关系。1p2．称特定变量y为因变量（dependentvariable）、被解释变量（explainedvariable）、响应变量（responsevariable）、被预测变量（predictedvariable）、回归子（regressand）。3．称与特定变量相关的其它一些变量x，…，x为自变量（independentvariable）、1p解释变量（explanatoryvariable）、控制变量（controlvariable）、预测变量（predictorvariable）、回归量（regressor）、协变量（covariate）。4．假定我们观测到上述这些变量的n组值：(y,x,L,x)(i=1，…，n)。称ii1ip这n组值为样本（sample）或数据（data）。§2.2经典线性回归模型的假定假定2.1（线性性(linearity)）y=b+bx+L+bx+e(i=1，…，n)。（2.1）i01i1pipi称方程（2.1）为因变量y对自变量x，…，x的线性回归方程（linearregression1pequation），其中b(k=0，1,L,p)是待估的未知参数（unknownparameters），ke(i=1,L,n)是满足一定限制条件的无法观测的误差项（unobservederrorterm）。称自i变量的函数b+bx+L+bx为回归函数（regressionfunction）或简称为回归01i1pip（regression）。称b为回归的截距(ntercept)，称b(k=1,L,p)为自变量的回归系数0k（regressioncoefficients）。某个自变量的回归系数表示在其它条件保持不变的情况下，这个自变量变化一个单位对因变量的影响程度，这个影响是在排除其它自变量的影响后，这个自变量对因变量的偏效应。下面引入线性回归方程的矩阵表示。记()b=b,b,L,bT（未知系数向量（unknowncoefficientvector））01p~()x=x,L,xT，x=(1,x,L,x)T，则ii1ipii1ipy=xTb+e(i=1，…，n)。iii又记æ1xLxöæyöæeöç111p÷ç1÷ç1÷X=çMMLM÷，Y=çM÷，e=çM÷，则ç÷1xLxçy÷çe÷èn1npøènøènøY=Xb+e假定2.2（严格外生性(strictlyexogeneity)）E(e|~x,L,~x)=E(e|x,L,x,L,x,L,x)=0(i=1，…，n)。i1ni111pn1np严格外生性的含义·误差项的无条件期望为零E(e)=0(i=1，…，n)。i·正交条件（orthogonalityconditions）æE(xe)öçj1i÷E(~xe)=çM÷=0(i=1，…，n;j=1，…，n)。jiçE(xe)÷èjpiø·不相关条件（zero­correlationconditions）cov(e,x)=0(对所有i，j，k)。ijk由以上严格外生性的含义可知，如果在时间序列数据中存在的滞后效应（laggedeffect）和反馈效应（feetbackeffect），那么严格外生性条件就不成立。因而，在严格外生性假定下推出的性质就不能用于这类时间序列数据。滞后效应是指自变量历史值对因变量当前值的影响，反馈效应是指因变量当前值对自变量未来值的影响。假定2.3（无多重共线性(nomulticollinearity)）n×(p+1)矩阵X的秩为(p+1)的概率为1。假定2.4（球面误差方差(sphericalerrorvariance)）~~Var(e|x,L,x)=s2I1nn·条件同方差（conditionalhomoskedasticity）(~~)Ee2|x,L,x=s2>0(i=1，…，n)。（误差方差）i1n·误差项不相关(nocorrelationbetweenerrorterm)E(ee|~x,L,~x)=0(对所有i≠j)ij1n在经典线性回归模型的四个假定中，假定2.1和假定2.3是必不可少的，但假定2.2和假定2.4中的严格外生性、条件同方差和误差项不相关以后可以适当放宽。§2.3随机样本的经典线性回归模型(~)若样本y,xT(i=1，…，n)为IID，那么假定2.2和假定2.4可简化为ii假定2.2:E(e|~x)=0(i=1，…，n)ii(~)假定2.4：Ee2|x=s2>0(i=1，…，n)ii§2.4确定性自变量的经典线性回归模型若更进一步假定自变量x，…，x为确定性的变量，那么假定2.2和假定2.4可1p进一步简化为假定2.2：E(e)=0(i=1，…，n)i假定2.4：