第七讲 多元线性回归分析.ppt

路第七讲多元线性回归模型
目的要求:1.掌握多元线性回归模型的概念
2.掌握多元线性回归模型的最小二乘估计
3.掌握多元线性回归模型的最小二乘估计量的统计性质
4.掌握多元线性回归模型的统计检验
5.会用多元线性回归模型分析简单经济问题眼光多元回归分析模型与简单回归的相似点统计学看：
回归分析的基本假设：
此假设在简单回归时不一定成立，但加入新的变量后此假设可能成立
例、

其中教育程度和勤奋是相关的，（2）中的，因而的假设不成立，即使。现实经济问题是复杂的，用一个解释变量去说明往往是不够的。随着解释变量数目的增多，由一元线性回归模型可以引申出多元线性回归模型。我们可以将多元线性回归模型用如下方式表述：
例子1、

例子2、

例子3、第一节二元线性回归模型
一、模型的估计
Y=0+1X1+2X2+u
1.四种关系式:
(1)Yi=0+1X1i+2X2i+ui(真实或总体关系式)(2)E(Yi)=0+1X1i+2X2i(真实或总体回归直线)
(3)Yi=(估计或样本关系式)
(4)(估计或样本回归直线)
随机误差项ui满足通常的五项基本假定，并且各解释变量之间无多重共线性。即两个解释变量之间无确切的线性关系，这是一个新的假定。
2.估计准则:使来确定估计参数

3.OLS估计式的推导
欲使

令

得到正规方程为：

解这个三元一次方程可得到：
离差形式：
由于

两端同乘1/n可得：

所以

又因为

所以

得到正规方程为：

第二节模型的统计检验
我们研究的模型是：Y=0+1X1+2X2+u
1.参数估计值的分布

这里：

将上述方差中的换为计算得：
j=0，1，2

2.变量的显著性检验（t检验）
（1）.构造t统计量由数理统计知识可以证明：
~t（n-3）其中j=0，1，2

（2）.t检验的步骤：
（i）提出提出原假设H0：j=0
备择假设H1：j0j=0，1，2
（ii）计算t统计量
（iii）给定显著性水平，查自由度为n-3的t分布表，得到临界值

（iiii）判断：
（a）若|t|>
则在1-水平下拒绝原假设H0，即j对应的变量xj是显著的；
（b）若|t|<
则在1-水平下接受原假设H0，即，j对应的变量xj是不显著的

（三）给定显著性水平，查自由度为（2，n-3）的F分布表，得到临界值
（四）判断：（i）若F>
则在1-水平下拒绝原假设H0，1、2不同时为0，即模型的线性关系显著成立，模型是显著的；
（ii）若F<则在1-水平下接受原假设H0，即模型的线性关系不是显著成立的，模型是不显著的。4.样本决定系数R2
对两变量模型，同样有：

定义：=为拟合优度的度量
接近1，回归直线拟合样本点好；接近0，回归直线拟合样本点差。
对于回归直线的拟合优度：

存在一个问题：R2的大小与解释变量的个数相关，要想改进R2使其接近1，只需增加解释变量的数目就可以了。

为了消除这种影响，定义修正的样本决定系数：

说明：（1）n很大，k较时，；
（2）在k与n相比较大时，,要考虑修正的样本决定系数。
（3）校正的判定系数即用自由度进行平均，用“单位”拟合误差进行比较，从而提高了可比性。
（4）虽然非校正的判定系数总为正数，但校正的判定系数可能为负数。

我们很容易可以得到调整的R2，(1–R2)(n–1)/(n–k–1),但是大部分的软件会同时给出R2和调整的R2
可以通过比较调整的R2来比较两个模型（同一个y）的拟合程度
但是不能通过调整的R2来比较两个被解释变量不同的模型（如：y与ln(y)）拟合程度5.F与R2的关系

这两个统计量同方向变动。也就是说如果模型对样本有较高的拟合优度，则一般F检验都能通过。

实际应用中不必过分苛求R2值的大小，重要的是考察模型的经济意义是否合理。若n=17k=3n-k-1=13查表可得显著性水平为1％的F统计量=5.74，而R2却只为0.5678。即R2大于0.5678模型线性关系显著的概率就达到99％。

眼光