多元线性回归模型的参数估计.ppt

多元线性回归模型的参数估计EstimationofMultipleLinearRegressionModel一、多元线性回归模型1、多元线性回归模型的形式多元线性回归模型的一般形式为：多元线性回归模型的矩阵表达式为：2、多元线性回归模型的基本假定二、多元线性回归模型的参数估计1、普通最小二乘估计估计过程的矩阵表示：2、最大或然估计对数或然函数为

参数的最大或然估计

结果与参数的普通最小二乘估计相同3、矩估计(MomentMethod,MM)对每个方程的两边求期望，有：得到一组矩条件

求解这组矩条件，即得到参数估计量
与OLS、ML估计量等价
矩方法是工具变量方法(InstrumentalVariables,IV)和广义矩估计方法(GeneralizedMomentMethod,GMM)的基础
在矩方法中关键是利用了

如果某个解释变量与随机项相关，只要能找到1个工具变量，仍然可以构成一组矩条件。这就是IV。
如果存在＞k+1个变量与随机项不相关，可以构成一组包含＞k+1方程的矩条件。这就是GMM。4、多元回归方程及偏回归系数的含义偏回归系数的含义如下：
1度量着在X2,X3,…,Xk保持不变的情况下，X1每变化1个单位时，Y的均值E(Y)的变化，或者说1给出X1的单位变化对Y均值的“直接”或“净”（不含其他变量）影响。
其他参数的含义与之相同。三、OLS估计量的统计性质四、参数估计量的方差-协方差矩阵和随机误差项2方差的估计1、一个疑问与回答2、参数估计量的方差-协方差3、随机误差项2方差的估计五、样本容量问题⒈最小样本容量2、满足基本要求的样本容量六、多元线性回归模型实例中国消费函数模型中国消费数据表单位：亿元模型估计结果拟合效果多元线性回归模型的统计检验StatisticalTestofMultipleLinearRegressionModel说明一、拟合优度检验TestingtheSimulationLevel1、概念2、总体平方和、残差平方和和回归平方和既然ESS反映样本观测值与估计值偏离的大小，可否直接用它作为拟合优度检验的统计量？
不行
统计量必须是相对量

TSS、ESS、RSS之间的关系
TSS=RSS+ESS

3、一个有趣的现象关键是在TSS=RSS+ESS的推导过程中应用了一组矩条件
4、拟合优度检验统计量：可决系数r2和调整后的可决系数R2调整的可决系数R2在应用软件中，可决系数r2和调整后的可决系数R2的计算是自动完成的

在消费模型中
r2=0.999773
R2=0.999739
二、方程显著性检验TestingtheOverallSignificance1、关于假设检验2、方程的显著性检验3、方程显著性的F检验F检验的思想来自于总离差平方和的分解式：
TSS=ESS+RSS
由于回归平方和ESS是解释变量X联合体对被解释变量Y的线性作用的结果，所以，如果ESS/RSS的比值较大，则X的联合体对Y的解释程度高，可认为总体存在线性关系，反之总体上可能不存在线性关系。
进一步根据数理统计学中的定义，如果构造一个统计量在消费模型中，k=2,n=16,给定α=0.01,查得Ｆ0.01（2,13)=3.80，而Ｆ=28682.51>3.80,所以该线性模型在0.99的水平下显著成立。关于拟合优度检验与方程显著性检验关系的讨论回答前面的问题：R2多大才算通过拟合优度检验？

在消费模型中，R2>0.28→F>3.80→该线性模型在0.99的水平下显著成立。

有许多著名的模型，R2小于0.5，支持了重要的结论，例如收入差距的倒U型规律。

不要片面追求拟合优度。
三、变量显著性检验TestingtheIndividualSignificance1、变量显著性检验2、变量显著性的F检验提出原假设与备择假设：
H0：i=0,H1:i0在消费模型中，

tc=6.412,tgdp=22.00,tcons(-1)=4.188

给定α=0.01,查得t0.005(13)=3.012，所以所有变量都在0.99的水平下显著。
3、在一元线性回归（k=1）中，t检验与F检验是一致的。4、关于检验标准的判断