线性回归的基本思想：双变量模型(1).pptx

线性回归的基本思想：双变量模型2.1回归的含义K．皮尔逊(KarlPearson)证实了加尔顿的普遍回归定律皮尔逊收集过一些家庭群体的1千多名成员的身高记录。他发现，对于一个父亲高的群体，儿辈的平均身高低于他们父辈的身高，而对于一个父亲矮的群体，儿辈的平均身高则高于其父辈的身高。这样就把高的和矮的儿辈一同“回归”到所有男子的平均身高。用加尔顿的话说，这是“回归到中等”。对变量间统计依赖关系的考察主要是通过相关分析(correlationanalysis)和回归分析(regressionanalysis)来完成的：回归的现代解释4.由货币经济学中得知，其他条件不变，通货膨胀率越愈高，人们愿意以货币形式保存的收入比例愈低，对这种关系作一数量分析，将使货币经济学家能够对各种通货膨胀率预测人们愿意以货币形式保存的收入比例。回归分析的基本思想技巧，就是在研究这种变量之间的依从关系的基础上，分析一个叫做应变量的变量，对另一个或多个叫做解释变量的变化的统计依赖性，这种分析的目的，是要在解释变量已知或固定值的基础上，估计和预测应变量的均值。2.1回归的含义图2-1家庭年收入与数学S.A.T分数2.2总体归函数（PRF）：假想一例2.2总体归函数（PRF）：假想一例称i为观察值Yi围绕它的期望值E(Y|Xi)的离差（deviation），是一个不可观测的随机变量，又称为随机干扰项（stochasticdisturbance）或随机误差项（stochasticerror）。2.3总体回归函数的统计或随机设定问题：能从一次抽样中获得总体的近似的信息吗？如果可以，如何从抽样中获得总体的近似信息？2.5样本回归函数样本回归函数的随机形式/样本回归模型：2.5样本回归函数回归分析的主要目的是要通过样本回归函数（模型）SRF尽可能准确地估计总体回归函数（模型）PRF。估计方法有多种，其种最广泛使用的是普通最小二乘法（ordinaryleastsquares,OLS）。为保证参数估计量具有良好的性质，通常对模型提出若干基本假设。2.6“线性”回归的特殊含义2.8参数估计：普通最小二乘法2.8参数估计：普通最小二乘法2.8参数估计：普通最小二乘法对数学S.A.T分数回归结果的解释例2.2奥肯定律(2-24)(2-26)课堂练习（1）确定性关系或函数关系：研究的是确定现象非随机变量间的关系。（2）统计依赖或相关关系：研究的是非确定现象随机变量间的关系。①不线性相关并不意味着不相关；②有相关关系并不意味着一定有因果关系；③回归分析/相关分析研究一个变量对另一个（些）变量的统计依赖关系，但它们并不意味着一定有因果关系。④相关分析对称地对待任何（两个）变量，两个变量都被看作是随机的。回归分析对变量的处理方法存在不对称性，即区分应变量（被解释变量）和自变量（解释变量）：前者是随机变量，后者不是。几个简单的例子阐述回归的基本思想3.一位劳工经济学家也许要研究货币工资变化率对失业率的关系。横坐标为失业率，纵坐标为货币工资变化率建立著名的菲利普斯曲线。这样的分析能使劳工经济学家预测在给定某个失业率下货币工资的平均变化。5.农业经济学家想研究作物(比方说小麦)收成对气温、降雨量、阳光量和施肥量的依赖关系。这种依赖性分析能使他对给定的解释变量的信息预测或预报作物的平均收成。回归并不意味着存在因果关系！2.2总体归函数（PRF）：假想一例2.2总体归函数（PRF）：假想一例总体回归直线—可用函数(PRF)表示2.2总体归函数（PRF）：假想一例例2.1中，个别学生的数学成绩为：2.4随机误差项的性质2.5样本回归函数样本散点图近似于一条直线，画一条直线以尽好地拟合该散点图，由于样本取自总体，可以该线近似地代表总体回归线。该线称为样本回归线（sampleregressionlines,SRL）。注意：2.5样本回归函数2.6“线性”回归的特殊含义2.7从双变量回归到多元线性回归参数的普通最小二乘估计（OLS）2.8参数估计：普通最小二乘法2.9综合应用2.10一些例子例2.3股票价格与利率例2.4美国中等房价与抵押贷款利率（1980-2007）例2.5古董钟与拍卖价格第2章作业