Logistic 回归模型.ppt

Logistic回归模型教学内容一、Logistic回归模型的由来与形式二分因变量与最小二乘法标准的线性回归假定Gauss-Markov假设最小二乘法（LS）的性质二分因变量与线性概率模型（LPM）1期望E（X）的计算二分因变量与线性概率模型（LPM）2线性概率模型残差的方差二分因变量的线性概率模型的问题二分因变量时的线性概率模型我们的任务成长曲线S形与累积分布函数（CDF）Logistic函数用于二分因变量分析的理论依据理论依据1理论依据2理论依据3理论依据4Logistic回归模型1Logistic回归模型2事件不发生时的模型OddsLogit变换多元（重）Logistic回归模型Logit变换的意义但是……二、Logistic回归模型参数的估计CarlFriedrichGauss（1777-1855）RonaldAylmerFisher（1890-1962）似然函数（likelihoodfunction）最大似然估计（MaximumLikelihoodEstimation，MLE）Logistic回归的似然函数Logistic回归的最大似然估计最大似然估计的性质模型估计的样本规模Logistic回归模型估计的假设条件示例：前列腺癌研究Logistic回归的SAS实现1Logistic回归的SAS实现2示例的最简单实现三、Logistic回归模型的评价Logistic回归模型的评价预备知识——χ2检验KarlPearson（1857-1936）χ2分布χ2分布的图形假设检验的开山之作χ2检验拟合优度拟合优度（Goodnessoffit）预备知识——协变类型Pearsonχ2检验预备知识——似然比检验偏差（Deviance）D统计量Pearsonχ2与D的SAS实现Pearsonχ2与D的异同Pearsonχ2与D的样本要求Hosmer-Lemeshow拟合优度指标HL统计量的SAS实现HL统计量的缺点信息测量指标（InformationMessures）AIC，SC与BIC预测准确性类R2（AnalogousR2）类R2的SAS实现预备知识——观测数据对（pairofobservations）次序相关指标（rankcorrelationindex）模型χ2统计模型χ2统计（ModelChi-squareStatistic）四、Logistic回归模型系数的解释Logistic回归的几种表达比数（odds）和比数比（OR）OR与回归系数的关系一个自变量多取值时的OR多个自变量的联合OR使用OR时的一些注意对分类变量虚拟化的SAS实现OR与相对危险度（RR）Logistic回归的预测概率及SAS实现标准偏回归系数及其SAS实现五、Logistic回归模型的假设检验对系数的检验——Waldχ2检验对系数的检验—似然比（LR）检验两者的使用置信区间（ConfidenceInterval,C.I.）C.I.的SAS实现六、Logistic回归模型的建立和变量的选择最优子集最优子集法的SAS实现逐步回归方法逐步回归方法的SAS实现对自变量选择的进一步思考非线性与非加性（Nonlinearity&Nonadditivity）七、Logistic回归模型的回归诊断离散、空单元与完全分离离散（Dispersion）对离散调整的SAS实现空单元（ZeroCellCount）完全分离（CompleteSeparation）Hosmer&Lemeshow的例子1Hosmer&Lemeshow的例子2多重共线性多重（元）共线性（Multicollinearity）多重共线性的征兆多重共线性的检测均方误差（MeanSquaredErrors，MSE）条件数方差膨胀因子容许值多重共线性检测的SAS实现对多重共线性的处理特异值与特殊影响观测异常，影响和杠杆帽子矩阵和杠杆值异常点1异常点2影响点1影响点2影响点3对异常和影响检验的SAS实现八、Logistic回归模型的替代与扩展Logistic回归模型的替代正态分布的概率密度（PDF）和分布函数图形（CDF）正态分布与Logistic函数的CDFProbit回归模型的对数似然函数Probit回归模型的SAS实现1Probit回归模型的SAS实现2Probit回归模型的系数解释Logistic回归模型的扩展条件Logistic回归模型对混杂的调整条件Logistic回归的似然函数1条件Logistic回归的似然函数2条件Logistic回归的似然函数3条件Logistic回归的似然函数4条件Logistic回归的似然函数5条件Logistic回归模型的SAS实现多分类因变量累积Logistic回归模型（CumulativeLogisticRegressionModel）理论依据1理论依据2累积Logisti