高斯—牛顿迭代法.doc

高斯牛顿法
高斯—HYPERLINK"http://baike.baidu.com/view/643093.htm"牛顿迭代法的基本思想是使用HYPERLINK"http://baike.baidu.com/view/400903.htm"泰勒级数展开式去近似地代替HYPERLINK"http://baike.baidu.com/view/1159484.htm"非线性回归模型，然后通过多次迭代，多次修正HYPERLINK"http://baike.baidu.com/view/634987.htm"回归系数，使回归系数不断逼近HYPERLINK"http://baike.baidu.com/view/1159484.htm"非线性回归模型的最佳回归系数，最后使原模型的HYPERLINK"http://baike.baidu.com/view/1367752.htm"残差平方和达到最小。高斯—牛顿法的一般步骤为：
(1)初始值的选择。其方法有三种，一是根据以往的经验选定初始值；二是用分段法求出初始值；三是对于可HYPERLINK"http://baike.baidu.com/view/2048311.htm"线性化的HYPERLINK"http://baike.baidu.com/view/1159484.htm"非线性回归模型，通过HYPERLINK"http://baike.baidu.com/view/325734.htm"线性变换，然后施行最小平方法求出初始值。
(2)HYPERLINK"http://baike.baidu.com/view/400903.htm"泰勒级数展开式。设HYPERLINK"http://baike.baidu.com/view/1159484.htm"非线性回归模型为：
i=1,2,…,n(3-68)
其中r为待估HYPERLINK"http://baike.baidu.com/view/634987.htm"回归系数，误差项～N(0,)，设：
，为待估HYPERLINK"http://baike.baidu.com/view/634987.htm"回归系数的初始值，将(3-68)式在g点附近作泰勒展开，并略去HYPERLINK"http://baike.baidu.com/view/1159484.htm"非线性回归模型的二阶及二阶以上的偏导数项，得
(3-69)
将(3-69)式代入(3-68)式，则
HYPERLINK"http://baike.baidu.com/view/561697.htm"移项：
令：
则：i=1,2，…，n
用矩阵形式表示，上式则为：(3-70)
其中：
(3)估计修正因子。用最小平方法对(3-70)式估计修正因子B，
则：(3-71)
设g为第一次迭代值，则：
(4)精确度的检验。设HYPERLINK"http://baike.baidu.com/view/1367752.htm"残差平方和为：
，S为重复迭代次数，对于给定的HYPERLINK"http://baike.baidu.com/view/693070.htm"允许误差率K，当时，则停止迭代；否则，对(3-71)式作下一次迭代。
(5)重复迭代。重复(3-71)式，当重复迭代S次时，则有：
修正因子：
第(S+1)次迭代值：
四、应用举例
设12个同类企业的月产量与单位成本的资料如下表：
表3-9间接代换法计算表
企业编号单位产品成本（元）月产量1
2
3
4
5
6
7
8
9
10
11
12160
151
114
128
85
91
75
76
66
60
61
6010
16
20
25
31
36
40
45
51
56
60
65(注：资料来源《社会经济统计学原理教科书》)
试配合适当的HYPERLINK"http://baike.baidu.com/view/962884.htm"回归模型分析月产量与单位产品成本之间的关系。
解：(1)HYPERLINK"http://baike.baidu.com/view/962884.htm"回归模型与初始值的选择。根据资料HYPERLINK"http://baike.baidu.com/view/1323662.htm"散点图的识别，本数据应配合HYPERLINK"http://baike.baidu.com/view/200018.htm"指数模型：
对HYPERLINK"http://baike.baidu.com/view/200018.htm"指数模型两边取HYPERLINK"http://baike