课件5Matlab软件包与多元回归

Matla

(一)一般多元回归一般在生产实践和科学研究中，人们得到了参数和因变量的数据，需要求出关系式，这时就可以用到回归分析的方法。如果只考虑是线性函数的情形，当自变量只有一个时，即，中时，称为一元线性回归，当自变量有多个时，即，中时，称为多元线性回归。进行线性回归时，有4个基本假定：待定参数(系数)是线性关系；残差是独立的；残差满足正态分布。残差满足方差奇性(所谓方差齐性指的就是我们要比较的几组数据是独立的、且服从同方差的正态分布)；在Matla

(1)一般说来，值越大越好。

(2)人们一般用以下统计量对回归方程做显著性检验：F_检验、t_检验、以及相关系数检验法。Matla

(3)与显著性概率相关的值应该满足。如果，则说明回归方程中有多余的自变量，可以将这些多余的自变量从回归方程中剔除(见下面逐步回归的内容)。这几个技术指标说明拟合程度的好坏。这几个指标都好，就说明回归方程是有意义的。例1(Hamilton，1987)数据如下：序号Y_1_21

1.23

7.223

9.

6.6212

6.625

7.8

9.431200

3.8.7440

4.11

9.3310

6.64

5.110

6.33

9.491

6.130

3.2

8.3852

7.131

3.30

2.804

8.11

4.421

3.905

9.12

8.630

4.77110

10.

8.432

6.51111

1.1

3.3

9.5051

2.115

6.23

5.85113

10.

8.32

7.66591

4.12

6.3390

4.901

5.124

6.31

6.696第一步分析数据在Matla

2.23,

2.57,

3.87,

3.10,

3.39,

2.83,

3.02,

2.14,

3.04,

3.26,

3.39,

2.35,

2.76,

3.90,

3.16;_2=

9.66,

8.94,

4.40,

6.64,

4.91,

8.52,

8.04,

9.05,

7.71,

5.11,

5.05,

8.51,

6.59,

4.90,

6.96;y=

1.237,

1.266,

1.200,

1.193,

1.106,

1.303,

1.313,

1.144,

1.286,

10.84,

1.120,

1.156,

10.83,

1.263,

1.246;corrcoef(_1,y)corrcoef(_2,y)plot3(_1,_2,y,)得到结果：ans=

1.00000.00250.002

5.10000ans=

1.00000.43410.43

4.110000即，corrcoef(_1,y)0.0025，corrcoef(_2,y)0.4341，说明没有非常明显的单变量线性关系。图形如下：也看不出有线性关系，但是，旋转图形，可以看出所有点几乎在一个平面上。这说明，在一个平面上，满足线性关系：或者，换成一个常见的形式其中，是残差。于是，在Matla

2.23,

2.57,

3.87,

3.10,

3.39,

2.83,

3.02,

2.14,

3.04,

3.26,

3.39,

2.35,

2.76,

3.90,

3.16;_2=

9.66,

8.94,

4.40,

6.64,

4.91,

8.52,

8.04,

9.05,

7.71,

5.11,

5.05,

8.51,

6.59,

4.90,

6.96;y=

1.237,

1.266,

1.200,

1.193,

1.106,

1.303,

1.313,

1.144,

1.286,

10.84,

1.120,

1.156,

10.83,

1.263,

1.246;e=ones(15,1);_=e,_1,_2;

4.51

5.430970

1.0319

4.6486-

4.382

2.3070

3.3123

8.1023

8.10399r=0.0113-0.0087-0.0102-0.00690.0101-0.0106-0.0037-0.01050.0049-0.01360.00570.0163-0.00230.01100.0071rint=-0.00870.0314-0.03030.0128-0.03010.0098-0.02990.0162-0.01060.0308-0.03130.0102-0.02520.0178-0.02990.0089-0.01740.0272-0.03310.0058-0.01610.0275-0.00270.0354-0.02360.0190-0.00790.0299-0.01560.0298stats=

1.0e+0040.000

1.XXX.0000即，。可信度95，且，与显著性概率相关的，这说明，回归方程中的每个自变量的选取，都是有意义的。残差杠杆图：从杠杆图看出，所有的残差都在0点附近均匀分布，区间几乎都位于之间，即，没有发现高杠杆点，也就是说，数据中没有强影响点、异常观测点。综合起来看，以上回归结果(回归函数、拟合曲线或曲面)近乎完美。

(二)回归诊断的必要性例2(Anscom

8.0

3.91

4.74

6.80

6.5

8.280

6.9.581

4.677

8.5

7.63130

7.5

8.8

7.41274

8.7714

9.8

8.187

7.711

8.88451

1.833

9.2

6.781

8.84761

3.9

9.68

1.884

8.704

7.672

4.61

3.60

8.8525

8.442

6.310

5.391

9.125912

10.

8.391

3.815

8.55610

7.4

8.272

6.644

8.79111

5.56

8.4

7.4573

8.689解：A在Matla

7.1中，ImportData：A=上表中的数据。

(1)画图观察，并做与的线性回归画图观察_1=A(:,2);y1=A(:,3);plot(_1,y1,-)旋转图形，看出数据点都在一个平面上，但不一定在同一条直线上。做线性回归：_1=A(:,2);y1=A(:,3);plot(_1,y1,-)e=ones(11,1);_=e,_1;

5.28180.2743即，系数的95%可信区间为：

2.61

3.179504-0.02060.5691回归误差的方差为：Var=

2.7663拟合指标为：stats=0.32

9.XXX.064

7.30737即，与显著性概率相关的，这说明，拟合效果不好。残差杠杆图为：残差杠杆图显示，第一个数据有异常。

(2)画图观察，并做与的线性回归画图观察_1=A(:,2);y2=A(:,4);plot(_1,y1,-)有一个数据点不在直线上。做线性回归_1=A(:,2);y2=A(:,4);plot(_1,y2,-)e=ones(11,1);_=e,_1;

5.77420.2134即，回归误差的方差为：var=

3.3036拟合指标不太好：stats=0.19

9.XXX.16

8.336707残差杠杆图为：残差杠杆图显示，有2个数据异常。

(3)画图观察，并做与的线性回归画图观察做线性回归_1=A(:,2);y3=A(:,5);plot(_1,y1,-)e=ones(11,1);_=e,_1;

5.02640.3059即，回归误差的方差为：Var=

2.4250拟合指标不太好：stats=0.411

2.628460.033

5.26944

(4)画图观察，并做与的线性回归画图观察做线性回归

3.00170.4999即，回归误差的方差为：Var=

1.3742拟合指标不太好：stats=0.666

7.XXX.00

2.215269残差杠杆图为：

5.0中，做最小二乘拟合：A=0.0000,

8.0400,

9.1400,

7.4600,

8.0000,

6.5800,

8.0000,

6.9500,

8.1400,

6.7700,

8.0000,

5.7600,

1.30000,

7.5800,

8.7400,

1.27400,

8.0000,

7.7100,

9.0000,

8.8100,

8.7700,

7.1100,

8.0000,

8.8400,

1.10000,

8.3300,

9.2600,

7.8100,

8.0000,

8.4700,

1.40000,

9.9600,

8.1000,

8.8400,

8.0000,

7.0400,

6.0000,

7.2400,

6.1300,

6.0800,

8.0000,

5.2500,

4.0000,

4.2600,

3.1000,

5.3900,

1.90000,

1.25000,

1.20000,

10.8400,

9.1300,

8.1500,

8.0000,

5.5600,

7.0000,

4.8200,

7.2600,

6.4400,

8.0000,

7.9100,

5.0000,

5.6800,

4.7400,

5.7300,

8.0000,

6.8900;n=LengthA;_1=Ta

5.28176+0.274276_f2=

5.77417+0.213417_f3=

5.02645+0.305945_f4=

3.00173+0.499909_注：这个例子说明，应该对数据拟合、回归结果作出评价，即，要做回归诊断。

(三)逐步回归假设已有数据_和Y，在Matla

7.852XXXX1552

7.433XXXX2024

4.341XXXX1847

8.765XXXX2633

9.596XXXX2210

9.273XXXX7610

2.781XXXX2244

7.259XXXX1822

9.3110XXXX4261

1.591XXXX2334

8.381XXXX9121

1.33131XXXX1210

9.4求出关系式。解：

(1)本问题涉及的数据是5维的，不能画图观察。先做异常值分析。_=7,26,6,60;1,29,15,52;11,56,8,20;11,31,8,47;7,52,6,33;11,55,9,22;3,71,17,6;1,31,22,44;2,54,18,22;21,47,4,26;1,40,23,34;11,66,9,12;10,68,8,12;Y=

7.85,

7.43,10

4.3,

8.76,

9.59,10

9.2,10

2.7,

7.25,

9.31,1

1.59,

8.38,1

1.33,10

9.4;A=_,Y;mahal(A,A)程序执行后得到结果：ans=

5.680

3.364

8.46700

2.336

7.63383

9.44300

4.0080

6.506

7.3084

9.7501

6.5176

8.24701可以认为数据都是正常的。

(2)一般多元回归。在Matla

7.85,

7.43,10

4.3,

8.76,

9.59,10

9.2,10

2.7,

7.25,

9.31,1

1.59,

8.38,1

1.33,10

9.4;a1=ones(13,1);A=a1,_;

6.240

5.XXX.51020.1019-0.1441

8.917862

2.39893-0.1

6.XXX-

1.158

9.21792-

1.63

8.518423-

1.77

9.114910r=0.004

8.15112-

1.6709-

1.72710.250

8.39254-

1.4487-

3.1750

1.37830.281

5.199100.9730-

2.2943rint=-

4.0390

4.0485-

3.2

3.XXX-

5.312

6.19707-

6.560

3.31061-

4.5

7.XXX-0.562

3.84132-

6.076

7.31794-

6.89630.5463-

3.542

6.62993-

3.00

9.835729-

2.23

7.262191-

4.133

8.60797-

6.911

5.23228stat=0.98241

1.147920.0000

5.9830以及残差杠杆图：于是，我们得到：并且，残差杠杆图显示，残差均匀分布在0点线附近，在stat返回的4个值中，0.9824，说明模型拟合的很好。F_检验值1

1.1479

20.000，符合要求。但是，与显著性概率相关的值

5.98300.05，这说明，回归方程中有些变量可以剔除。

(3)逐步回归在Matla

7.85,

7.43,10

4.3,

8.76,

9.59,10

9.2,10

2.7,

7.25,

9.31,1

1.59,

8.38,1

1.33,10

9.4;stepwise(_,Y)程序执行后得到下列逐步回归的画面：Move_4in程序提示：将变量_4加进回归方程(Move_4in)，点击Ne_tStep按钮，即，进行下一步运算，将第4列数据对应的变量加入回归方程。点击Ne_tStep按健后，又得到提示：将变量_1加进回归方程(Move_1in)，点击Ne_tStep按钮，即，进行下一步运算，将第1列数据对应的变量加入回归方程。点击Ne_tStep按健后，又得到提示：MoveNoterms，即，没有需要加入(也没有需要剔除)的变量了。注意：在Matla

7.0软件包中，可以直接点击“AllSteps”按钮，直接求出结果(省略中间过程)。intercept最后得到回归方程(蓝色行是被保留的有效行，红色行表示被剔除的变量)：回归方程中录用了原始变量和。模型评估参数分别为：，修正的值，F_检验值1

7.6627，与显著性概率相关的值，残差均方RMSE

2.73427(这个值越小越好)。以上指标值都很好，说明回归效果比较理想。另外，截距intercept=10

3.097(Intercept=theestimatedvalueoftheconstantterm)，这就是回归方程的常数项。我们将的数据放在一起画图观察：_=7,26,6,60;1,29,15,52;11,56,8,20;11,31,8,47;7,52,6,33;11,55,9,22;3,71,17,6;1,31,22,44;2,54,18,22;21,47,4,26;1,40,23,34;11,66,9,12;10,68,8,12;Y=

7.85,

7.43,10

4.3,

8.76,

9.59,10

9.2,10

2.7,

7.25,

9.31,1

1.59,

8.38,1

1.33,10

9.4-10

3.097;plot3(_(:,1),_(:,4),Y)程序执行后得到图形：不断旋转画面观察，图形大约是一个平面。17