最新多重共线性的解决之法

多重共线性的解决之

法

第七章多重共线性

教学目的及要求：

1、重点理解多重共线性在经济现象中的表现及产生的原因和后果

2、掌握检验和处理多重共线性问题的方法

3、学会灵活运用Eviews软件解决多重共线性的实际问题。

第一节多重共线性的产生及后果

一、多重共线性的含义

1、含义

在多元线性回归模型经典假设中，其重要假定之一是回归模型的解释变量之间不存在线性关系，也就是说，解释变量X1，X2，……，X k中的任何一个都不能是其他解释变量的线性组合。如果违背这一假定，即线性回归模型中某一个解释变量与其他解释变量间存在线性关系，就称线性回归模型中存在多重共线性。多重共线性违背了解释变量间不相关的古典假设，将给普通最小二乘法带来严重后果。

2、类型

多重共线性包含完全多重共线性和不完全多重共线性两种类型。

（1）完全多重共线性

完全多重共线性是指线性回归模型中至少有一个解释变量可以被其他解释变量线性表示，存在严格的线性关系。

如对于多元线性回归模型

i ki k i i i X X X Y μββββ+++++= 22110 （7-

1）

存在不全为零的数k λλλ,,,21 ，使得下式成立：

0X X X 2211=+++ki k i i λλλ （7-2）

则可以说解释变量k X ,,X ,X 21 之间存在完全的线性相关关系，即存在完全多重共

线性。 从矩阵形式来看，就是0'=X X ， 即1)(-

（2）不完全多重共线性

不完全多重共线性是指线性回归模型中解释变量间存在不严格的线性关系，即近似线性关系。

如对于多元线性回归模型（7-1）存在不全为零的数k λλλ,,,21 ，使得下式成

立：

0X X X 2211=++++i ki k i i u λλλ （7-3）

其中i u 为随机误差项，则可以说解释变量k X ,,X ,X 21 之间存在不完全多重共线

性。随机误差项表明上述线性关系是一种近似的关系式，大体上反映了解释变量间的相关程度。

完全多重共线性与完全非线性都是极端情况，一般说来，统计数据中多个解释变量之间多少都存在一定程度的相关性，对多重共线性程度强弱的判断和解决方法是本章讨论的重点。

二、多重共线性产生的原因

多重共线性在经济现象中具有普遍性，其产生的原因很多，一般较常见的有以下几种情况。

（一）经济变量间具有相同方向的变化趋势

在同一经济发展阶段，一些因素的变化往往同时影响若干经济变量向相同方向变化，从而引起多重共线性。如在经济上升时期，投资、收入、消费、储蓄等经济指标都趋向增长，这些经济变量在引入同一线性回归模型并作为解释变量时，往往存在较严重的多重共线性。

（二）经济变量间存在较密切关系

由于组成经济系统的各要素之间是相互影响相互制约的，因而在数量关系上也会存在一定联系。如耕地面积与施肥量都会对粮食总产量有一定影响，同时，二者本身存在密切关系。

（三）采用滞后变量作为解释变量较易产生多重共线性

一般滞后变量与当期变量在经济意义上关联度比较密切，往往会产生多重共线性。如在研究消费规律时，解释变量因素不但要考虑当期收入，还要考虑以往各期收入，而当期收入与滞后收入间存在多重共线性的可能很大。

（四）数据收集范围过窄，有时会造成变量间存在多重共线性问题。

三、多重共线性产生的后果

由前述可知，多重共线性分完全多重共线性和不完全多重共线性两种情况，两种情况都会对模型进行最小二乘估计都会产生严重后果。

（一）完全多重共线性 产生的后果

以二元线性回归模型为例，

i i i i u +++=22110X X Y βββ （7-4） 以离差形式表示，假设其中Y Y i i -=y ，111x X X i i -=，222x X X i i -=，

i i X X 21λ=，常数0≠λ，则，i i x x 21λ= ，1β的最小二乘估计量为

()∑∑∑∑∑∑∑--=221222

122112

21?i i i i i i i

i i i i x x x x y x x x y x x β

00)x ()x (y x x y x x 22222222222222=--=∑∑∑∑∑∑i i

i i i i i i λλλλ （7-5） 同理得到： 0

0?2=β （7-6） 可见参数估计值1?β和2

?β无法确定。 再考察参数估计量的方差，由前面章节可知：

()

()2u 22i 1i 22i 21i 22i 1x x x x x ?var σβ∑∑∑∑-= （7-7） 将i i 21x x λ=代入上式，则 222222222

22^)x ()x (x )1var(∑∑∑-=i i

i u λλσβ （7-8） =∞

说明此种情况下1

?β方差为无穷大。

同理可以证明2

?β的方差在完全共线性下也为无穷大。 以上分析表明，在完全多重共线性条件下，普通最小二乘法估计的参数值不能确定，并且估计值的方差为无穷大。

（二）不完全多重共线性产生的后果

假设上述二元线性回归模型中解释变量i X 1与i X 2的关系为

i i i v X X +=21λ （7-9）

其中i v 为随机项，满足0)(=i v E ，∑=02i i v X ，代入1?β估计表达得：

∑∑∑∑∑∑∑+-++-+=22222222222221^])x (x [)x ]()x ([)]x (x )[x ()x )](x (y [^

i i i i i i i i i i i i i i i v v v y v λλλλβ

＝∑∑2

y i i

i v v

（7-10）

由于∑≠02i v ，因而1?β是可确定估计的，但是其数值依赖i v 的数值，而i

v 的数值随样本的变化有较大变化，所以1

?β估计值是很不稳定的。 同理可以证明2

?β也是可估计的，且数值具有不稳定性。 考察估计量的方差：

由（7-1）式可知λ是i X 1、i X 2的相关系数，因此

22

11212222

12212

x x )x x (r r r i i i i ==∑∑∑λ （7-11） 参数估计量的方差可表达为：

()∑∑∑-∑=2)2x 1x (22x 21x 2

2x 2?var i i i i i

μσβ

2122

121x r i

u -=∑σ （7-12）

其中12r 为i 1X 和i 2X 之间的相关系数，从（7-12）式可见，||12r 的值越大，则共线程度

越高，估计量方差()

2?var β越大，直至无穷。 综上所述，线性回归模型解释变量间存在多重共线性可能产生如下后果：增大最小二乘估计量的方差；参数估计值不稳定，对样本变化敏感；检验可靠性降低，产生弃真错误。由于参数估计量方差增大，在进行显著性检验时，t 检验值将会变小，可能使某些本该参数显著的检验结果变得不显著，从而将重要变量舍弃。

第二节 多重共线性的检验

多重共线性是较为普通存在的现象，从上节分析可知，较高程度的多重共线性会对最小二乘估计产生严重后果，因此，在运用最小二乘法进行多元线性回归时，不但要检验解释变量间是否存在多重共线性，还要检验多重共线性的严重程度。

一、不显著系数法

情况1、2R 很大，t 小

不显著系数法是利用多元线性回归模型的拟合结果进行检验。如果拟合优度2R 的值很大（一般来说在0.8以上），然而模型中的全部或部分参数值估计值经检验却不显著，那么解释变量间有可能存在较严重的多重共线性。

情况2、理论性强，检验值弱

(完整版)多重共线性检验与修正.doc

问题： 选取粮食生产为例，由经济学理论和实际可以知道，影响粮食生产y 的因素有：农业化肥施 用量x1，粮食播种面积x2，成灾面积x3，农业机械总动力x4，农业劳动力x5，由此建立以下方程： y=β0+β1x1+β2x2+β3x3+β4x4+β5x5，相关数据如下： 解： 1、检验多重共线性 （1）在命令栏中输入： ls y c x1 x2 x3 x4 x5，则有； 可以看到，可决系数R2 和 F 值都 很高，二自变量x1 到 x5 的 t 值 均较小，并且x4 和 x5 的 t 检验 不显著，说明方程很可能存在多 重共线性。 （2）对自变量做相关性分析： 将x1—— x5 作为组打开， view —— covariance analysis—— correlation ，结果如下： 可以看到x1 和 x4 的相关系数 为 0.96，非常高，说明原模型 存在多重共线性

2、多重共线性的修正 （1）逐步回归法 第一步：首先确定一个基准的解释变量，即从 x1， x2， x3， x4， x5 中选择解释 y 的最好的一个建 立基准模型。分别用 x1， x2， x3， x4， x5 对 y 求回归，结果如下： 从上面 5 个输出结果可以知道，y 对 x1 的可决系数R2=0.89（最高），因此选择 第一个方程作为基准回归模型。即： Y = 30867.31062 + 4.576114592* x1 在基准模型的基础上，逐步将x2， x3 等加入到模型中， 加入 x2，结果：

拟合优度R2=0.961395 ，显著提高； 并且参数符号符合经济常识，且均显著。 所以将模型修改为： Y= -44174.52+ 4.576460*x1+ 0.672680*x2 再加入 x3，结果： 拟合优度R2=0.984174 ，显著提高； 并且参数符号符合经济常识（成灾面积越大，粮食产 量越低），且均显著。 所以将模型修改为： Y=-12559.35+5.271306*x1+0.417257*x2-0.212103*x3 再加入 x4，结果： 拟合优度R2=0.987158 ，虽然比上一次拟 合提高了； 但是变量x4 的系数为 -0.091271 ，符号不 符合经济常识（农业机械总动力越高， 粮食产量越高），并且 x4 的 t 检验不显著。 因此应该从模型中剔除x4。

EVIEWS案例：(消除多重共线性)影响国内旅游市场收入的主要因素分析

第四章 案例分析 一、研究的目的要求 近年来，中国旅游业一直保持高速发展，旅游业作为国民经济新的增长点，在整个社会经济发展中的作用日益显现。中国的旅游业分为国内旅游和入境旅游两大市场，入境旅游外汇收入年均增长 22.6%，与此同时国内旅游也迅速增长。改革开放20多年来，特别是进入90年代后，中国的国内旅游收入年均增长14.4%，远高于同期GDP 9.76%的增长率。为了规划中国未来旅游产业的发展，需要定量地分析影响中国旅游市场发展的主要因素。 二、模型设定及其估计 经分析，影响国内旅游市场收入的主要因素，除了国内旅游人数和旅游支出以外，还可能与相关基础设施有关。为此，考虑的影响因素主要有国内旅游人数2X ，城镇居民人均旅游支出3X ，农村居民人均旅游支出4X ，并以公路里程5X 和铁路里程6X 作为相关基础设施的代表。为此设定了如下对数形式的计量经济模型： 23456123456t t t t t t t Y X X X X X u ββββββ=++++++ 其中 ：t Y ——第t 年全国旅游收入 2X ——国内旅游人数 （万人） 3X ——城镇居民人均旅游支出 （元） 4X ——农村居民人均旅游支出 （元） 5X ——公路里程（万公里） 6X ——铁路里程（万公里） 为估计模型参数，收集旅游事业发展最快的 1994—2003年的统 计数据，如表4.2所示： 表4.2 1994年—2003年中国旅游收入及相关数据

数据来源:《中国统计年鉴2004》 利用Eviews 软件，输入Y 、X2、X3、X4、X5、X6等数据，采用这些数据对模型进行OLS 回归，结果如表4.3： 表4.3 由此可见，该模型9954.02=R ，9897.02 =R 可决系数很高，F 检验值173.3525,明 显显著。但是当05.0=α时776 .2)610()(025.02=-=-t k n t α,不仅2X 、6X 系数的t 检 验不显著，而且6X 系数的符号与预期的相反，这表明很可能存在严重的多重共线性。 计算各解释变量的相关系数，选择X2、X3、X4、X5、X6数据， Views/Open Selected/One Windows/Open Group 点”view/correlations ”得相关系数矩阵（如表4.4）： 表4.4 由相关系数矩阵可以看出：各解释变量相互之间的相关系数较高，证实确实存在严重多重共线性。

多重共线性问题的几种解决方法

多重共线性问题的几种解决方法 在多元线性回归模型经典假设中，其重要假定之一是回归模型的解释 变量之间不存在线性关系，也就是说，解释变量X 1，X 2 ，……，X k 中的任何一个 都不能是其他解释变量的线性组合。如果违背这一假定，即线性回归模型中某一个解释变量与其他解释变量间存在线性关系，就称线性回归模型中存在多重共线性。多重共线性违背了解释变量间不相关的古典假设，将给普通最小二乘法带来严重后果。 这里，我们总结了8个处理多重共线性问题的可用方法，大家在遇到多重共线性问题时可作参考： 1、保留重要解释变量，去掉次要或可替代解释变量 2、用相对数变量替代绝对数变量 3、差分法 4、逐步回归分析 5、主成份分析 6、偏最小二乘回归 7、岭回归 8、增加样本容量 这次我们主要研究逐步回归分析方法是如何处理多重共线性问题的。 逐步回归分析方法的基本思想是通过相关系数r、拟合优度R2和标准误差三个方面综合判断一系列回归方程的优劣，从而得到最优回归方程。具体方法分为两步： 第一步，先将被解释变量y对每个解释变量作简单回归: 对每一个回归方程进行统计检验分析（相关系数r、拟合优度R2和标准误差），并结合经济理论分析选出最优回归方程，也称为基本回归方程。

第二步，将其他解释变量逐一引入到基本回归方程中，建立一系列回归方程，根据每个新加的解释变量的标准差和复相关系数来考察其对每个回归系数的影响，一般根据如下标准进行分类判别： １.如果新引进的解释变量使R2得到提高,而其他参数回归系数在统计上和经济理论上仍然合理，则认为这个新引入的变量对回归模型是有利的，可以作为解释变量予以保留。 ２.如果新引进的解释变量对R2改进不明显，对其他回归系数也没有多大影响，则不必保留在回归模型中。 ３.如果新引进的解释变量不仅改变了R2，而且对其他回归系数的数值或符号具有明显影响，则认为该解释变量为不利变量，引进后会使回归模型出现多重共线性问题。不利变量未必是多余的，如果它可能对被解释变量是不可缺少的，则不能简单舍弃，而是应研究改善模型的形式，寻找更符合实际的模型，重新进行估计。如果通过检验证明回归模型存在明显线性相关的两个解释变量中的其中一个可以被另一个很好地解释，则可略去其中对被解释变量影响较小的那个变量，模型中保留影响较大的那个变量。 下边我们通过实例来说明逐步回归分析方法在解决多重共线性问题上的具体应用过程。 具体实例 例1设某地10年间有关服装消费、可支配收入、流动资产、服装类物价指数、总物价指数的调查数据如表1，请建立需求函数模型。 表1 服装消费及相关变量调查数据

多重共线性的检验与修正

计量经济学实验报告成绩 课程名称计量经济学指导教师苏卫东实验日期 2014-6-24 院（系）财政与金融学院专业班级金融二专实验地点实验楼八机房 学生姓名单一芳学号 201212041018 同组人无 实验项目名称多重共线性的检验与修正 一、实验目的和要求 1、理解多重共线性的含义与后果 2、掌握Eviews软件的操作和多重共线性的检验与修正 二、实验原理 Eviews软件的操作和多重共线性的检验修正方法 三、主要仪器设备、试剂或材料 Eviews软件，计算机 四、实验方法与步骤 1、准备工作：建立工作文件，并输入数据 CREATE A 1974 1981; DATA Y X1 X2 X3 X4 X5 2、OLS估计： LS Y C X1 X2 X3 X4 X5; 3、计算简单相关系数 COR X1 X2 X3 X4 X5 4、多重共线性的解决 LS Y C X1; LS Y C X2; LS Y C X3; LS Y C X4; LS Y C X5;

LS Y C X1 X3; LS Y C X1 X3 X2; LS Y C X1 X3 X4; LS Y C X1 X3 X5 五、实验数据记录、处理及结果分析 1、建立工作组，输入以下数据： obs Y X1 X2 X3 X4 X5 1974 98.45 560.2 153.2 6.53 1.23 1.89 1975 100.7 603.11 190 9.12 1.3 2.03 1976 102.8 668.05 240.3 8.1 1.8 2.71 1977 133.95 715.47 301.12 10.1 2.09 3 1978 140.13 724.27 361 10.93 2.39 3.29 1979 143.11 736.13 420 11.85 3.9 5.24 1980 146.15 748.91 497.16 12.28 5.13 6.83 1981 144.6 760.32 501 13.5 5.47 8.36 1982 148.94 774.92 529.2 15.29 6.09 10.07 1983 158.55 785.3 552.72 18.1 7.97 12.57 1984 169.68 795.5 771.16 19.61 10.18 15.12 1985 162.14 804.8 811.8 17.22 11.79 18.25 1986 170.09 814.94 988.43 18.6 11.54 20.59 1987 178.69 828.73 1094.65 23.53 11.68 23.37 2、OLS估计 LS Y C X1 X2 X3 X4 X5 Dependent Variable: Y Method: Least Squares Date: 06/24/14 Time: 18:45 Sample: 1974 1987 Included observations: 14 Variable Coefficient Std. Error t-Statistic Prob. C -3.650950 30.00144 -0.121692 0.9061 X1 0.125752 0.059087 2.128275 0.0660 X2 0.072656 0.037445 1.940317 0.0883 X3 2.681426 1.258639 2.130418 0.0658 X4 3.405866 2.444896 1.393052 0.2011 X5 -4.430561 2.194164 -2.019248 0.0781 R-squared 0.970397 Mean dependent var 142.7129

主成分回归多重共线性

实验八:主成分回归 实验题目:对例5、5的Hald水泥问题用主成分方法建立模型,并与其她方法的结果进行比较。例5、5如下:本例为回归经典的Hald水泥问题。某种水泥在凝固时放出的热量y(卡/克,cal/g)与水泥中的四种化学成分的含量(%)有关,这四种化学成分分别就是x1铝酸三钙(3CaO、Al2O3),x2硅酸三钙(3CaO、SiO2),x3铁铝酸四钙(4CaO、Al2O3、Fe2O3),x4硅酸三钙(2CaO、SiO2)。现观测到13组数据,如表5-3所示。 实验目的: SPSS输出结果及答案: 一、主成分法: 多重共线性诊断:

N 13 13 13 13 13 **、在、01 水平(双侧)上显著相关。 由表可知,x1,x2,x4的相关性都比较大,较接近,所以存在多重共线性 主成分回归: 解释的总方差 成份 初始特征值提取平方与载入 合计方差的 % 累积 % 合计方差的 % 累积 % 1 2、236 55、893 55、893 2、236 55、893 55、893 2 1、576 39、402 95、294 1、576 39、402 95、294 3 、187 4、665 99、959 、187 4、665 99、959 4 、002 、041 100、000 、002 、041 100、000 提取方法:主成份分析。 输出结果显示有四个特征根,最大的就是λ1=2、236,最小的就是λ4=0、002。 方差百分比显示第一个主成分Factor1的方差百分比近56%的信息量;前两个主成 分累计包含近95、3%的信息量。因此取两个主成分就已经足够。 由于前两个主成分的方差累计已经达到95、3%,故只保留前两个主成分。 成份矩阵a 成份 1 2 3 4 x1 、712 -、639 、292 、010 x2 、843 、520 -、136 、026 x3 -、589 、759 、275 、011 x4 -、819 -、566 -、084 、027 提取方法:主成分 a.已提取了 4 个成份。 由解释的总方差表中累计贡献性知,f1与f2的累计贡献性就在85%~95%之间。所以主成分取f1,f2。 得到因子得分的数值,并对其进行处理:sqrt(2、236)* FAD1_1, sqrt(1、576)* FAD2_1可以得出主成分表(f1 f2)。

多重共线性的解决之法

第七章 多重共线性 教学目的及要求： 1、重点理解多重共线性在经济现象中的表现及产生的原因和后果 2、掌握检验和处理多重共线性问题的方法 3、学会灵活运用Eviews 软件解决多重共线性的实际问题。 第一节 多重共线性的产生及后果 一、多重共线性的含义 1、含义 在多元线性回归模型经典假设中，其重要假定之一是回归模型的解释变量之间不存在线性关系，也就是说，解释变量X 1，X 2，……，X k 中的任何一个都不能是其他解释变量的线性组合。如果违背这一假定，即线性回归模型中某一个解释变量与其他解释变量间存在线性关系，就称线性回归模型中存在多重共线性。多重共线性违背了解释变量间不相关的古典假设，将给普通最小二乘法带来严重后果。 2、类型 多重共线性包含完全多重共线性和不完全多重共线性两种类型。 （1）完全多重共线性 完全多重共线性是指线性回归模型中至少有一个解释变量可以被其他解释变量线性表示，存在严格的线性关系。 如对于多元线性回归模型 i ki k i i i X X X Y μββββ+++++= 22110 （7-1） 存在不全为零的数k λλλ,,,21 ，使得下式成立： 0X X X 2211=+++ki k i i λλλ （7-2） 则可以说解释变量k X ,,X ,X 21 之间存在完全的线性相关关系，即存在完全多重共线性。 从矩阵形式来看，就是0' =X X ， 即1)(-

不完全多重共线性是指线性回归模型中解释变量间存在不严格的线性关系，即近似线性关系。 如对于多元线性回归模型（7-1）存在不全为零的数k λλλ,,,21 ，使得下式成立： 0X X X 2211=++++i ki k i i u λλλ （7-3） 其中i u 为随机误差项，则可以说解释变量k X ,,X ,X 21 之间存在不完全多重共线性。随机误差项表明上述线性关系是一种近似的关系式，大体上反映了解释变量间的相关程度。 完全多重共线性与完全非线性都是极端情况，一般说来，统计数据中多个解释变量之间多少都存在一定程度的相关性，对多重共线性程度强弱的判断和解决方法是本章讨论的重点。 二、多重共线性产生的原因 多重共线性在经济现象中具有普遍性，其产生的原因很多，一般较常见的有以下几种情况。 （一）经济变量间具有相同方向的变化趋势 在同一经济发展阶段，一些因素的变化往往同时影响若干经济变量向相同方向变化，从而引起多重共线性。如在经济上升时期，投资、收入、消费、储蓄等经济指标都趋向增长，这些经济变量在引入同一线性回归模型并作为解释变量时，往往存在较严重的多重共线性。 （二）经济变量间存在较密切关系 由于组成经济系统的各要素之间是相互影响相互制约的，因而在数量关系上也会存在一定联系。如耕地面积与施肥量都会对粮食总产量有一定影响，同时，二者本身存在密切关系。 （三）采用滞后变量作为解释变量较易产生多重共线性 一般滞后变量与当期变量在经济意义上关联度比较密切，往往会产生多重共线性。如在研究消费规律时，解释变量因素不但要考虑当期收入，还要考虑以往各期收入，而当期收入与滞后收入间存在多重共线性的可能很大。 （四）数据收集围过窄，有时会造成变量间存在多重共线性问题。 三、多重共线性产生的后果 由前述可知，多重共线性分完全多重共线性和不完全多重共线性两种情况，两种情况都会对模型进行最小二乘估计都会产生严重后果。

多重共线性 多重共线性实验案例与独立实验问题

实验五 多重共线性模型的检验与处理（1） 一、研究的目的要求 近年来，中国旅游业一直保持高速发展，旅游业作为国民经济新的增长点，在整个社会经济发展中的作用日益显现。中国的旅游业分为国内旅游和入境旅游两大市场，入境旅游外汇收入年均增长22.6%，与此同时国内旅游也迅速增长。改革开放20多年来，特别是进入90年代后，中国的国内旅游收入年均增长14.4%，远高于同期GDP 9.76%的增长率。为了规划中国未来旅游产业的发展，需要定量地分析影响中国旅游市场发展的主要因素。 二、模型设定及其估计 经分析，影响国内旅游市场收入的主要因素，除了国内旅游人数和旅游支出以外，还可能与相关基础设施有关。为此，考虑的影响因素主要有国内旅游人数2X ，城镇居民人均旅游支出3X ，农村居民人均旅游支出4X ，并以公路里程5X 和铁路里程6X 作为相关基础设 施的代表。为此设定了如下对数形式的计量经济模型： 23456123456t t t t t t t Y X X X X X u ββββββ=++++++ 其中 ：t Y ——第t 年全国旅游收入 2X ——国内旅游人数 （万人） 3X ——城镇居民人均旅游支出 （元） 4X ——农村居民人均旅游支出 （元） 5X ——公路里程（万公里） 6X ——铁路里程（万公里） 为估计模型参数，收集旅游事业发展最快的1994—2003年的统计数据，如表4.2所示： 利用Eviews 软件，输入Y 、X2、X3、X4、X5、X6等数据，采用这些数据对模型进行OLS 回归，结果如表4.3： 表4.3

由此可见，该模型9954.02=R ，9897.02 =R 可决系数很高，F 检验值173.3525,明 显显著。但是当05.0=α时776 .2)610()(025.02=-=-t k n t α,不仅2X 、6X 系数的t 检 验不显著，而且6X 系数的符号与预期的相反，这表明很可能存在严重的多重共线性。 计算各解释变量的相关系数，选择X2、X3、X4、X5、X6数据，点”view/correlations ”得相关系数矩阵（如表4.4）： 表4.4 由相关系数矩阵可以看出：各解释变量相互之间的相关系数较高，证实确实存在严重多重共线性。 三、消除多重共线性 采用逐步回归的办法，去检验和解决多重共线性问题。分别作Y 对X2、X3、X4、X5、X6的一元回归，结果如表4.5所示： 表4.5

多元线性回归中多重共线问题的解决方法综述

多元线性回归中多重共线问题的解决方法综述 摘 要 在回归分析中，当自变量之间出现多重共线性现象时，常会严重影响到参数估计，扩大模型误差，并破坏模型的稳健性，因此消除多重共线性成为回归分析中参数估计的一个重要环节。现在常用的解决多元线性回归中多重共线性的回归模型有岭回归（Ridge Regression ）、主成分回归(Principal Component Regression 简记为PCR)和偏最小二乘回归(Partial Least Square Regression 简记为PLS)。 关键词：多重共线性；岭回归；主成分回归；偏最小二乘回归 引言 在多元线性回归分析中，变量的多重相关性会严重影响到参数估计，增大模型误差，并破坏模型的稳健性 由于多重共线性问题在实际应用中普遍存在，并且危害严重，因此设法消除多重性的不良影响无疑具有巨大的价值常用的解决多元线性回归中多重共线问题的回归模型主要有主成分回归岭回归以及偏最小二乘回归。 1、 多元线性回归模型 1.1 回归模型的建立 设Y 是一个可观测的随机变量,它受m 个非随机因素X 1,X 2,…,X p-1和随机因素ε的影响, 若有如下线性关系 我们对变量进行了n 次观察，得到n 组观察数据(如下)，对回归系数 进行估计 一般要求n>P 。于是回归关系可写为 采用矩阵形式来表示 0112211p p Y X X X ββββε--=+++++n i X X X Y p i i i i ,,1,,,,)1(2,1???=???-1011121211(1)1 2012122212(1)2 011221(1)p p p p n n n p n p n Y X X X Y X X X Y X X X ββββεββββεββββε------=+++++??=+++++?? ? ?=+++++?11121,(1)121222,(1)212,(1)111, 1 p p n n n n p n n p X X X Y X X X Y Y X Y X X X ---??????????????==??????????????)1(10,,,p -???βββ

第七章 多共线性及其处理

第七章 多重共线性及其处理 第一部分 学习辅导 一、本章学习目的与要求 1．理解多重共线性的概念； 2．掌握多重共线性存在的主要原因； 3．理解多重共线性可能造成的后果； 4．掌握多重共线性的检验与修正的方法。 二、本章内容提要 本章主要介绍计量经济模型的计量经济检验。即多重共线性问题。 多重共线性是多元回归模型可能存在的一类现象，分为完全共线与近似共线两类。模型的多个解释变量间出现完全共线性时，模型的参数无法估计。更多的情况则是近似共线性，这时，由于并不违背所有的基本假定，模型参数的估计仍是无偏、一致且有效的，但估计的参数的标准差往往较大，从而使得t 统计值减小，参数的显著性下降，导致某些本应存在于模型中的变量被排除，甚至出现参数正负号方面的一些混乱。显然，近似多重共线性使得模型偏回归系数的特征不再明显，从而很难对单个系数的经济含义进行解释。多重共线性的检验包括检验多重共线性是否存在以及估计多重共线性的范围两层递进的检验。而解决多重共线性的办法通常有逐步回归法、差分法以及使用额外信息、增大样本容量等方法。 （一）多重共线性及其产生的原因 当我们利用统计数据进行分析时，解释变量之间经常会出现高度多重共线性的情况。 1．多重共线性的基本概念 多重共线性(Multicollinearity )一词由弗里希（Frish ）于1934年在其撰写的《借助于完全回归系统的统计合流分析》中首次提出。它的原义是指一个回归模型中的一些或全部解释变量之间存在有一种“完全”或准确的线性关系。 如果在经典回归模型Y X βε=+中，经典假定（5）遭到破坏，则有()1R X k <+，此时称解释变量k X X X ,,,21ΛΛ间存在完全多重共线性。解释变量的完全多重共线性，也就是解释变量之间存在严格的线性关系，即数据矩阵X 的列向量线性相关。因此，必有一个列向量可由其余列向量线性表示。 同时还有另外一种情况，即解释变量之间虽然不存在严格的线性关系，但是却有近似的线性关系，即解释变量之间高度相关。 2．多重共线性产生的原因 多元线性回归模型产生多重共线性的原因很多，主要有： （1）经济变量的内在联系 这是产生多重共线性的根本原因。 （2）解释变量中含有滞后变量 （3）经济变量变化趋势的“共向性” 必须指出，多重共线性基本上是一种样本现象。因为人们在设定模型时，总是尽量避免将理论上具有严格线性关系的变量作为解释变量收集在一起，因此，实际问题中的多重共线性并不是解释变量之间存在理论上或实际上的线性关系造成的，而是由所收集的数据(解释变量观察值)之间存在近似的线性关系所致。 （二）多重共线性的影响 多重共线性会产生以下问题： （1）增大了OLS 估计量的方差 （2）难以区分每个解释变量的单独影响 （3）回归模型缺乏稳定性 （4）t 检验的可靠性降低 （三）多重共线性的判别 在应用多元回归模型中，人们总结了许多检验多重共线性的方法。 1．系数判定法

多重共线性检验与修正

多重共线性检验与修正 数据来源：《中国统计年鉴2014》12-10、4-3、12-4、12-5、12-8、 Eviews操作： 1、基本操作： （1）录入数据：命令：data y l m f a ir （y代表粮食产量，l代表第一产业劳动力数量，m代表农业机械总动力，f代表化肥施用量，a代表农作物总播种面积，ir为有效灌溉面积/农作总播种面积得出的灌溉率） （2）做线性回归：命令：LS y c l m f a ir 2、检验多重共线性 （1）方差膨胀因子判断法 在生成的线性回归eq01中，view—coefficient diagnostics—variance inflation factors 看生成表格中的Centered VIF，发现L、M、F、A、IR的方差膨胀因子都很大，说明存在严重多重共线性。（eg：L的Centered VIF指以L为因变量，M、A、F、IR为自变量所做出的辅助回归的判定系数R2，然后1/1-R2得出的值。） （由课本内容可知，当完全不共线性时，VIF=1；完全共线性时，VIF=正无穷）（2）相关系数矩阵判断法 命令：cor l m f a ir 这个是通过看各个解释变量之间的相关系数来判断是否存在多重共线性的。可以看到大多数解释变量之间两两相关系数都大于0.9。相关系数极大说明解释变量之间存在很高的相关性，因而也就很可能存在共线性。 3、修正多重共线性 （1）逐步回归排除引起共线性的变量 ①菜单栏操作 在生成的线性回归eq01中，Estimate—Method—STEPLS 接下来会出现两个框框，上面的框框是固定住不做逐步回归的变量，一般设定为y和c

解决多元线性回归中多重共线性问题的方法分析

解决多元线性回归中多重共线性问题的方法分析 谢小韦，印凡成 河海大学理学院，南京 (210098) E-mail ：xiexiaowei@https://www.wendangku.net/doc/7710416426.html, 摘 要：为了解决多元线性回归中自变量之间的多重共线性问题，常用的有三种方法: 岭回 归、主成分回归和偏最小二乘回归。本文以考察职工平均货币工资为例，利用三种方法的 SAS 程序进行了回归分析，根据分析结果总结出三种方法的优缺点，结果表明如果能够使用 定性分析和定量分析结合的方法确定一个合适的k 值，则岭回归可以很好地消除共线性影 响；主成分回归和偏最小二乘回归采用成份提取的方法进行回归建模，由于偏最小二乘回归 考虑到与因变量的关系，因而比主成分回归更具优越性。 关键词：多重共线性；岭回归；主成分回归；偏最小二乘回归 1. 引言 现代化的工农业生产、社会经济生活、科学研究等各个领域中，经常要对数据进行分析、 拟合及预测，多元线性回归是常用的方法之一。多元线性回归是研究多个自变量与一个因变 量间是否存在线性关系,并用多元线性回归方程来表达这种关系，或者定量地刻画一个因变 量与多个自变量间的线性依存关系。 在对实际问题的回归分析中，分析人员为避免遗漏重要的系统特征往往倾向于较周到地 选取有关指标，但这些指标之间常有高度相关的现象，这便是多变量系统中的多重共线性现 象。在多元线性回归分析中，这种变量的多重相关性常会严重影响参数估计，扩大模型误差， 破坏模型的稳健性，从而导致整体的拟合度很大，但个体参数估计值的t 统计量却很小，并 且无法通过检验。由于它的危害十分严重，存在却又十分的普遍，因此就要设法消除多重线 性的不良影响。 常用的解决多元线性回归中多重共线性问题的模型主要有主成分回归、岭回归以及偏最 小二乘回归。三种方法采用不同的方法进行回归建模，决定了它们会产生不同的效果。本文 以统计职工平均货币工资为例，考察一组存在共线性的数据，运用SAS 程序对三种回归进 行建模分析，并对结果进行比较，总结出它们的优势与局限，从而更好地指导我们解决实际 问题。 2. 共线性诊断 拟合多元线性回归时，自变量之间因存在线性关系或近似线性关系，隐蔽变量的显著性， 增加参数估计的方差，导致产生一个不稳定的模型，因此共线性诊断的方法是基于自变量的 观测数据构成的矩阵T x x 进行分析，使用各种反映自变量间相关性的指标。共线性诊断常 用统计量有方差膨胀因子VIF (或容限TOL )、条件指数和方差比例等。 一般认为：若VIF>10，说明模型中有很强的共线性关系；若条件指数值在10与30间 为弱相关，在30与100间为中等相关，大于100为强相关；在大的条件指数中由方差比例 超过0.5的自变量构成的变量子集就认为是相关变量集[1]。 3. 三种解决方法 岭回归基本思想: 当出现多重共线性时，有0T X X ≈，从而使参数的1?()T T X X X Y β ?=很不稳定，出现不符合含义的估计值，给T X X 加上一个正常数矩阵(0)KI K >，则T X X KI +等

计量经济学多重共线性

2014-8-8 商学院 王中昭 教学内容 一、多重共线性 二、实际经济问题中的多重共线性 三、多重共线性的后果 四、多重共线性的检验 五、克服多重共线性的办法和实例 §4.3 多重共线性

2014-8-8商学院 王中昭 对于模型Y i =β0+ β1x 1i + β2x 2i +…… βk x ki +μi 如果某两个或多个解释变量之间出现相关性，即：C 1x 1i +C 2X 2i +……C k X ki =0 其中C i 不全为0，即某一个解释变量是其他解释变量的线性组合，则称为完全多重共线性。 完全多重共线性的情况并不多见，一般是出现不同程度的多重共线性。 注意多重共线性不 是指因变量与解释 一、多重共线性概念

2014-8-8商学院 王中昭 Y=Xβ+μ完全共线性:∣X′X ∣=0，(X′X)-1不存在， 使B ^=(X′X)-1X′Y 无法求解。 例如：, 0)(0020 1631084104213211 x x x 3213322113 21≠'=+-=++??????? ??=X X x x x X i i i i i i x c x c x c 这里，完全多重共线性

2014-8-8商学院 王中昭完全多重共线性的情况不多，一般出现不同程度的多重共线性。 多重共线性:∣X′X∣≈0,(X′X)-1存在，但 (X′X)-1主对角线上的元素很大。 ????? ?='≈'?≈+??????? ??=400300000300000100040030000030000010002100010004X)X ( ,0)( 0,0x x - x 199 .2993001001.4004001099.1992001101.1001001 x x x 1 -3i 2i 1i 3 21｜｜这里，X X X 近似多重共线性

所有计量经济学检验方法(全)

计量经济学所有检验方法 一、拟合优度检验 可决系数 TSS RSS TSS ESS R - ==12 TSS 为总离差平方和，ESS 为回归平方和，RSS 为残差平方和 该统计量用来测量样本回归线对样本观测值的拟合优度。 该统计量越接近于1，模型的拟合优度越高。 调整的可决系数)1/() 1/(12---- =n TSS k n RSS R 其中：n-k-1为残差平方和的自由度，n-1为总体平方和的 自由度。将残差平方和与总离差平方和分别除以各自的自由度，以剔除变量个数对拟合优度的影响。 二、方程的显著性检验(F 检验) 方程的显著性检验，旨在对模型中被解释变量与解释变量之间的线性关系在总体上是否显著成立作出推断。 原假设与备择假设：H 0:β1=β2=β3=…βk =0 H 1: βj 不全为0 统计量 )1/(/--= k n RSS k ESS F 服从自由度为(k , n-k-1)的F 分布，给定显著性水平α，可得到临界值 F α(k,n-k-1)，由样本求出统计量F 的数值，通过F>F α(k,n-k-1)或F ≤F α(k,n-k-1)来拒绝或接受原假设H 0，以判定原方程总体上的线性关系是否显著成立。 三、变量的显著性检验（t 检验） 对每个解释变量进行显著性检验，以决定是否作为解释变量被保留在模型中。 原假设与备择假设：H0：βi =0 （i=1,2…k ）；H1：βi ≠0 给定显著性水平α，可得到临界值t α/2(n-k-1)，由样本求出统计量t 的数值，通过 |t|> t α/2(n-k-1) 或 |t|≤t α/2(n-k-1) 来拒绝或接受原假设H0，从而判定对应的解释变量是否应包括在模型中。 四、参数的置信区间 参数的置信区间用来考察：在一次抽样中所估计的参数值离参数的真实值有多“近”。 统计量 )1(~1??? ----'--= k n t k n c S t ii i i i i i e e βββββ 在(1-α)的置信水平下βi 的置信区间是 ( , ) ββααββ i i t s t s i i -?+?2 2 ，其中，t α/2为显著性水平 为α、自由度为n-k-1的临界值。 五、异方差检验 1. 帕克(Park)检验与戈里瑟(Gleiser)检验 试建立方程：i ji i X f e ε+=)(~2 或 i ji i X f e ε+=)(|~| 选择关于变量X 的不同的函数形式，对方程进行估计并进行显著性检验，如果存在某一种函数形式，使得方程显著成立，则说明原模型存在异方差性。

岭回归解决多重共线性

一、引言 回归分析是一种比较成熟的预测模型,也是在预测过程中使用较多的模型,在自然科学管理科学和社会经济中有着非常广泛的应用，但是经典的最小二乘估计，必需满足一些假设条件，多重共线性就是其中的一种。实际上，解释变量间完全不相关的情形是非常少见的，大多数变量都在某种程度上存在着一定的共线性，而存在着共线性会给模型带来许多不确定性的结果。 二、认识多重共线性 （一）多重共线性的定义 设回归模型01122p p y x x x ββββε=+++?++如果矩阵X 的列向量存在一组不全 为零的数012,,p k k k k ?使得011220i i p i p k k x k x k x +++?+=, i =1,2,…n ,则称其存在完全共线性,如果022110≈+?+++p i p i i x k x k x k k , i =1,2,…n ,则称其存在 近似的多重共线性。 （二）多重共线性的后果 1.理论后果 对于多元线性回归来讲，大多数学者都关注其估计精度不高，但是多重共线性不可 能完全消除，而是要用一定的方法来减少变量之间的相关程度。多重共线性其实是由样本容量太小所造成的后果，在理论上称作“微数缺测性”，所以当样本容量n 很小的时候，多重共线性才是非常严重的。 多重共线性的理论后果有以下几点： （1）保持OLS 估计量的BLUE 性质； (2) 戈德伯格提出了近似多重共线性其实是样本观测数刚好超过待估参数个数时出现的 情况。所以多重共线性并不是简单的自变量之间存在的相关性，也包括样本容量的大小问题。 （3）近似的多重共线性中，OLS 估计仍然是无偏估计。无偏性是一种多维样本或重复抽样 的性质；如果X 变量的取值固定情况下，反复对样本进行取样，并对每个样本计算OLS 估计量，随着样本个数的增加，估计量的样本值的均值将收敛于真实值。 （4）多重共线性是由于样本引起的。即使总体中每一个X 之间都没有线性关系，但在具体 取样时仍存在样本间的共线性。 2.现实后果 （1）虽然存在多重共线性的情况下，得到的OLS 估计是BLUE 的，但有较大的方差和协方差， 估计精度不高； （2）置信区间比原本宽，使得接受0H 假设的概率更大；

最新多重共线性的解决之法

多重共线性的解决之 法

第七章多重共线性 教学目的及要求： 1、重点理解多重共线性在经济现象中的表现及产生的原因和后果 2、掌握检验和处理多重共线性问题的方法 3、学会灵活运用Eviews软件解决多重共线性的实际问题。 第一节多重共线性的产生及后果 一、多重共线性的含义 1、含义 在多元线性回归模型经典假设中，其重要假定之一是回归模型的解释变量之间不存在线性关系，也就是说，解释变量X1，X2，……，X k中的任何一个都不能是其他解释变量的线性组合。如果违背这一假定，即线性回归模型中某一个解释变量与其他解释变量间存在线性关系，就称线性回归模型中存在多重共线性。多重共线性违背了解释变量间不相关的古典假设，将给普通最小二乘法带来严重后果。 2、类型 多重共线性包含完全多重共线性和不完全多重共线性两种类型。 （1）完全多重共线性 完全多重共线性是指线性回归模型中至少有一个解释变量可以被其他解释变量线性表示，存在严格的线性关系。 如对于多元线性回归模型

i ki k i i i X X X Y μββββ+++++= 22110 （7- 1） 存在不全为零的数k λλλ,,,21 ，使得下式成立： 0X X X 2211=+++ki k i i λλλ （7-2） 则可以说解释变量k X ,,X ,X 21 之间存在完全的线性相关关系，即存在完全多重共 线性。 从矩阵形式来看，就是0'=X X ， 即1)(-

多重共线性问题的检验和处理

山西大学 实验报告 实验报告题目：多重共线性问题的检验和处理 学院： 专业： 课程名称：计量经济学 学号： 学生姓名： 教师名称：崔海燕 上课时间：

一、实验目的： 熟悉和掌握Eviews在多重共线性模型中的应用，掌握多重共线性问题的检 验和处理。 二、实验原理：1、综合统计检验法； 2、相关系数矩阵判断； 3、逐步回归法； 三、实验步骤： （一）新建工作文件并保存 打开Eviews软件，在主菜单栏点击File\new\workfile，输入start date 1978和end date 2006并点击确认，点击save键，输入文件名进行保存。 （二）输入并编辑数据 在主菜单栏点击Quick键，选择empty\group新建空数据栏，根据理论和经 验分析，影响粮食生产（Y）的主要因素有农业化肥施用量（X1）、粮食播种面积（X2）、 成灾面积（X3）、农业机械总动力（X4）和农业劳动力（X5），其中成灾面积的符号为 负，其余均应为正。下表给出了1983——2000中国粮食生产的相关数据。点击name 键进行命名，选择默认名称Group01,保存文件。 Y X1 X2 X3 X4 X5 1983 38728 1660 114047 16209 18022 31151 1984 40731 1740 112884 15264 19497 30868 1985 37911 1776 108845 22705 20913 31130 1986 39151 1931 110933 23656 22950 31254 1987 40208 1999 111268 20393 24836 31663 1988 39408 2142 110123 23945 26575 32249 1989 40755 2357 112205 24449 28067 33225 1990 44624 2590 113466 17819 28708 38914 1991 43529 2806 112314 27814 29389 39098 1992 44264 2930 110560 25895 30308 38669 1993 45649 3152 110509 23133 31817 37680 1994 44510 3318 109544 31383 33802 36628 1995 46662 3594 110060 22267 36118 35530 1996 50454 3828 112548 21233 38547 34820 1997 49417 3981 112912 30309 42016 34840 1998 51230 4084 113787 25181 45208 35177 1999 50839 4124 113161 26731 48996 35768 2000 46218 4146 108463 34374 52574 36043 2001 45264 4254 106080 31793 55172 36513 2002 45706 4339 103891 27319 57930 36870 2003 43070 4412 99410 32516 60387 36546

多重共线性案例分析实验报告

《多重共线性案例分析》实验报告

表2 由此可见，该模型，可决系数很高，F 检验值 173.3525,明显显著。但是当时,不仅、 系数的t 检验不显著，而且系数的符号与预期的相反，这表明很可能存在严重的多重共线性。 9954.02=R 9897.02 =R 05.0=α776 .2)610()(025.02=-=-t k n t α2X 6X 6X

②.计算各解释变量的相关系数，选择X2、X3、X4、X5、X6数据，点”view/correlations ”得相关系数矩阵 表3 由关系数矩阵可以看出：各解释变量相互之间的相关系数较高，证实确实存在严重多重共线性相。 4.消除多重共线性 ①采用逐步回归的办法，去检验和解决多重共线性问题。 分别作Y 对X2、X3、X4、X5、X6的一元回归 如下图所示 变量 X2 X3 X4 X5 X6 参数估计值 0.0842 9.0523 11.6673 34.3324 2014.146 t 统计量 8.6659 13.1598 5.1967 6.4675 8.7487 0.9037 0.9558 0.7715 0.8394 0.9054 表4 按的大小排序为：X3、X6、X2、X5、X4。 以X3为基础，顺次加入其他变量逐步回归。首先加入X6回归结果为： t=(2.9086) (0.46214) 2R 2 R 6 31784.285850632.7639.4109?X X Y t ++-=957152.02 =R

1995 1375.7 62900 464.0 61.5 115.70 5.97 1996 1638.4 63900 534.1 70.5 118.58 6.49 1997 2112.7 64400 599.8 145.7 122.64 6.60 1998 2391.2 69450 607.0 197.0 127.85 6.64 1999 2831.9 71900 614.8 249.5 135.17 6.74 2000 3175.5 74400 678.6 226.6 140.27 6.87 2001 3522.4 78400 708.3 212.7 169.80 7.01 2002 3878.4 87800 739.7 209.1 176.52 7.19 2003 3442.3 87000 684.9 200.0 180.98 7.30 表1：1994年—2003年中国游旅收入及相关数据