主成分分析和聚类分析
现代地理学中的数学方法
本次作业数据主要来源于《2013安徽统计年鉴》，由于部分数据缺失，故用《2012年安徽统计年鉴》中的数据进行了选取与处理；本次作业选取的指标有X1（人均GDP/元）、
X2（第三产业增加值/千万元）、X3（第三产业占GDP的比重/%）、X4（第三产业从业人员数比重/%）X5（第二产业占GDP的比重/%）、X6（总人口/万人）、X7（农民人均纯收入/元）、X8（城镇居民可支配收入/元）、X9（市区人民人均医疗保健消费支出/元）、X10（非农业人口比重/%）、X11（地方财政收入/万元）、X12（规模以上工业总产值/千万元）、X13（农业总产值/万元）、X14（商品进出口总额/美元）、X15（社会消费品零售总额/万元）、
X16（实际利用外资额/万美元）。
运用spss19.0，首先对原始数据进行标准化处理，后经过降维进行因子分析，得到表1相关系数矩阵、表2表征值及贡献率、表3主成分载荷因子矩阵、表4主成分得分。
表1 2012年安徽省各市有关指标相关系数矩阵
X1X2X3X4X4X6X7X8X9X10X11X12X13X14X15X16 X1 1.000
X20.276 1.000
X3-0.309 0.343 1.000
X40.79 0.394 0.034 1.000
X40.809 0.043 -0.672 0.589 1.000
X6-0.417 0.587 0.255 -0.375 -0.516 1.000
X70.826 0.192 -0.102 0.733 0.659 -0.549 1.000
X80.758 0.343 -0.164 0.61 0.584 -0.254 0.823 1.000
X9-0.06 0.018 -0.286 0.013 0.124 -0.024 0.043 0.131 1.000
X100.832 0.131 -0.504 0.725 0.916 -0.486 0.62 0.528 0.21 1.000
X110.391 0.977 0.274 0.508 0.187 0.451 0.348 0.435 0.038 0.263 1.000
X120.474 0.938 0.095 0.532 0.303 0.429 0.376 0.453 0.077 0.343 0.962 1.000
X13-0.582 0.341 0.257 -0.51 -0.708 0.913 -0.648 -0.362 0.118 -0.659 0.184 0.17 1.000
X140.643 0.901 0.153 0.612 0.346 0.296 0.523 0.635 0.013 0.421 0.93 0.926 0.044 1.000
X150.145 0.977 0.338 0.274 -0.054 0.709 0.039 0.22 0.007 0.029 0.936 0.896 0.468 0.822 1.000
X160.524 0.806 0.066 0.604 0.358 0.226 0.586 0.729 0.218 0.354 0.86 0.892 0.034 0.871 0.729 1.000
表2 表征值及贡献率
成份初始特征值提取平方和载入
合计方差的% 累积% 合计方差的% 累积%
1 7.380 46.128 46.128 7.380 46.128 46.128
2 5.00
3 31.268 77.396 5.003 31.268 77.396
3 1.450 9.062 86.458 1.450 9.062 86.458
4 0.893 5.579 92.037
5 0.608 3.799 95.837
6 0.259 1.619 97.455
7 0.172 1.077 98.532
8 0.126 0.790 99.321
9 0.046 0.285 99.606
10 0.027 0.171 99.777
11 0.015 0.094 99.871
12 0.010 0.065 99.936
13 0.008 0.047 99.983
14 0.002 0.014 99.997
15 0 0.003 100
16 8.02E-17 5.01E-16 100
表3 主成分载荷因子矩阵
指标
成份
1 2 3
X
14
0.927 0.311
X160.898
X120.869 0.435
X110.838 0.511
X10.802 -0.491
X40.795 -0.313
X80.769
X20.749 0.646
X70.73 -0.504
X100.66 -0.605
X60.93
X130.873
X150.643 0.742
X50.615 -0.673
X90.727
X30.547 -0.722
表4 主成分得分
序号区域第一主成分F1第二主成分F2第三主成分F3综合得分ΣF排名
7 合肥 3.414 0.212 -0.630 1.584 1
14 芜湖0.811 0.942 0.662 0.729 2
12 马鞍山0.238 1.363 0.672 0.597 3
13 铜陵-0.557 1.998 0.440 0.408 4
9 淮南-0.581 0.533 0.494 -0.056 5
2 蚌埠-0.068 -0.246 0.488 -0.064 6
8 淮北-0.646 0.058 1.863 -0.111 7
5 滁州-0.121 -0.695 1.305 -0.155 8
16 宣城-0.386 0.197 -0.835 -0.192 9
1 安庆0.000 -0.57
2 -0.179 -0.195 10
10 黄山-0.709 0.644 -1.938 -0.301 11
4 池州-0.881 0.462 -1.704 -0.416 12
3 亳州-0.217 -1.049 -0.109 -0.438 13
15 宿州-0.153 -1.164 -0.065 -0.440 14
11 六安-0.213 -0.930 -0.653 -0.448 15
6 阜阳0.069 -1.753 0.188 -0.499 16
由表1可知，在影响经济综合实力的16个变量因子中存在着不同程度的相关，因此也说明运用主成分分析方法分析安徽省各市经济综合实力具有一定的可行性，同时也进步一步说明了主成分分析的必要性。
主成分个数提取原则为主成分对应的特征值大于1的前n个主成分，即特征值在某种程度上可以被看成是表示主成分影响力度大小的指标，如果特征值大于1，说明该主成分的解释力度还不如直接引入一个原变量的平均解释力度大，因此一般可以用特征值大于1作为纳入标准。从表2特征值及贡献率可以看出特征值大于1的成分有3个，其值分别达到7.38、5.003和1.45。方差贡献率反映的是某一主成分描述的方差占原有变量总方差的比例，累积方差贡献率表示前n个主成分的总方差占原有变量的总方差的比例。从表2特征值及贡献率可以看出前3个主成分的累积方差贡献率达到了86.458%，已经超过85%的标准，反映了原有16个变量90%以上的变异信息。综合以上对特征值和累积方差贡献率的分析，确定选取前3个主成分作为评价安徽省各市综合实力新变量来进行下一步的分析。
在以上分析的基础上，为了进一步说明主成分的实际社会经济意义，体现主成分和原始变量的相关程度，本文采用主成分载荷矩阵来对其加以实际说明。通过表3主成分载荷因子矩阵可知，其第一主成分概括为宏观经济水平的差异，第二主成分可概括社会结构的差异，第三主成分可概括为生活质量上的差异。通过以上分析可知，影响地区综合实力的主要因子有经济水平、社会结构、社会质量以及其它，这里的其它包括经济结构、城市化水平、人口结构等。
为了进一步分析安徽省各地区经济发展水平的差异，本次作业用spss19.0数据处理软件，对16个相关指标进行聚类分析，得到图一安徽省16个地区综合实力Ward联接聚类谱系图。
图1 安徽省16个地区综合实力Ward联接聚类谱系图根据图1安徽省16个地区综合实力Ward联接聚类谱系图进一步对安徽省16个地区进行综合评价，可把安徽省各区经济实力分为4大梯度地区：
第一梯度：发达地区，以合肥为主的省会。从表4主成分得分可以看出，合肥主成分得分达到1.584，远远高于其他地区，合肥为安徽省省会，作为全省政治、经济、文化、科教中心，具有得天独厚的区位优势，尤其是2010年把巢湖主要地区并入之后，经济实力大增，经济实力雄厚，产业结构层次较高。
第二梯度：次发达地区，包括铜陵、芜湖、马鞍山。马芜铜三地区是安徽省三个传统的经济强区，其丰富的自然资源优势为经济的发展打下了坚实的基础；其次，此地区为皖江城市带主要地区，在承接东部产业转移方面扮演重要的角色，是皖江城市带的核心地区；同时，此地区地处长江沿线，区位优势明显，城市化水平高，第二产业比重大，经济实力雄厚，其中芜湖作为安徽省副省会，优势更加明显；从表4主成分得分分析结果中也可以看出，其得分都大于0，排名比较高。
第三梯度：欠发达地区，包括池州、宣城、黄山、蚌埠、滁州、淮北、淮南7市。其中池州、宣城、黄山地处皖南地区，旅游资源丰富，第三产业比重大，旅游业发展迅速，已形成独特的以发展旅游业为特色、高层次高结构的产业体系；蚌埠市是皖北重要的工业城市，以轻纺工业为主；淮南淮北两地煤炭资源丰富，是华东地区主要的煤炭供应基地，经济较发达；滁州作为皖江城市带城市之一，近几年经济发展也较快。
第四梯度：贫困地区，包括亳州、宿州、安庆、阜阳、六安5个地区。这几个地区，第一产业比重大，产业基础薄弱，经济发展不平衡，总人口多，经济落后，城市化水平低，主要由于政府对其政策与投资较少，为了全省各地区均衡发展，应给予此地区更多的政策与投资。
为了进一步分析此分类结果的真实性，本文采取判别分析方法对分类结果进行了合理性检验，结果见表5。
表5 判别分析结果
分类
预测组成员
合计1 2 3 4
初始计数第一梯度 1 0 0 0 1
第二梯度0 3 0 0 3
第三梯度0 0 7 0 7
第四梯度0 0 0 5 5 % 1 100 0 0 0 100
2 0 100 0 0 100
3 0 0 100 0 100
4 0 0 0 100 100
a. 已对初始分组案例中的100.0% 个进行了正确分类。
从表5中可以看出，判别结果与分类结果100%相一致，说明了此次分析结果是比较合理的。
由于是课堂作业，评价指标体系侧重点不同，因此会存在一定的不足之处，但从总体上看基本上反映了安徽省各地区经济发展的现状。
基于主成分分析法的科技投入产出聚类分析
2009年第11期 科技管理研究Science and Technol ogyM anage ment Research 2009No 111 收稿日期:2009-08-25,修回日期:2009-09-11 文章编号:1000-7695(2009)11-0169-03 基于主成分分析法的科技投入产出聚类分析 秦浩源 (华中科技大学管理学院,湖北武汉 430074) 摘要:在科技投入与产出指标体系的基础上,利用主成分分析法将指标进行综合,通过区域聚类分析对我国科技经费的配置效果进行评价,为科技体制改革、科技活动的结构调整、科技经费的优化配置和科学管理提供依据。 关键词:科技经费;投入产出;主成分分析法;聚类分析法中图分类号:F223 文献标识码:A 1 引言 随着科技经济一体化进程的不断加深,科技对经济增长 的贡献程度不断提高,各国纷纷加大对科技经费的投入力度以促进科技经济更好更快地协调发展。在各国科技投入不断增加的同时,科技经费资源的稀缺性、配置的低效性则越来越凸显出来:我国长期以来形成科技经费资源的粗放式投入模式,造成了科技经费配置中的巨大浪费[1-2];较高的科技投入并不能带来高质量的科技成果,等等。这严重制约了我国科技创新能力的提高,不利于充分发挥科技对经济的支撑和促进作用。 因此,对科技投入产出状况进行研究,提高科技经费配置效率就显得十分必要,这对缓解我国科技投入压力、提高我国的科技创新能力和科技竞争力具有极其重要的现实意义。 2 指标体系及数据获取 在进行指标选取时,分别考虑科技经费投入、科技活动产出以及两者的关系。科技经费投入指标主要考虑各种科技财力资源,而科技产出指标主要包括知识形态的成果和科技转化成果。因此,在指标的选取时,注重对统计指标进行研究,以避免定性分析带来主观影响。本文选取科技经费投入指标包括:科技经费筹集总额,科技经费中政府投资总额,R&D 经费内部支出总额,R&D 经费内部支出总额与G DP 的比值等;科技活动产出指标包括:发明专利申请受理数,被SC I 、E I 、I STP 检索的论文数,技术市场成交合同金额,高技术产业增加值等。具体的科技投入产出指标如表1所示。 表1 科技投入产出指标 指标 分类 指标名称 指标编号 科技投入指标 科技经费筹集总额(万元)T 1科技经费中政府投资总额(万元)T 2R&D 经费内部支出总额(万元)T 3R&D 经费内部支出总额与G DP 的比值(%) T 4科技产出指标 发明专利申请受理数(件)C 1被SC I 、E I 、I STP 检索的论文数(篇)C 2技术市场成交合同金额(万元)C 3高技术产业增加值(万元) C 4 注:所用数据为2007年各地区科技投入产出指标数值,数据来源于《中国统计年鉴2008》和《中国科技统计年鉴2008》。 3 基于主成分分析法的科技投入产出能力指标综合 本文采用主成分分析法获得投入产出综合能力指数。主成分分析法是通过研究指标体系的内在结构关系,将多个指标的问题化为少数指标问题的一种多元统计分析方法,即把原来多个指标转化为一个或几个综合指标,并且这些少量的指标能够包含原来多个指标的绝大部分信息。 (1)主成分分析法的基本步骤 1)标准化处理。标准化处理也即无量纲化,就是针对量纲不同的各指标间不能简单相加的情况,通过变换,用比率的形式来消除量纲不同所带来的影响,使原本不可以直接相加的变量可以相加。 本文采用的无量纲化的计算公式为: 指标L 比率=011+019×[(L -L m in )/(L max -L m in )] 其中,L max 、L m in 分别表示参加比较的各地区中该指标的最大值和最小值;L 则表示某地区该指标的实际值。 2)通过SPSS 主成分分析选取所选数据主成分,一般要求累计贡献率达到一定要求(如不小于85%)来确定样本主成分个数。 3)用原指标的线性组合来计算各主成分得分[3-4] 。以各主成分对原指标的相关系数为权,即载荷系数为权,将主成分用原指标的线性组合表示,主成分的经济意义由权数较大指标的综合意义决定。 I j =u j 1T 1+u j 2T 2+u j 3T 3+u j 4T 4 (u j 1,u j 2,u j 3,u j 4为主成分对应载荷) O j =v j 1C 1+v j 2C 2+v j 3C 3+v j 4C 4 (v j 1,v j 2,v j 3,v j 4为主成分对应载荷) 4)综合得分。以各主成分方差贡献率为权,进行线性组合得到综合评价指标函数。 I = w 1I 1+w 2I 2+…+w j I j w 1+w 2+…+w j O = w 1O 1+w 2O 2+…+w j O j w 1+w 2+…+w j 其中,w j 为主成分占总方差的比例。 5)得分排序。算出总得分进行名次排序。(2)科技投入产出能力计算 运用SPSS 对标准化后数据进行主成分分析,得到投入指标第一个主成分占总方差的861393%,可代表原来四个指标的全部信息,并且第一主成分在投入指标上的载荷分别为
主成分分析和聚类分析报告
北京建筑工程学院 理学院信息与计算科学专业实验报告 课程名称《数据分析》实验名称《主成分分析和聚类分析》实验地点：基础楼C-423日期__2016.5.5_____ 姓名张丽芝班级信131 学号201307010108___指导教师王恒友成绩 【实验目的】 （1）熟悉利用主成分分析进行数据分析，能够使用SPSS软件完成数据的主成分分析； （2）熟悉利用聚类分析进行数据分析，能够运用主成分分析的结果，做进一步分析，如聚类分析、回归分析等，能够使用SPSS软件完成该任务。 【实验要求】 根据各个题目的具体要求，分别运用SPSS软件完成实验任务。 【实验内容】 1、表4.9（数据见exercise4_5.txt）给出了1991年我国30个省市、城镇居民的月平均消 费数据，所考察的八个指标如下：（单位均为元/人） X1: 人均粮食支出；X2：人均副食支出； X3: 人均烟酒茶支出；X4: 人均其他副食支出； X5:人均衣着商品支出；X6: 人均日用品支出； X7: 人均燃料支出；X8: 人均非商品支出。 （1）求样本相关系数矩阵R。 （2）从R出发做主成分分析，求出各主成分的贡献率及前两个主成分的累积贡献率； 2、（1）对题1中的数据，按照原有的八个指标，对30个省份进行聚类，给出分为3
类的聚类结果。 （2）利用题1得到的前2个主成分指标，分别按最短距离法（最近邻居距离）、最长距离法（最远邻居距离）、类平均距离法（组间平均距离）、重心距离法；其中距离均采用欧式平方距离，对样本进行谱系聚类分析，并画出谱系聚类图；给出分为3类的聚类结果。并与（1）的结果进行比较 【实验步骤】（此部分主要包括实验过程、方法、结果、对结果的分析、结论等） 1 1） 2） 表:方差贡献率和累计贡献率
主成分分析(资料分享)
主成分分析 起源及发展 主成分分析是1901年Pearson对非随机变量引入的，1933年Hotelling将此方法推广到随机向量的情形，主成分分析和聚类分析有很大的不同，它有严格的数学理论作基础。 原理 在用统计分析方法研究多变量的课题时，变量个数太多就会增加课题的复杂性。人们自然希望变量个数较少而得到的信息较多。在很多情形，变量之间是有一定的相关关系的，当两个变量之间有一定相关关系时，可以解释为这两个变量反映此课题的信息有一定的重叠。主成分分析是对于原先提出的所有变量，将重复的变量（关系紧密的变量）删去多余，建立尽可能少的新变量，使得这些新变量是两两不相关的，而且这些新变量在反映课题的信息方面尽可能保持原有的信息。 设法将原来变量重新组合成一组新的互相无关的几个综合变量，同时根据实际需要从中可以取出几个较少的综合变量尽可能多地反映原来变量的信息的统 计方法叫做主成分分析或称主分量分析，也是数学上用来降维的一种方法。 应用学科 主成分分析作为基础的数学分析方法，其实际应用十分广泛，比如人口统计学、数量地理学、分子动力学模拟、数学建模、数理分析等学科中均有应用，是一种常用的多变量分析方法。 评价步骤 1）对原始数据进行标准化处理 假设进行主成分分析的指标变量有m个：,,…,，共有n个评价对象，第i个评价对象的第j个指标的取值为。将各指标值转换成标准化指标，有 ，（i =1,2,…,n ; j =1,2,…,m）
其中， , ，即为第j个指标的样本均值和样本标准差。对应地，称 ，（j =1,2,…,m） 为标准化指标变量。 2）计算相关系数矩阵R 相关系数矩阵, 有 , （i,j =1,2,…,m） 式中，=，是第i个指标与第j个指标的相关系数。 3）计算特征值和特征向量 计算相关系数矩阵R的特征值，及对应的特征向量，其中，由特征向量组成m个新的指标变量: ? 式中是第1主成分，是第2主成分，…，是第m 主成分。 4）选择个主成分，计算综合评价值 ① 计算特征值的信息贡献率和累积贡献率。称
主成分分析、聚类分析、因子分析的基本思想及优缺点
注意事项：1. 系统聚类法可对变量或者记录进行分类，K-均值法只能对记录进行分类； 2. K-均值法要求分析人员事先知道样品分为多少类； 3. 对变量的多元正态性，方差齐性等要求较高。应用领域：细分市场，消费行为划分，设计抽样方案等 优点：聚类分析模型的优点就是直观，结论形式简明。 缺点：在样本量较大时，要获得聚类结论有一定困难。由于相似系数是根据被试的反映来建立反映被试间内在联系的指标，而实践中有时尽管从被试反映所得出的数据中发现他们之间有紧密 的关系，但事物之间却无任何内在联系，此时，如果根据距离或相似系数得出聚类分析的结果，显然是不适当的，但是，聚类分析模型本身却无法识别这类错误。 因子分析：利用降维的思想，由研究原始变量相关矩阵内部的依赖关系出发，把一些具有错综复杂关系的变量归结为少数几个综合因子。（因子
分析是主成分的推广，相对于主成分分析，更倾向于描述原始变量之间的相关关系），就是研究如何以最少的信息丢失，将众多原始变量浓缩成少数几个因子变量，以及如何使因子变量具有较强的可解释性的一种多元统计分析方法。 求解因子载荷的方法：主成分法，主轴因子法，极大似然法，最小二乘法，a因子提取法。 注意事项：5. 因子分析中各个公共因子之间不相关，特殊因子之间不相关，公共因子和特殊因子之间不相关。 应用领域：解决共线性问题，评价问卷的结构效度，寻找变量间潜在的结构，内在结构证实。 优点:第一它不是对原有变量的取舍，而是根据原始变量的信息进行重新组合，找出影响变量的共同因子，化简数据；第二，它通过旋转使得因子变量更具有可解释性，命名清晰性高。 缺点:在计算因子得分时，采用的是最小二乘法，此法有时可能会失效。 判别分析：从已知的各种分类情况中总结规律（训练出判别函数），当新样品进入时，判断其与判别函数之间的相似程度（概率最大，距离最
主成分分析、聚类分析、因子分析的基本思想及优缺点
主成分分析：利用降维（线性变换)的思想，在损失很少信息的前提下把多个指标转化为几个综合指标（主成分),用综合指标来解释多变量的方差- 协方差结构，即每个主成分都是原始变量的线性组合,且各个主成分之间互不相关,使得主成分比原始变量具有某些更优越的性能（主成分必须保留原始变量90%以上的信息），从而达到简化系统结构，抓住问题实质的目的综合指标即为主成分。 求解主成分的方法：从协方差阵出发（协方差阵已知），从相关阵出发（相关阵R已知）。（实际研究中，总体协方差阵与相关阵是未知的，必须通过样本数据来估计） 注意事项：1. 由协方差阵出发与由相关阵出发求解主成分所得结果不一致时，要恰当的选取某一种方法； 2. 对于度量单位或是取值范围在同量级的数据，可直接求协方差阵；对于度量单位不同的指标或是取值范围彼此差异非常大的指标，应考虑将数据标准化，再由协方差阵求主成分； 3.主成分分析不要求数据来源于正态分布； 4. 在选取初始变量进入分析时应该特别注意原始变量是否存在多重共线性的问题（最小特征根接近于零，说明存在多重共线性问题）。 优点：首先它利用降维技术用少数几个综合变量来代替原始多个变量，这些综合变量集中了原始变量的大部分信息。其次它通过计算综合主成分函数得分，对客观经济现象进行科学评价。再次它在应用上侧重于信息贡献影响力综合评价。 缺点：当主成分的因子负荷的符号有正有负时，综合评价函数意义就不明确。命名清晰性低。 聚类分析：将个体（样品）或者对象（变量）按相似程度（距离远近）划分类别，使得同一类中的元素之间的相似性比其他类的元素的相似性更强。目的在于使类间元素的同质性最大化和类与类间元素的异质性最大化。 。其主要依据是聚到同一个数据集中的样本应该彼此相似，而属于不同组的样本应该足够不相似。 常用聚类方法：系统聚类法，K-均值法，模糊聚类法，有序样品的聚类，分解法，加入法。 注意事项：1. 系统聚类法可对变量或者记录进行分类，K-均值法只能对记录进行分类；2. K-均值法要求分析人员事先知道样品分为多少类；
系统工程 主成分分析及聚类分析
泛珠三角区域物流发展水平综合评价研究 资料来源：吴晓燕. 泛珠三角区域物流发展水平综合评价研究 泛珠三角区域是我国最主要的经济发达地区之一，也是现代物流最为强劲的“增长极”，具有优越的地理、交通与经济区位优势。但是区域内有发达省份，也有不发达省份，有沿海的省份，也有内陆省份，有东部省份，也有西部省份，彼此之间存在不同的优势和劣势。因此对泛珠三角区域物流发展水平进行评估与分析，有利于明确广东、福建、江西、广西、海南、湖南、四川、云南、贵州九省(区)的区域物流发展现状及差异，找出区域间的优势互补项目，为区域内物流资源有效利用和合理共享、促进区域物流一体化发展提供方向和依据。 评价区域物流综合发展水平是一项很复杂的工作。选择并构建区域物流发展水平综合评价指标体系是评价的关键。因此选择指标构建评价指标体系，必须以综合评价目的为依据，对所要考察的事物进行认真分析，寻找出影响评价对象的因素，从中选出若干主要因素，构建成综合评价指标体系。在多指标综合评价中，如果指标选择不当，再好的综合评价方法也会出现差错，甚至完全失败。 区域物流发展水平评价指标体系实际上就是利用具体的指标将区域物流所包括的功能、区域物流的内涵、特征具体化、层次化的统计描述和综合评价。为了合理评估区域物流发展综合水平，我们主要选取6个一级评价指标，20个次级评价指标对其进行评估，具体结构如下表：
表1 区域物流发展水平评价指标体系 1、社会经济发展类 经济发展是区域物流发展的基础保障，一个地区雄厚的经济基础有利于该物流的加速发展。一般来说，区域物流发展水平与区域的经济发展水平成正比。因此，我们考虑GDP和人均GDP两个次级指标，他们综合反映了物流发展的社会经济基础。 2、生产、消费流通类 从物流需求源考虑，农业、制造业等产业中的物流需求主要是生产资料的位移、储存和流通加工等，这类产业的物流需求与各行业的产量产值存在正比关系，物流需求是商品需求的派生物，与消费品销售，生产资料市场直接相关，商品市场的规模直接决定物流需求的大
主成分分析、聚类分析比较教学提纲
主成分分析、聚类分 析比较
主成分分析、聚类分析的比较与应用
主成分分析、聚类 分析的比较与应用 摘要：主成分分析、聚类分析是两种比较有价值的多元统计方法,但同时也是在使用过程中容易误用或混淆的几种方法。本文从基本思想、数据的标准化、应用上的优缺点等方面,详细地探讨了两者的异同,并且 举例说明了两者在实际问题中的应用。 关键词：spss、主成分分析、聚类分析 一、基本概念 主成分分析就是设法将原来众多具有一定相关性（比如P个指标），重新组合成一组新的互相无关的综合指标来代替原来的指标。综合指标即为主成分。所得出的少数几个主成分，要尽可能多地保留原始变量的信息，且彼此不相关。 因子分析是研究如何以最少的信息丢失，将众多原始变量浓缩成少数几个因子变量，以及如何使因子变量具有较强的可解释性的一种多元统计分析方法。 聚类分析是依据实验数据本身所具有的定性或定量的特征来对大量的数据进行分组归类以了解数据集的内在结构，并且对每一个数据集进行描述的过程。 其主要依据是聚到同一个数据集中的样本应该彼此相似，而属于不同组的样本应该足够不相似。 二、基本思想的异同 （一）共同点 主成分分析法和因子分析法都是用少数的几个变量(因子) 来综合反映原始变量(因子) 的主要信息，变量虽然较原始变量少，但所包含的信息量却占原始信息的85 %以上，所以即使用少数的几个新变量，可信度也很高，也可以有效地解释问题。并且新的变量彼此间互不相关，消除了多重共线性。这两种分析
法得出的新变量，并不是原始变量筛选后剩余的变量。在主成分分析中，最终确定的新变量是原始变量的线性组合，如原始变量为x1 ，x2 ，. . . ，x3 ，经过坐标变换，将原有的p个相关变量xi 作线性变换，每个主成分都是由原有p 个变量线性组合得到。在诸多主成分Zi中，Z1 在方差中占的比重最大，说明它综合原有变量的能力最强，越往后主成分在方差中的比重也小，综合原信息的能力越弱。因子分析是要利用少数几个公共因子去解释较多个要观测变量中存在的复杂关系，它不是对原始变量的重新组合，而是对原始变量进行分解，分解为公共因子与特殊因子两部分。公共因子是由所有变量共同具有的少数几个因子；特殊因子是每个原始变量独自具有的因子。 对新产生的主成分变量及因子变量计算其得分，就可以将主成分得分或因子得分代替原始变量进行进一步的分析，因为主成分变量及因子变量比原始变量少了许多，所以起到了降维的作用，为我们处理数据降低了难度。 聚类分析的基本思想是: 采用多变量的统计值，定量地确定相互之间的亲疏关系，考虑对象多因素的联系和主导作用，按它们亲疏差异程度，归入不同的分类中一元，使分类更具客观实际并能反映事物的内在必然联系。也就是说，聚类分析是把研究对象视作多维空间中的许多点，并合理地分成若干类，因此它是一种根据变量域之间的相似性而逐步归群成类的方法，它能客观地反映这些变量或区域之间的内在组合关系。聚类分析是通过一个大的对称矩阵来探索相关关系的一种数学分析方法，是多元统计分析方法，分析的结果为群集。对向量聚类后，我们对数据的处理难度也自然降低，所以从某种意义上说，聚类分析也起到了降维的作用。 (二) 不同之处 主成分分析是研究如何通过少数几个主成分来解释多变量的方差一协方差结构的分析方法，也就是求出少数几个主成分(变量) ，使它们尽可能多地保留原始变量的信息，且彼此不相关。它是一种数学变换方法，即把给定的一组变量通过线性变换，转换为一组不相关的变量(两两相关系数为0 ，或样本向量彼此相互垂直的随机变量) ，在这种变换中，保持变量的总方差(方差之和) 不变，同时具有最大方差，称为第一主成分；具有次大方差，称为第二主成分。依次类推。若共有p 个变量，实际应用中一般不是找p 个主成分，而是找出m
主成分和聚类分析
4实证过程与结果 4.1主成分与聚类分析 首先通过SPSS软件对环境污染的相应指标进行主成分分析，得到：提取Y1、Y2、Y3和Y4四个主成分，其累积贡献率已经达到，超过80%，代表所有环境污染指标的绝大部分信息。Y1偏向于解释工业氢氧化物排放量，Y2偏向于解释生活烟尘排放量，Y3偏向于解释生活废水排放量，Y4偏向于解释工业二氧化硫排放量。 然后，根据主成分分析结果，用Z=0.43226*Y1+0.21911*Y2+0.10380*Y3+ 0.06519*Y4计算综合得分，见下表1。 表1环境污染地区的主成分综合得分表 序号地区Z 排名序号地区Z 排名 1 北京0.863 5 17 武汉-0.116 13 2 天津 1.088 4 18 长沙-0.841 28 3 石家庄0.455 6 19 广州-0.373 19 4 太原0.209 8 20 南宁-0.519 24 5 呼和浩特-0.052 12 21 海口-1.29 31 6 沈阳-0.273 1 7 22 重庆 2.767 1 7 长春-0.257 16 23 成都-0.451 20 8 哈尔滨 2.489 2 24 贵阳-0.331 18 9 上海 1.979 3 25 昆明-0.552 26 10 南京-0.232 15 26 拉萨-1.275 30 11 杭州0.175 9 27 西安0.357 7 12 合肥-0.5 21 28 兰州-0.514 23 13 福州-0.525 25 29 西宁0.004 11 14 南昌-0.949 29 30 银川-0.702 27 15 济南0.022 10 31 乌鲁木齐-0.502 22 16 郑州-0.152 14 最后将环境污染的综合得分作为个案进行层次聚类分析，将31个地区分为5类，如表2。
主成分分析、聚类分析比较
主成分分析、聚类分析的比较与应用
主成分分析、聚类 分析的比较与应用 摘要：主成分分析、聚类分析是两种比较有价值的多元统计方法,但同时也是在使用过程中容易误用或混淆的几种方法。本文从基本思想、数据的标准化、应用上的优缺点等方面,详细地探讨了两者的异同,并且 举例说明了两者在实际问题中的应用。 关键词：spss、主成分分析、聚类分析 一、基本概念 主成分分析就是设法将原来众多具有一定相关性（比如P个指标），重新组合成一组新的互相无关的综合指标来代替原来的指标。综合指标即为主成分。所得出的少数几个主成分，要尽可能多地保留原始变量的信息，且彼此不相关。因子分析是研究如何以最少的信息丢失，将众多原始变量浓缩成少数几个因子变量，以及如何使因子变量具有较强的可解释性的一种多元统计分析方法。 聚类分析是依据实验数据本身所具有的定性或定量的特征来对大量的数据进行分组归类以了解数据集的在结构，并且对每一个数据集进行描述的过程。其主要依据是聚到同一个数据集中的样本应该彼此相似，而属于不同组的样本应该足够不相似。 二、基本思想的异同 （一）共同点 主成分分析法和因子分析法都是用少数的几个变量(因子) 来综合反映原始变量(因子) 的主要信息，变量虽然较原始变量少，但所包含的信息量却占原始信息的85 %以上，所以即使用少数的几个新变量，可信度也很高，也可以有效地解释问题。并且新的变量彼此间互不相关，消除了多重共线性。这两种分析法得出的新变量，并不是原始变量筛选后剩余的变量。在主成分分析中，最终确定的新变量是原始变量的线性组合，如原始变量为x1 ，x2 ，. . . ，x3 ，经过
主成分和聚类分析
4实证过程与结果 主成分与聚类分析 首先通过SPSS软件对环境污染的相应指标进行主成分分析，得到： 提取Y 1、Y 2 、Y 3 和Y 4 四个主成分，其累积贡献率已经达到，超过80%，代表 所有环境污染指标的绝大部分信息。Y 1偏向于解释工业氢氧化物排放量，Y 2 偏向 于解释生活烟尘排放量，Y 3偏向于解释生活废水排放量，Y 4 偏向于解释工业二氧 化硫排放量。 然后，根据主成分分析结果，用Z=*Y 1+*Y 2 +*Y 3 + *Y 4 计算综合得分，见下表1。 表1 环境污染地区的主成分综合得分表 序号地区Z排名序号地区Z排名1北京517武汉13 2天津418长沙28 3石家庄619广州19 4太原820南宁24 5呼和浩特1221海口31 6沈阳1722重庆1 7长春1623成都20 8哈尔滨224贵阳18 9上海325昆明26 10南京1526拉萨30 11杭州927西安7 12合肥2128兰州23 13福州2529西宁11 14南昌2930银川27 15济南1031乌鲁木齐22 16郑州14 最后将环境污染的综合得分作为个案进行层次聚类分析，将31个地区分为5类，如表2。 表2 各地区污染分类 分类污染情况地区 1轻度污染海口、拉萨
2比较轻度污染合肥、乌鲁木齐、福州、南宁、兰州、，昆明、成都、银川、南昌、长沙、沈阳、长春、南京、广州、贵阳、郑州、武汉、济南、西宁、呼和浩特 3污染情况一般太原、杭州、石家庄、西安 4污染比较严重北京、天津 5污染十分严重上海、哈尔滨、重庆 主成分分析和聚类分析在SPSS中的操作过程 打开SPSS，“文件-打开-数据”，选中excel，如下图结果。 首先将变量标准化，“分析-描述统计-描述”，将变量全部选入对话框，点上“将标准化得分另存为变量（Z）”，结果如下。
聚类分析与主成分分析SAS的程序
实验三我国各地区城镇居民消费性支出的 主成分分析和聚类分析 （王学民编写） 一、实验目的 1.掌握如何使用SAS软件来进行主成分分析和聚类分析； 2.看懂和理解SAS输出的结果，并学会以此来作出分析； 3.掌握对实际数据如何来进行主成分分析； 4.对同一组数据使用五种系统聚类方法及k均值法，学会对各种聚类效果的比较，获取重要经验； 5.掌握使用主成分进行聚类 二、实验内容 数据集sasuser.examp633中含有1999年全国31个省、直辖市和自治区的城镇居民家庭平均每人全年消费性支出的八个主要变量数据。对这些数据进行主成分分析，可将这31个地区的前两个主成分得分标示于平面坐标系内，对各地区作直观的比较分析。对同样的数据使用五种系统聚类方法及k均值法聚类，并对聚类效果作比较。最后，对主成分的图形聚类和正规聚类的效果进行比较。 实验1 进行主成分分析，根据前两个主成分得分所作的散点图对31个地区进行比较分析。 实验2 分别使用最长距离法、中间距离法、两种类平均法、离差平方和法和k均值法进行聚类分析，并比较其聚类效果。 实验3 主成分聚类，并与上述正规的聚类方法进行比较 三、实验要求 1.用SAS软件的交互式数据分析菜单系统完成主成分分析； 2.完成五种系统聚类方法及k均值法，比较其聚类效果； 3.根据前两个主成分得分的散点图作直观的聚类，并与上述正规的聚类方法进行比较。 四、实验指导
1.进行主成分分析 在inshigt中打开数据集sasuser.examp633，见图1。选菜单过程如下： 在图1中选分析?多元（Y X）?在变量框中选x1，x2，x3，x4，x5，x6，x7，x8(见图2)?Y?选输出?选主分量分析，主分量选项（见图3）?在图4中作图中的选择（主成分个数缺省时为“自动”选项，此时只输出特征值大于1的主成分）?确定?确定?确定 图1 图2
主成分分析法概念及例题
主成分分析法 主成分分析（principal components analysis，PCA）又称：主分量分析，主成分回归分析法 [编辑] 什么是主成分分析法 主成分分析也称主分量分析，旨在利用降维的思想，把多指标转化为少数几个综合指标。 在统计学中，主成分分析（principal components analysis,PCA）是一种简化数据集的技术。它是一个线性变换。这个变换把数据变换到一个新的坐标系统中，使得任何数据投影的第一大方差在第一个坐标(称为第一主成分)上，第二大方差在第二个坐标(第二主成分)上，依次类推。主成分分析经常用减少数据集的维数，同时保持数据集的对方差贡献最大的特征。这是通过保留低阶主成分，忽略高阶主成分做到的。这样低阶成分往往能够保留住数据的最重要方面。但是，这也不是一定的，要视具体应用而定。 [编辑] 主成分分析的基本思想
在实证问题研究中，为了全面、系统地分析问题，我们必须考虑众多影响因素。这些涉及的因素一般称为指标，在多元统计分析中也称为变量。因为每个变量都在不同程度上反映了所研究问题的某些信息，并且指标之间彼此有一定的相关性，因而所得的统计数据反映的信息在一定程度上有重叠。在用统计方法研究多变量问题时，变量太多会增加计算量和增加分析问题的复杂性，人们希望在进行定量分析的过程中，涉及的变量较少，得到的信息量较多。主成分分析正是适应这一要求产生的，是解决这类题的理想工具。 同样，在科普效果评估的过程中也存在着这样的问题。科普效果是很难具体量化的。在实际评估工作中，我们常常会选用几个有代表性的综合指标，采用打分的方法来进行评估，故综合指标的选取是个重点和难点。如上所述，主成分分析法正是解决这一问题的理想工具。因为评估所涉及的众多变量之间既然有一定的相关性，就必然存在着起支配作用的因素。根据这一点，通过对原始变量相关矩阵内部结构的关系研究，找出影响科普效果某一要素的几个综合指标，使综合指标为原来变量的线性拟合。这样，综合指标不仅保留了原始变量的主要信息，且彼此间不相关，又比原始变量具有某些更优越的性质，就使我们在研究复杂的科普效果评估问题时，容易抓住主要矛盾。上述想法可进一步概述为：设某科普效果评估要素涉及个指标，这指标构成的维随机向量为。对作正交变换，令，其中为正交阵，的各分量是不相关的，使得的各分量在某个评估要素中的作用容易解释，这就使得我们有可能从主分量中选择主要成分，削除对这一要素影响微弱的部分，通过对主分量的重点分析，达到对原始变量进行分析的目的。的各分量是原始变量线性组合，不同的分量表示原始变量之间不同的影响关系。由于这些基本关系很可能与特定的作用过程相联系，主成分分析使我们能从错综复杂的科普评估要素的众多指标中，找出一些主要成分，以便有效地利用大量统计数据，进行科普效果评估分析，使我们在研究科普效果评估问题中，可能得到深层次的一些启发，把科普效果评估研究引向深入。 例如，在对科普产品开发和利用这一要素的评估中，涉及科普创作人数百万人、科普作品发行量百万人、科普产业化（科普示范基地数百万人）等多项指标。经过主成分分析计算，最后确定个或个主成分作为综合评价科普产品利用和开发的综合指标，变量数减少，并达到一定的可信度，就容易进行科普效果的评估。 [编辑] 主成分分析法的基本原理 主成分分析法是一种降维的统计方法，它借助于一个正交变换，将其分量相关的原随机向量转化成其分量不相关的新随机向量，这在代数上表现为将原随机向量的协方差阵变换成对角形阵，在几何上表现为将原坐标系变换成新的正交坐标系，使之指向样本点散布最开的p 个正交方向，然后对多维变量系统进行降维处理，使之能以一个较高的精度转换成低维变量系统，再通过构造适当的价值函数，进一步把低维系统转化成一维系统。 [编辑] 主成分分析的主要作用
聚类分析、判别分析、主成分分析、因子分析
聚类分析、判别分析、主成分分析、因子分析 主成分分析与因子分析的区别 1. 目的不同：因子分析把诸多变量看成由对每一个变量都有作用的一些公共因子和仅对某一个变量有作用的特殊因子线性组合而成，因此就是要从数据中控查出对变量起解释作用的公共因子和特殊因子以及其组合系数；主成分分析只是从空间生成的角度寻找能解释诸多变量变异的绝大部分的几组彼此不相关的新变量（主成分）。 2. 线性表示方向不同：因子分析是把变量表示成各公因子的线性组合；而主成分分析中则是把主成分表示成各变量的线性组合。 3. 假设条件不同：主成分分析中不需要有假设；因子分析的假设包括：各个公共因子之间不相关，特殊因子之间不相关，公共因子和特殊因子之间不相关。 4. 提取主因子的方法不同：因子分析抽取主因子不仅有主成分法，还有极大似然法，主轴因子法，基于这些方法得到的结果也不同；主成分只能用主成分法抽取。 5. 主成分与因子的变化：当给定的协方差矩阵或者相关矩阵的特征值唯一时，主成分一般是固定的；而因子分析中因子不是固定的，可以旋转得到不同的因子。 6. 因子数量与主成分的数量：在因子分析中，因子个数需要分析者指定（SPSS 根据一定的条件自动设定，只要是特征值大于1的因子主可进入分析），指定的因子数量不同而结果也不同；在主成分分析中，成分的数量是一定的，一般有几个变量就有几个主成分（只是主成分所解释的信息量不等）。 7. 功能：和主成分分析相比，由于因子分析可以使用旋转技术帮助解释因子，在解释方面更加有优势；而如果想把现有的变量变成少数几个新的变量（新的变量几乎带有原来所有变量的信息）来进入后续的分析，则可以使用主成分分析。当然，这种情况也可以使用因子得分做到，所以这种区分不是绝对的。 1 、聚类分析 基本原理：将个体（样品）或者对象（变量）按相似程度（距离远近）划分类别，使得同一类中的元素之间的相似性比其他类的元素的相似性更强。目的在于使类间元素的同质性最大化和类与类间元素的异质性最大化。 常用聚类方法：系统聚类法，K-均值法，模糊聚类法，有序样品的聚类，分解法，加入法。
系统工程(基于spss的主成分分析和聚类分析)
系统工程论文 主成分分析与聚类分析 姓名： 学号： 班级： 学院： 指导教师：
数据为2012年全国各省城镇民平均每人全年家庭收入来源的各项数据。数据来源位国家统计局https://www.wendangku.net/doc/4211493265.html,/easyquery.htm?cn=E0103 表1-1 2012年全国各省城镇民平均每人全年家庭收入来源
一 主成分分析 主成分分析（Principal Component Analysis ，PCA ）， 是一种统计方法。通过正交变换将一组可能存在相关性的变量转换为一组线性不相关的变量，转换后的这组变量叫主成分。 其分析步骤如下： 1.1.1 首先将样本数据写成矩阵的形式 ? ? ? ???? ?? ?? ???=6,312,311,310262221 161211 Y Y Y Y Y Y Y Y Y Y （1） 对样本进行标准化处理 标准化处理计算式位 ∑∑∑===??? ??--= 31131131 1 311311311i i ij ij i ij ij ij Y Y Y Y X （2） 经过标准化处理后可得到标准化矩阵 ?? ? ??? ????? ???=6,312 ,3101 ,31262221 1612 11 X X X X X X X X X X （3） 数据标准化是为了消除量纲的影响。 矩阵元素如表1-2所示，标准化矩阵是通过MATLAB 程序实现，源程序在文章最后。 表1-2 标准化数据
1.1.2 计算6个指标的协方差矩阵 ?? ? ??? ????? ???==6,312 ,311 ,31262221 1612 1131 1r r r r r r r r r X X R T （4） 矩阵（4）是一个实对称矩阵。 经计算，矩阵（4）的每一个元素如表格3所示。
主成分和聚类分析
4实证过程与结果 4、1主成分与聚类分析 首先通过SPSS软件对环境污染的相应指标进行主成分分析,得到: 提取Y1、Y2、Y3与Y4四个主成分,其累积贡献率已经达到,超过80%,代表所有环境污染指标的绝大部分信息。Y1偏向于解释工业氢氧化物排放量,Y2偏向于解释生活烟尘排放量,Y3偏向于解释生活废水排放量,Y4偏向于解释工业二氧化硫排放量。 然后,根据主成分分析结果,用Z=0、43226*Y1+0、21911*Y2+0、10380*Y3+ 0、06519*Y4计算综合得分,见下表1。 表1 环境污染地区的主成分综合得分表 序号地区Z 排名序号地区Z 排名 1 北京0、863 5 17 武汉-0、116 13 2 天津1、088 4 18 长沙-0、841 28 3 石家庄0、455 6 19 广州-0、373 19 4 太原0、209 8 20 南宁-0、519 24 5 呼与浩特-0、052 12 21 海口-1、29 31 6 沈阳-0、273 1 7 22 重庆2、767 1 7 长春-0、257 16 23 成都-0、451 20 8 哈尔滨2、489 2 24 贵阳-0、331 18 9 上海1、979 3 25 昆明-0、552 26 10 南京-0、232 15 26 拉萨-1、275 30 11 杭州0、175 9 27 西安0、357 7 12 合肥-0、5 21 28 兰州-0、514 23 13 福州-0、525 25 29 西宁0、004 11 14 南昌-0、949 29 30 银川-0、702 27 15 济南0、022 10 31 乌鲁木齐-0、502 22 16 郑州-0、152 14 最后将环境污染的综合得分作为个案进行层次聚类分析,将31个地区分为5类,如表2。 表2 各地区污染分类 分类污染情况地区
基于主成分分析法及系统聚类分析法的四川省各县市经济发展水平综合评价
1问题提出 经济是指一个国家国民经济的总称.区域经济是在一定区域内经济发展的内部因素与外部条件相互影响而形成的综合性的经济概念，它受到该区域的自然条件、资源开发和利用状况、社会经济条件以及经济政策等各种因素的制约和影响.经济发展为一个国家摆脱贫困落后状态，走向经济和社会生活现代化的过程.区域经济发展不仅意味着该区域国民经济规模的扩大，更意味着经济和社会生活素质的提高.我们要提高某地方人们的生活水平，要更好更快地发展某个地方，就必须充分了解这个地方现有的经济发展状况.因此，现有经济发展状况的研究对将来的发展有着非常重要的指导意义. 四川简称“川”、“蜀”；1952年9月1日正式成立；政治、经济、文化中心—成都.四川历史悠久、风光秀丽、物产丰富，享有“天府之国”美誉，现系“西部综合交通枢纽”、“西部经济发展高地”.四川各个县市的经济发展差异大,如何全面、系统、定量地分析评价四川各县市经济发展水平，本文将运用多元统计学中的主成分分析方法和系统聚类分析法对这一问题进行具体分析. 本文通过建立四川省各县市经济发展水平评价指标体系，运用统计软件SPSS 进行主成分分析及系统聚类分析，对四川省21个县市的经济发展水平进行了综合排序，而后对结果进行了分析,并提出了相应的政策建议.
2 模型的建立 2.1 主成分分析知识： 简介：主成分分析的数学模型是：设n 个变量构成的n 维随机向量为X=（X1，X2，…，Xn ）‘.对X 作正交变换，令Y=T’X ，其中T 为正交阵，要求Y 的各分量是不相关的，并且Y 的第一个分量的方差是最大的，第二个分量的方差次之，……为了保持信息不丢失，Y 的各分量方差和与X 的各分量方差和相等. 原理：设法将原来变量重新组合成一组新的互相无关的几个综合变量，同时根据实际需要从中可以取出几个较少的综合变量尽可能多地反映原来变量的信息的统计方法叫做主成分分析或称主分量分析，也是数学上处理降维的一种方法. 基本思想：主成分分析是设法将原来众多具有一定相关性（比如P 个指标），重新组合成一组新的互相无关的综合指标来代替原来的指标.通常数学上的处理就是将原来P 个指标作线性组合，作为新的综合指标.最经典的做法就是用1F （选取的第一个线性组合，即第一个综合指标）的方差来表达，即()1F Var 越大，表示1F 包含的信息越多.因此在所有的线性组合中选取的1F 应该是方差最大的，故称1F 为第一主成分.如果第一主成分不足以代表原来P 个指标的信息，再考虑选取2F 即选第二个线性组合，为了有效地反映原来信息，1F 已有的信息就不需要再出现在2F 中，用数学语言表达就是要求()0,21=F F Cov ，则称2F 为第二主成分，依此类推可以构造出第三、第四，……，第P 个主成分. 步骤：P P apiZX iZX a iZX a F ++=2121 其中a1i, a2i, ……,api(i=1,……,m)为X 的协方差阵Σ的特征值所对应的特征向量，p ZX ZX ZX ,,21是原始变量经过标准化处理的值，因为在实际应用中，往往存在指标的量纲不同，所以在计算之前须先消除量纲的影响，而将原始数据标准化，本文所采用的数据就存在量纲影响[注：本文指的数据标准化
主成分分析和聚类分析
现代地理学中的数学方法 本次作业数据主要来源于《2013安徽统计年鉴》，由于部分数据缺失，故用《2012年安徽统计年鉴》中的数据进行了选取与处理；本次作业选取的指标有X1（人均GDP/元）、 X2（第三产业增加值/千万元）、X3（第三产业占GDP的比重/%）、X4（第三产业从业人员数比重/%）X5（第二产业占GDP的比重/%）、X6（总人口/万人）、X7（农民人均纯收入/元）、X8（城镇居民可支配收入/元）、X9（市区人民人均医疗保健消费支出/元）、X10（非农业人口比重/%）、X11（地方财政收入/万元）、X12（规模以上工业总产值/千万元）、X13（农业总产值/万元）、X14（商品进出口总额/美元）、X15（社会消费品零售总额/万元）、 X16（实际利用外资额/万美元）。 运用spss19.0，首先对原始数据进行标准化处理，后经过降维进行因子分析，得到表1相关系数矩阵、表2表征值及贡献率、表3主成分载荷因子矩阵、表4主成分得分。 表1 2012年安徽省各市有关指标相关系数矩阵 X1X2X3X4X4X6X7X8X9X10X11X12X13X14X15X16 X1 1.000 X20.276 1.000 X3-0.309 0.343 1.000 X40.79 0.394 0.034 1.000 X40.809 0.043 -0.672 0.589 1.000 X6-0.417 0.587 0.255 -0.375 -0.516 1.000 X70.826 0.192 -0.102 0.733 0.659 -0.549 1.000 X80.758 0.343 -0.164 0.61 0.584 -0.254 0.823 1.000 X9-0.06 0.018 -0.286 0.013 0.124 -0.024 0.043 0.131 1.000 X100.832 0.131 -0.504 0.725 0.916 -0.486 0.62 0.528 0.21 1.000 X110.391 0.977 0.274 0.508 0.187 0.451 0.348 0.435 0.038 0.263 1.000 X120.474 0.938 0.095 0.532 0.303 0.429 0.376 0.453 0.077 0.343 0.962 1.000 X13-0.582 0.341 0.257 -0.51 -0.708 0.913 -0.648 -0.362 0.118 -0.659 0.184 0.17 1.000 X140.643 0.901 0.153 0.612 0.346 0.296 0.523 0.635 0.013 0.421 0.93 0.926 0.044 1.000 X150.145 0.977 0.338 0.274 -0.054 0.709 0.039 0.22 0.007 0.029 0.936 0.896 0.468 0.822 1.000 X160.524 0.806 0.066 0.604 0.358 0.226 0.586 0.729 0.218 0.354 0.86 0.892 0.034 0.871 0.729 1.000 表2 表征值及贡献率 成份初始特征值提取平方和载入
主成分分析和聚类分析的比较
主成分分析和聚类分析的比较 摘要：主成分分析和聚类分析方多元统计中两种重要的分析方法，但却容易在使用中混淆。本文从基本思想，应用的优缺点、应用实例中讨论两者的异同，并简述两种方法在实际问题中的应用。 关键词：主成分分析；聚类分析 一、引言 主成分分析是利用降维的思想，在缺失很少信息的前提下，把多个指标转化为几个综合指标的多元统计方法。通常把转化生成的综合指标称为主成分，其中每个主成分都是原始变量的线性组合，且各个主成分之间互不相关，使得主成分比原始变量具有某些更优越的性能。聚类分析是依据实验数据本身所具有的定性或定量的特征来对大量的数据进行分组归类以了解数据集的内在结构，并且对每一个数据集进行描述的过程。其主要依据是聚到同一个数据集的样本应该性质相似，而属于不同组的样本应该足够不相似。 两种方法既有区别又有联系，本文将两者的异同进行比较，并举例说明两者在实际应用中的联系，以便更好地理解这两种统计方法而为实际所应用。 二、基本思想的异同 相同点：主成分分析方法是用少数的几个变量来综合反映原始变量的主要信息，变量虽然较原始变量少，但所包含的信息量却占原始信息的85%以上，因此其可信度很高。通过主成分分析，可以将事物之间错综复杂的关系中找出一些主要成分，从而能有效利用大量统计数据进行定量分析，解释变量之间的内在关系。因此主成分变量比原始变量少了很多，从而起到了降维的作用。 聚类分析的基本思想是采用多变量的统计值，定量的确定相互之间的亲疏关系，考虑对象多因素的联系和主导作用。按它们亲疏差异程度，归类不同的分类中的一元。使分类更具有客观实际并能反映事物的内在必然联系。聚类分析是通过一种大的对称矩阵来探索相关关系的一种数学分析方法。对变量分类后，我们