聚类分析与判别分析.pdf

聚类分析与判别分析

介绍：1、聚类分析
2、判别分析
分类学是人类认识世界的基础科学。聚类分析
和判别分析是研究事物分类的基本方法，广泛地应
用于自然科学、社会科学、工农业生产的各个领
域。
14.1.1聚类分析

根据事物本身的特性研究个体分类的方法，原
则是同一类中的个体有较大的相似性，不同类
中的个体差异很大。
根据分类对象的不同，分为样品（观测量）聚
类和变量聚类两种：
„样品聚类：对观测量(Case)进行聚类（不同的目的
选用不同的指标作为分类的依据，如选拔运动员与
分课外活动小组）
„变量聚类：找出彼此独立且有代表性的自变量，而
又不丢失大部分信息。在生产活动中不乏有变量聚
类的实例，如：衣服号码（身长、胸围、裤长、腰
围）、鞋的号码。变量聚类使批量生产成为可能。
14.1.2判别分析

判别分析是根据表明事物特点的变量值和它们
所属的类，求出判别函数。根据判别函数对未
知所属类别的事物进行分类的一种分析方法。
在自然科学和社会科学的各个领域经常遇到需
要对某个个体属于哪一类进行判断。如动物学
家对动物如何分类的研究和某个动物属于哪一
类、目、纲的判断。
不同：判别分析和聚类分析不同的在于判别分
析要求已知一系列反映事物特征的数值变量的
值，并且已知各个体的分类（训练样本）。
14.1.3聚类分析与判别分析的SPSS过程

在AnalyzeÆClassify下：

1.K-MeansCluster：观测量快速聚类分
析过程

2.HierarchicalCluster：分层聚类（进行
观测量聚类和变量聚类的过程

3.Discriminant：进行判别分析的过程
14.2快速样本聚类过程(QuickCluster)

使用k均值分类法对观测量进行聚类
可使用系统的默认选项或自己设置选项，如分为几
类、指定初始类中心、是否将聚类结果或中间数据数
据存入数据文件等。
快速聚类实例(P342，data14-01a):使用系统的默认
值进行：对运动员的分类（分为4类）
„AnalyzeÆClassifyÆK-MeansCluster
ŠVariables:x1,x2,x3
ŠLabelCaseBy:no
ŠNumberofCluster:4
Š比较有用的结果：聚类结果形成的最后四类中心点(Final
ClusterCenters)和每类的观测量数目（Numberof
CasesineachCluster）
Š但不知每个运动员究竟属于哪一类？这就要用到Save选项
14.2快速样本聚类过程(QuickCluster)
中的选项

使用快速聚类的选择项：
Š类中心数据的输入与输出：Centers选项
Š输出数据选择项：Save选项
Š聚类方法选择项：Method选项
Š聚类何时停止选择项：Iterate选项
Š输出统计量选择项：Option选项
14.2指定初始类中心的聚类方法例题P343

数据同上（data14-01a）：以四个四类成绩突出者的数据为初始
聚类中心(种子)进行聚类。类中心数据文件data14-01b（但缺一
列Cluster_，不能直接使用，要修改）。对运动员的分类（还是分
为4类）
AnalyzeÆClassifyÆK-MeansCluster
„Variables:x1,x2,x3
„LabelCaseBy:no
„NumberofCluster:4
„Center:Readinitialfrom:data14-01b
„Save:Clustermembership和DistancefromClusterCenter

„比较有用的结果（可将结果与前面没有初始类中心比较）：
Š聚类结果形成的最后四类中心点(FinalClusterCenters)
Š每类的观测量数目（NumberofCasesineachCluster）
Š在数据文件中的两个新变量qc1_1（每个观测量最终被分配
到哪一类）和qc1_2（观测量与所属类中心点的距离）
14.3分层聚类(HierarchicalCluster)

分层聚类方法：

„分解法:先视为一大类，再分成几类

„凝聚法:先视每个为一类,再合并为几大类
可用于观测量(样本)聚类(Q型)和变量聚类(R型)
一般分为两步（自动,可从Paste的语句知道,P359）：

„Proximities：先对数据进行的预处理(标准化和计算距离等)

„Cluster：然后进行聚类分析
两种统计图：树形图(Dendrogram)和冰柱图(Icicle)
各类型数据的标准化、距离和相似性计算P348-354

„定距变量、分类变量、二值变量

„标准化方法p353：ZScores、Range-1to1、Range0to1等
14.3.4用分层聚类法进行观测量聚类实