聚类分析与判别分析.ppt

第14章聚类分析与判别分析14.1.1聚类分析14.1.2判别分析14.1.3聚类分析与判别分析的SPSS过程14.2快速样本聚类过程(QuickCluster)14.2快速样本聚类过程(QuickCluster)中的选项14.2指定初始类中心的聚类方法例题P34314.3分层聚类(HierarchicalCluster)14.3.4用分层聚类法进行观测量聚类实例P35814.3.5用分层聚类法进行变量聚类14.3.6变量聚类实例1P36614.3.6变量聚类实例2P36814.4判别分析P374补充：聚类分析与判别分析聚类分析分类聚类分析饮料数据（drink.sav）如何度量远近？两个距离概念向量x=(x1,…,xp)与y=(y1,…,yp)之间的距离或相似系数:类Gp与类Gq之间的距离Dpq(d(xi,xj)表示点xi∈Gp和xj∈Gq之间的距离)Lance和Williams给出(对欧氏距离)统一递推公式:
D2(k,r)=apD2(k,p)+aqD2(k,q)+bD2(p,q) +g|D2(k,p)-D2(k,q)|
前面方法的递推公式可选择参数而得:
方法 ai(i=p,q) b g
最短距离 ½ 0 -1/2
最长距离 ½ 0 1/2
重心 ni/nr -apaq 0
类平均 ni/nr 0 0
离差平方和(ni+nk)/(nr+nk)-nk/(nr+nk) 0
中间距离 1/2 -1/4 0
可变法 (1-b)/2 b(<1) 0
可变平均 (1-b)ni/nr b(<1) 0有了上面的点间距离和类间距离的概念，就可以介绍聚类的方法了。这里介绍两个简单的方法。事先要确定分多少类：k-均值聚类假定要把这16种饮料分成3类。利用SPSS，只叠代了三次就达到目标了（计算机选的种子还可以）。这样就可以得到最后的三类的中心以及每类有多少点根据需要，可以输出哪些点分在一起。结果是：第一类为饮料1、10；第二类为饮料2、4、8、11、12、13、14；第三类为剩下的饮料3、5、6、7、9、15、16。SPSS实现(聚类分析)事先不用确定分多少类：分层聚类对于我们的数据，SPSS输出的树型图为聚类要注意的问题SPSS实现(聚类分析)啤酒成分和价格数据（data14-02)Statistics→Classify→HierarchicalCluster:
Variables:啤酒名和成分价格等
Cluster(Case,Q型聚类)
Display:(Statistics)(AgglomerationSchedule凝聚状态表),(Proximitymatrix),Clustermembership(Singlesolution,[4])
Method:Cluster(FurthestNeighbor),Measure-Interval(SquaredEuclideandistance),TransformValue(Range0-1/Byvariable(值-最小值)/极差)
Plots:(Dendrogram)Icicle(Specifiedrangeofcluster,Start-1,Stop-4,by-1),Orientation(Vertical)
Save:ClusterMembership(Singlesolution[4])啤酒例子凝聚过程:Coefficients为不相似系数,由于是欧氏距离,小的先合并.分为四类的聚类结果冰柱图(icicle)聚类树型图学生测验数据（data14-03)
50个学生，X1-X10个测验项目
要对这10个变量进行变量聚类（R型聚类），过程和Q型聚类（观测量聚类，对cases)一样
Statistics→Classify→HierarchicalCluster:
Variables:x1-x10
Cluster(Variable,R型聚类)
Display:(Statistics)(Proximitymatrix),Clustermembership(Singlesolution,[2])
Method:Cluster(FurthestNeighbor),Measure-Interval(Pearsoncorrelation，用Pearson相关系数),
Plots:Icicle(AllCluster)学生测验例子分为两类的聚类结果冰柱图(icicle)判别分析判别判别分析(discriminantanalysis)判别分析例子Disc.sav数据根据距离的判别（不用投影）Fisher判别法(先进行投影)毛本清
2010.08.27逐步判别法(仅仅是在前面的方法中加入变量选择的功能)Disc.sav例子Disc.sav例子毛本清
2