多元统计分析-判别分析.ppt

数学建模培训1．问题引入首先，我们来考虑一下2000年“网易杯”全国大学生数学建模竞赛的A题是关于“DNA序列分类”的问题人类基因组中的DNA全序列是由4个碱基A，T，C，G按一定顺序排成的长约30亿的序列，毫无疑问，这是一本记录着人类自身生老病死及遗传进化的全部信息的“天书”。但是，除了这四种碱基外，人们对它所包含的内容知之甚少，如何破译这部“天书”是二十一世纪最重要的任务之一。在这个目标中，研究DNA全序列具有什么结构，由这4个字符排成的看似随机的序列中隐藏着什么规律，又是解读这部天书的基础，是生物信息学（Bioinformatics）最重要的课题之一。虽然人类对这部“天书”知之甚少，但也发现了DNA序列中的一些规律性和结构。例如，在全序列中有一些是用于编码蛋白质的序列片段，即由这4个字符组成的64种不同的3字符串，其中大多数用于编码构成蛋白质的20种氨基酸。又例如，在不用于编码蛋白质的序列片段中，A和T的含量特别多些，于是以某些碱基特别丰富作为特征去研究DNA序列的结构也取得了一些结果。此外，利用统计的方法还发现序列的某些片段之间具有相关性，等等。这些发现让人们相信，DNA序列中存在着局部的和全局性的结构，充分发掘序列的结构对理解DNA全序列是十分有意义的。作为研究DNA序列的结构的尝试，试对以下序列进行分类：
问题一：下面有20个已知类别的人工制造的序列（见附件1），其中序列标号1—10为A类，11-20为B类。请从中提取特征，构造分类方法，并用这些已知类别的序列，衡量你的方法是否足够好。然后用你认为满意的方法，对另外20个未标明类别的人工序列（标号21—40）进行分类，把结果用序号（按从小到大的顺序）标明它们的类别（无法分类的不写入）：
A类；B类。问题二：请对182个自然DNA序列（http://www.mcm.edu.cn/mcm00/problems.htm）进行分类。它们都较长。用你的分类方法对它们进行分类，并给出分类结果。
看了这道题，我们应当从何处入手呢，我们应该怎样进行分析呢……

如果将每一个DNA序列都看作样本，那么该问题就进一步提炼成一个纯粹的数学问题：设有两个总体（类）和，其分布特征（来自各个总体的样本）已知，对给定的新品，我们需要判断其属于哪个总体（类）。
对于上面的数学问题，可以用很多成熟的方法来解决，例如：
（1）BP神经网络；
（2）聚类分析；
（3）判别分析；等等。
如何选取方法是建模过程中需要解决的另外一个问题：BP神经网络是人工神经网络的一种，它通过对训练样本的学习，提取样本的隐含信息，进而对新样本的类别进行预测。BP神经网络可以用以解决上面的DNA序列分类问题，但是，如何提取特征、如何提高网络的训练效率、如何提高网络的容错能力、如何建立网络结构是能否成功解决DNA序列分类问题的关键所在；聚类分析和判别分析都是多元统计分析中的经典方法，都可以用来将对象（或观测值）分成不同的集合或类别，但是，聚类分析更侧重于“探索”对象（或观测值）的自然分组方式，而判别分析则侧重于将未知类别的对象（或观测值）“归结”（或者说，分配）到已知类别中。显然，判别分析更适合用来解决上面的DNA序列分类问题。3．判别分析方法判别分析方法

显然不是，因为从概率的角度来看，总体的样本比较分散，而总体的样本则非常集中，因此处的样品属于总体的概率明显大于属于总体的概率，也就是说，处的样品属于总体的“可能性”明显大于属于总体的“可能性”！这也说明了用欧几里得距离来度量样品到总体距离的局限性。因此，需要引入新的距离概念——这就是下面给出的马氏距离。

定义1（马氏距离）：设总体G为m维总体（m个因素或指标），其均值向量为（这里T表示转置），协方差阵为
，则样品到总体G的马氏距离定义为

3.1.1两总体的距离判别
先考虑两个总体（）的情况。设有两个总体和,和分别是和的协方差阵，和分别是和的均值。对于新的样品，需要判断它来自那个总体。
设来自（）的训练样本为

其中表示来自哪个总体，表示来自总体的样本量。
要判断新样品来自哪个总体，一般的想法是分别计算新样品到两个总体的马氏距离和：
如果则判定；
反之，如果则判定：
即
……（1）

其中，，

记显然，判别规则（1）式等价于
……（2）
通常，称为判别系数向量称为线性判别函数。
注意判别准则（1）式或者（2）式将维空间
划分成两部分：和
也即。距离判别的实质就是：给出空间的一个划分和，如果样品落入之中，则判定；如果样品落入之中，则判定
。当时，根据判别准则（1）式，我们同样的给出判别函数为

相应的判别规则为

……（3）
在实际应用中，总体的均值和协方差阵一般是未知的，我们所知道的仅仅是一组样本或者观测值，在这种情况下，就需要利用数理统计的