支持向量机.ppt

9.3支持向量机支持向量机，一种线性和非线性数据有前途的新划分类方法。巧妙利用向量内积的回旋，通过将非线性核函数将问题变为高维特征空间与低维输入空间的相互转换，解决了数据挖掘中的维数灾难。由于计算问题最终转化为凸二次规划问题，因此挖掘算法是无解或有全局最优解。支持向量机定义概述1.线性可分情形线性可分情形分类面与边界距离(margin)的数学表示:一、线性可分的支持向量(分类)机线性可分的支持向量(分类)机线性可分的支持向量(分类)机线性可分的支持向量(分类)机线性可分的支持向量(分类)机几何意义：超平面法向量是支持向量的线性组合。对于线性不可分的样本怎么办？非线性可分情形例子设训练集，其中
假定可以用平面上的二次曲线来划分：可见，只要利用变换，把x所在的2维空间的两类输入点映射x所在的6维空间，然后在这个6维空间中，使用线性学习机求出分划超平面：如何选择到较高维空间的非线性映射？给定的检验元组，必须计算与每个支持向量的点积，出现形如可以引入核函数（内积的回旋）来替代需要求解的最优化问题实现非线性分类的思想实现非线性分类的思想目前研究最多的核函数主要有三类：几个典型的核函数核的比较现有5个一维数据
x1=1,x2=2,x3=4,x4=5,x5=6,其中1,2,6为class1，4,5为class2y1=1,y2=1,y3=-1,y4=-1,y5=1
选择polynomialkernelofdegree2
K(x,y)=(xy+1)2
C=100
求解ai(i=1,…,5)例子结果SVM应用