预览加载中，请您耐心等待几秒...

支持向量机.ppt

预览
1/10
2/10
3/10
4/10
5/10
6/10
7/10
8/10
9/10
10/10

亲，该文档总共31页，到这已经超出免费预览范围，如果喜欢就直接下载吧～

下载提示 文本预览

如果您无法下载资料，请参考说明：

1、部分资料下载需要金币，请确保您的账户上有足够的金币

2、已购买过的文档，再次下载不重复扣费

3、资料包下载后请先用软件解压，在使用对应软件打开

支持向量机(SVM)1.支持向量机简介 2.相关概念 3.支持向量机原理 3.1线性可分 3.2线性不可分支持向量机简介 支持向量机(SupportVectorMachine)是Vapnik等于1995年首先提出的，它在解决小样本、非线性及高维模式识别中表现出许多特有的优势，并能够推广应用到其他机器学习问题中。 支持向量机方法是建立在统计学习理论的VC维理论和结构风险最小原理基础上的，根据有限的样本信息在模型的复杂性（即对特定训练样本的学习精度）和学习能力（即无错误地识别任意样本的能力）之间寻求最佳折衷，以期获得最好的推广能力。 相关概念机器学习经验风险过学习问题结构风险VC维(函数的复杂程度)支持向量机原理-线性可分如何选取最优超平面？两个边界平面的距离:m=2/||w||如何求最优超平面如何求最优超平面分别对w和b求偏导，并令其为0，可得 这实际上是寻找极值条件下L函数满足的等式约束将得到的约束条件带入原L函数，得到: 该式称为L函数的对偶式，由对偶理论可知，最小化L式等于最大化以L式的约束的拉格朗日乘子为变量的上式 现在问题转化将得到的约束条件带入原L函数，得到: 该式称为L函数的对偶式，由对偶理论可知，最小化L式等于最大化以L式的约束的拉格朗日乘子为变量的上式 现在问题转化将得到的约束条件带入原L函数，得到: 该式称为L函数的对偶式，由对偶理论可知，最小化L式等于最大化以L式的约束的拉格朗日乘子为变量的上式 现在问题转化一个简单的例子：取两个支持向量样本连线的中点代入最优超平面,计算b对于无法直接构造分类超平面的样本集，我们需要采取某种方法使其能够被某个“平面”划分 基本思想是通过选择非线性映射Φ(x)将x映射到高维特征空间Z，在Z中构造最优分类超平面看一个例子图形直观展示变换后的线性操作相当于原空间的非线性操作 变换后可以完全按照线性支持向量机的方法构造分类超平面 非线性分类的问题也就转化为如何构造这种将样本向高维空间的映射关系核函数核函数常用核函数主要应用领域谢谢!