基于支持向量机的多分类算法研究的综述报告.docx

基于支持向量机的多分类算法研究的综述报告
支持向量机（SupportVectorMachine，SVM）是一种广泛应用于数据分类和回归分析的机器学习算法。本文将对基于支持向量机的多分类算法进行综述研究。
支持向量机中的分类问题
支持向量机是一种基于二元分类问题（即只存在两个分类标记）的算法。在应用中，很多问题是复杂的多类别（Multi-class）问题。要解决这个问题，需要将多类别问题分解成一系列的二元分类问题，例如一对多方法（One-vs-rest）、一对一方法（One-vs-One）、多级分类方法（Hierarchical）、交叉熵损失方法等。最常用的方法是一对一方法和一对多方法。
一对一方法（One-vs-One）是将多类别问题分解成所有可能的二元分类问题。对于N个分类问题，需要将问题分解成N(N-1)/2个二元分类器，其中每个分类器只需要区分两个不同的类别。这种方法的优点是可以使用任何二元分类器，缺点是分类器数量会随着分类问题增加而增加，并且对于不平衡的数据集来说，有些分类问题可能无法分配到足够的训练数据。
一对多方法（One-vs-Rest）是将多类别问题分解成N个二元分类问题，其中一个二元分类器区分某个类别和其他N-1个类别。这种方法的优点是将多类别问题转化成二元分类问题的数量不变，缺点是在存在不平衡数据集的情况下，分类器会倾向于选择少数类别。
除了一对一方法和一对多方法，还有其他的多分类算法，例如多级分类方法（Hierarchicalclassification），交叉熵损失方法等。这些方法都可以用来解决多分类问题，具有各自的优缺点。
多项式核函数
在SVM算法中，核函数有很重要的作用，其中常用的核函数包括线性核函数、多项式核函数、径向基函数和sigmoid核函数。在分类问题中，SVM很容易被训练和评估，因为分类器只需要比较相似度（kernelvalue），比较复杂的数学运算不是必需的。
多项式核函数是一种借助于低维空间的方法来处理高维数据的方法。它可以将高维数据映射到低维空间中，形成一个多项式形式的决策函数。多项式核函数可以用来解决非线性问题，但是多项式核函数会产生过拟合现象。
结论
本文对基于支持向量机的多分类算法进行了综述研究。SVM算法是一种强大的机器学习算法，可以用于解决不同的问题。在多类别分类问题中，需要将问题分解成一系列的二元分类问题。此外，多项式核函数可以用来处理非线性问题，但是需要注意过拟合现象。
参考文献：
1.ZhouX.,LiuS.,HouR.,ResearchonMulticlassProblemsBasedonSupportVectorMachines.IntelligentSystemsDesignandEngineeringApplications,2012:175-181.
2.WangY.,ZhengX.,ResearchonMulti-classSVMsClassificationAlgorithmbasedonSoftSeparableHyperplanesMethod.JournalofInformationandComputationalScience,2012:1381-1388.