支持向量机在模式识别中的应用.pdf

基金项目论文
电讯技术年第期
20064FOUNDATIONSUPPORTEDPROJECT

文章编号:1001-893X(2006)04-0009-04

支持向量机在模式识别中的应用3

沈明华,肖立,王飞行

(国防科技大学电子科学与工程学院,长沙410073)

摘要:针对传统神经网络存在网络结构难于确定、过学习以及局部极小等问题,研究了基于支持向
量机(SVM)的模式识别问题。通过对棋盘这种典型非线性二值问题的分类研究,分析了支持向量
机的分类与泛化能力,支持向量机在分类和泛化能力方面远远优于传统神经网络。最后将支持向量
机用于对两类飞机目标的分类识别,通过多组蒙特卡罗试验,获得了较好的识别结果。支持向量机
在目标识别中有巨大潜力和广阔前景。
关键词:模式识别;支持向量机;径向基函数;泛化能力;目标识别
中图分类号:TN957.5文献标识码:A

ApplicationofSupportVectorMachine(SVM)inPatternRecognition

SHENMing-hua,XIAOLi,WANGFei-xing
(SchoolofElectronicScienceandEngineering,NationalUniversity
ofDefenceTechnology,Changsha410073,China)

Abstract:Aimingattheproblemssuchasdifficultdeterminationofnetstructure,overfittingandlocal
minimizationoftraditionalneuralnetworks,thesupportvectormachine(SVM)appliedtopatternrecogni2
tionisstudied.Byinvestigatingthechessboardclassification,whichistypicalofnonlineartwo-value
problem,thegeneralizationabilityofSVMisanalyzed.SVMismorepowerfulthantraditionalneuralnet2
workintheaspectofclassificationandgeneralization.Finallytwokindsofairplanesarerecognizedbased
onSVM,withmanyMonte-Carloexperimentsgoodclassificationresultsareachieved.SVMhashugepo2
tentialsandgoodprospectintheareaoftargetrecognition.
Keywords:patternrecognition;supportvectormachine(SVM);rangeprofiles;generalizationability;tar2
getrecognition

之一[1]。支持向量机克服了传统神经网络的以上
1引言不足,在模式识别、图像处理、回归分析等方面得到
近年来,神经网络在模式识别、图像处理、函数了广泛应用。这一理论基础坚实、数学推导严密,在
逼近等方面得到广泛研究和应用,但是传统神经网解决小样本、非线性以及高维模式识别问题中显示
络在实际应用中存在网络结构难于确定、过学习或
了无法比拟的优越性。针对模式识别问题,本文研
欠学习以及局部极小等问题。
究了支持向量机的分类性能和泛化能力,通过大量
20世纪90年代中期,Vapnik提出的支持向量
实验验证了支持向量机在模式识别中良好的分类和
机(SVM)以其结构简单、具有全局最优性和较好的
泛化能力等优点成为机器学习领域最有影响的成果泛化能力。

3收稿日期:2005-12-14;修回日期:2006-04-04
基金项目:国家自然科学基金资助项目(60572138)
·9·
基金项目论文
电讯技术年第期
20064FOUNDATIONSUPPORTEDPROJECT

yi[(w·x)+b]=1的点,也就是距最优分类超平面

最近的点,对应图1中的x1、x2、x3。
2支持向量机基本理论

机器学习是人工智能重要的应用领域,现有机
器学习方法的重要理论基础是统计学,传统统计学
是研究样本数目趋于无穷大时的渐进理论,但在实
际问题中,样本数目常常有限,甚至是小样本,因此
基于大数定律的传统统计方法难以较好发挥作用,
导致一些理论上优秀的学习方法在实际应用中不能
图1最优划分超平面示意图
达到理想效果。Vapnik等人提出的统计学习理论
(SLT)是一种专门研究小样本的理论,避免了人工训练集的