基于动态核函数的模糊支持向量机.pdf

第30卷第6期南京邮电大学学报(自然科学版)Vo.l30No.6
2010年12月JournalofNanjingUniversityofPostsandTelecommunications(NaturalScience)Dec.2010

基于动态核函数的模糊支持向量机

杨永鹏1,王厚大1,杨真真2
1.南京邮电大学电子科学与工程学院,江苏南京210046
2.南京邮电大学理学院,江苏南京210046

摘要:针对传统的支持向量机(SVM)对训练样本中的噪声和野值特别敏感而导致的过学习问题,文中提出了一
种新的基于动态核函数的模糊支持向量机(FSVM)。该方法不仅考虑了样本点到类中心的距离,而且还考虑了样
本间的密切度,结合这两种思想在特征空间中构造了一种新的基于动态核函数的模糊隶属度。仿真实验表明,该
方法有较好的分类精度和推广能力并且在理论上具有一般性和能够有效地减弱野值的影响。
关键词:模糊支持向量机;模糊隶属度函数;动态核函数;分类;信息几何
中图分类号:TN911.7文献标识码:A文章编号:16735439(2010)06004305

FuzzySupportVectorMachineBasedonDynamicKernelFunction

YANGYongpeng1,WANGHouda1,YANGZhenzhen2
1.CollegeofElectronicSciencesandEngineering,NanjingUniversityofPostsandTelecommunications,Nanjing210046,China
2.CollegeofSciences,NanjingUniversityofPostsandTelecommunications,Nanjing210046,China

Abstract:Sincetraditionalsupportvectormachineisverysensitivetothenoisesandoutliersinthetrain
ingsamples,soitiseasytoproducetheoverfittingproblem.Tosolvetheproblem,fuzzysupportvector
machineisintroducedbasedonthedynamickernelmethodinthispaper.Thefuzzymembershipisdefined
notmerelybythedistancebetweenapointanditsclasscenter,butalsobytwodifferentpointsofthesam
ple,whichisdepictedastheaffinitybetweenthem.TheexperimentalsimulationsshowthatFSVMwiththe
newmembershipfunctionnotonlyhasbetterclassificationaccuracyandgeneralization,butalsohasuni
versalityintheoryandgivesgoodperformanceonreducingtheeffectsofoutliers.
Keywords:fuzzysupportvectormachine;fuzzymembershipfunction;dynamickernelfunction;classifi
cation;informationgeometry

0引言形成国际上机器学习领域的一个研究热点。SVM
可以自动寻找对分类有较好区分能力的支持向量,
支持向量机(SVM)是在统计学习理论基础上由其构成的分类器可以最大化类与类之间的间
[3]
发展起来的一种通用的模式分类器。该方法的机理隔。它克服了神经网络分类和传统统计分类法
可以简单的描述为:寻找一个满足分类要求的最优的许多缺点,并具有较好的泛化能力,已经在国内外
分类超平面,使得该超平面在保证分类精度的同时,得到广泛的重视。但是,目前SVM还存在很多的局
能够使超平面两侧的空白区域最大化;从理论上说,限性,比如,如何解决海量数据的分类问题,如何克
SVM能够实现对数据的最优分类[1]。由于SVM较服对野值和噪声数据的敏感问题。针对这些问题,
好的解决了小样本、高维数、非线性、局部极小值等Lin等学者提出了模糊支持向量机(FSVM)理论,将
实际问题以及具有良好的推广能力[2],近十几年来模糊技术应用于SVM中,对不同样本采用不同的惩

收稿日期:20100304
基金项目:国家自然科学基金(10371106,10471