多类别模糊补偿支持向量机新模型研究.pdf

万方数据

多类别模糊补偿支持向量机新模型研究SVMModelMulti—classedCompensation4邱晓红+江西农业大学软件学院，南昌330045QIUQIUⅪaohong．Newcompensati蚰．Jour衄l摘要：提出了一种更一般化描述的多类别模糊补偿支持向量机(M—FSVM)算法，用它来解决经典支持向量机对类别分类误差的不均衡性问题。并在开源代码LibsvM的基础上实现了新算法，并应用于网络入侵检测。实验结果表明训练样本数目少的类别的分类精度得到了提高。关键词：支持向量机；统计学习理论；模式识别；模糊集引言法【旧，其特点是根据有限的样本信息在模型的复杂支持向量机是Vapnik等学者在统计学习理论和性和学习能力之间寻求最佳折衷，并拥有最好的泛化结构风险最小原理基础上建立的一种机器学习方能力(generalizationability)【3】。支持向量是决定模式NewBasedFuzzyXiaohon∥machine(SVM)algorithmcompensa“on(M—FSVM)classify文献标i只码：A中图分类号：TP301No．60674054(国家自然科学基金)．DOI：10．3778／j．issn．1673—9418．2009．03．011http：／／www．ceaj．orgSoftwaI．e，JiangxiE—mail：[e-mail]—classedfI忆zyComputerTechnology，2009，3(3)：330一336．basedpmblemtmditionalimproVed．leamingtheory；pattem1JKYTA8Journal1673—9418／2()()9／03(03)一033()一07E—mail：[e-mail]niversity，Nanchang33()()45，China+CorI．espondingauthor：FrontiersScienceandAbstract：Asupportfuzzyisdesc而bedinmoregeneralformatsolvetheclassificationtrainingbiasapplication．AndaLl90rithmprogrammedLibSVMcodeusednetworkintrusiondata．Theresultsshowthatsmallsizeclassclassi6erprecisionKeywords：supportmachines；statisticalrecognition；fuzz)r0f2008一09，AcceptedISSN1673—94l8CODENTbchnology7rel：+86一10—51616056newvectortotestsetNationalNaturalscienceFoundationchinaunderGrantReceiVed2009_02．4
万方数据

定理l当罟=手时，式(1)确定的模型可以实现等看甜％镌=o等。：善。啦飞懈=o告=w毒嘶币(鼍)-0鲁一；％咒=o婴；吲+∑a；岳omin导w7，I，唧+c+∑s。磊+c-∑si￡s．t．{p≥o1毒≥o，扛1，2，⋯，z￡：导，．，1w唧+c+∑si毒+c_∑si毒一I咒(’．，1咖(蟹)+6)≥p《∑(ai(咒(矿咖(％)+6)叩)《)镌毒却不同分类情况进行了加权补偿M；或直接依据支持2多类别模糊补偿SVM(M—FSVM)模型％(咒(w1咖(气)+6)叩《)=o邱晓红：多类别模糊补偿支持向量机新模型研究分类的特殊向量【4】，如何寻找这些向量，就成为研究支持向量机的关键吼自提出标准的sVM算法以来，产生了一系列的新算法。主要分为『21：标准支持向量机C—SVM系列f11、v—SVM系列【4】以及为克服SVM对孤立点(outlier)和噪音数据的敏感性研究，提出的模糊支持向量机的方法如F—SVMM。模糊支持向量机方法是在多类SVM分类器的直接构造方法中引入模糊补偿函数，将目标函数中的惩罚项模糊化，并对于向量的特性同构建训练样本的模糊隶属度(fuzzyfunction)，即不同区域的训练样本赋予不同的权重。在实际应用中，SvM还面临一个不同类别之间的样本数目不均衡的问题【9】，而这种样本数目的不均衡将导致¨II练出来的支持向量机类别误差的不均衡——大类别的误差率低，而小类别的误差率高。因此本文结合这两种观点提出了更一般化的新的多类别模糊补偿支持向量机(M—FsVM)模型，并对其参数特性以及参数选择进行了研究，得出了一些理论结果。同时探讨了M—FSVM和C—FSVM以及v—FSVM