一种基于改进网格搜索算法的SVM参数优化方法.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN110837845A(43)申请公布日2020.02.25(21)申请号201910947756.X(22)申请日2019.10.08(71)申请人哈尔滨工程大学地址150001黑龙江省哈尔滨市南岗区南通大街145号哈尔滨工程大学科技处知识产权办公室(72)发明人徐东温慧王燊孟宇龙张子迎潘思辰王志文关智允(51)Int.Cl.G06K9/62(2006.01)权利要求书2页说明书6页附图2页(54)发明名称一种基于改进网格搜索算法的SVM参数优化方法(57)摘要本发明涉及数据挖掘技术领域，具体涉及支持向量机参数优化的一种基于改进网格搜索算法的SVM参数优化方法。本方法初始化分类器和粒子群算法的相关参数，选择对分类器性能影响较大的参数作为待优化参数，由粒子群算法获得全局最优参数或局部最优参数；求得的最优参数作为目标点，初始化网格搜索的空间范围参数和网格搜索过程中的搜索步长参数，以及其他变量；在选定的范围内进行网格搜索，采用k-cv交叉验证，重新获得该范围内的最优参数。本发明改进了传统的网格搜索算法，克服了在选取搜索区间时存在的盲目性以及经验性问题，改善了在数据量较大的情况下该方法存在的时间消耗大的问题，使时间消耗与分类性能达到一个相对平衡的状态。CN110837845ACN110837845A权利要求书1/2页1.一种基于改进网格搜索算法的SVM参数优化方法，其特征在于，包括如下步骤：步骤1：初始化分类器和粒子群算法的相关参数，选择对分类器性能影响较大的参数作为待优化参数，由粒子群算法获得全局最优参数或局部最优参数；步骤2：将步骤1中求得的最优参数作为目标点，初始化网格搜索的空间范围参数和网格搜索过程中的搜索步长参数，以及其他变量；步骤3：在步骤2选定的范围内进行网格搜索，采用k-cv交叉验证，重新获得该范围内的最优参数；步骤4：将重新获得的最优参数和原来的参数进行比较，若两次获得的参数不相等，将重新获得的最优参数作为目标点，将其搜索范围按照规则进行更新作为新的搜索空间:判断是否满足停止条件，若满足条件则结束寻优过程，输出最优参数组合，步骤5：若不满足最优条件，则继续将原来的最优参数作为目标点，在原来的搜索范围基础上按照规则重新扩大搜索范围，同时增大搜索步长，返回步骤3继续迭代寻优，直至满足最优条件。2.根据权利要求1中所述的一种基于改进网格搜索算法的SVM参数优化方法，其特征在于，所述步骤1中待优化参数包括：高斯核函数g(g＝σ2)和惩罚因子C；所述步骤2中相关的参数包括：参数C的范围区间最小值指数dmin，参数C的范围区间最大值指数dmax，参数g的范围区间最小值指数fmin，参数g的范围区间最大值指数fmax，参数C的搜索步长Cstep，参数g的搜索步长gstep，系数变量M、N与常数L，其中参数的搜索范围存在如下关系：3.根据权利要求1中所述的一种基于改进网格搜索算法的SVM参数优化方法，其特征在于，所述步骤4中，区间的变化与搜索步长变化的具体方法为：若新求得的最优参数C′best，g′best分别与上一次迭代过程中的参数Cbest，gbest相等，搜索区间的端点值相关参数更新公式及步长更新公式为：C′step＝N×Cstep，g′step＝M×gstep；其中dmin、dmax是参数C的范围区间相关的指数参数，fmin与fmax是参数g的范围区间相关指数，常数Cstep和gstep是初始化时预设的步长，C′step与g′step是在步骤4中更新的阶段性步长参数，M与N是系统变量且遵循一定的变化规律；若新求得的最优参数C′best，g′best分别与上一次迭代过程中的参数Cbest，gbest不相等，根据新获得的最优参数与上一次迭代过程中的最优参数的大小关系，搜索区间的端点值相关参数更新公式分别是：当C′best>Cbest时：dmax＝dmax+L；当C′best<Cbest时：dmin＝dmin-L，同理，当g′best>gbest时：fmax＝fmax+L；2CN110837845A权利要求书2/2页当g′best<gbest时：fmin＝fmin-L，其中，C′best，g′best是本次迭代过程中新求得的最优参数。3CN110837845A说明书1/6页一种基于改进网格搜索算法的SVM参数优化方法技术领域[0001]本发明涉及数据挖掘技术领域，具体涉及支持向量机参数优化的一种基于改进网格搜索算法的SVM参数优化方法。背景技术[0002]近年来，随着互联网行业的发展，各行各业中积累了大量数字化数据，这些数据中包含着大量的有用信息，从这些海量数据中总结规律，提取出对人类有用的信息已成为数字化时代人们重要的研究内容。[0003]而数据分类作