一种基于数据分区混合采样的不平衡集成分类方法.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN111091201A(43)申请公布日2020.05.01(21)申请号201911339988.3(22)申请日2019.12.23(71)申请人北京邮电大学地址100876北京市海淀区西土城路10号(72)发明人高欣任昺何杨李康生井潇纪维佳查森王锋(51)Int.Cl.G06N20/20(2019.01)G06K9/62(2006.01)权利要求书2页说明书10页附图1页(54)发明名称一种基于数据分区混合采样的不平衡集成分类方法(57)摘要本发明实施例提出了一种基于数据分区混合采样的不平衡集成分类方法，包括：根据少数类邻域中的多数类占比将样本空间划分为四个区域：多数类安全区、少数类安全区、边界区、少数类噪声区，根据每个少数类邻域的多数类占比与其总和的比值生成权值，据此确定每个少数类邻域的合成数目，以随机线性插值方式对边界区少数类进行过采样；对多数类安全区采用随机欠采样，剔除少数类噪声区样本但保留少数类安全区样本，生成平衡数据集；构建三种集成学习模型：偏向多数类的原始模型、局部域加强和削弱模型、偏向外围边界的混合模型，根据放入原始数据集的测试点近邻的不平衡程度，自适应地选择相应的模型。CN111091201ACN111091201A权利要求书1/2页1.一种基于数据分区混合采样的不平衡集成分类方法，其特征在于，所述方法步骤包括：(1)根据少数类邻域中的多数类占比将样本空间划分为四个区域：多数类安全区、少数类安全区、边界区、少数类噪声区，根据每个少数类邻域的多数类占比与其总和的比值生成权值，据此确定每个少数类邻域的合成数目，以随机线性插值方式对边界区少数类进行过采样；(2)对多数类安全区采用随机欠采样，剔除少数类噪声区样本但保留少数类安全区样本，生成平衡数据集；(3)构建三种集成学习模型：偏向多数类的原始模型、局部域加强和削弱模型、偏向外围边界的混合模型，根据放入原始数据集的测试点近邻的不平衡程度，自适应地选择相应的模型。2.根据权利要求1所述的方法，其特征在于，根据少数类邻域中的多数类占比将样本空间划分为四个区域：多数类安全区、少数类安全区、边界区、少数类噪声区，根据每个少数类邻域的多数类占比与其总和的比值生成权值，据此确定每个少数类邻域的合成数目，以随机线性插值方式对边界区少数类进行过采样，具体说明如下：给定不平衡训练集D，首先将训练集D划分为多数类集Dmaj和少数类集Dmin，定义边界区Dborder、少数类噪声区Ddanger-、少数类安全区Dsafe-、多数类安全区Dsafe+并初始化四个区域为空集，+表示多数类样本，-表示少数类样本，然后遍历少数类集Dmin，少数类集Dmin包括少数类样本xi，i＝1,2,...,Nmin，Nmin为少数类集样本数目，通过kNN算法寻找每个少数类样本的k个最近邻居点并统计邻居点中少数类样本的数目Ni-，i＝1,2,...,Nmin，其中k＝5，并将邻居点中多数类样本存储到边界区Dborder中，计算少数类邻域中的多数类占比如果Γ＝0，将该少数类样本加入到少数类噪声区Ddanger-；如果Γ∈(0,1)，将该少数类样本及其邻域中多数类样本加入到边界区Dborder；如果Γ＝1，将该少数类样本加入到少数类安全区Dsafe-；剩余训练集D的样本加入到多数类安全区Dsafe+，训练集D剔除少数类噪声区Ddanger-获得过滤集Dfilter，统计边界区Dborder的样本数目Nborder，包括少数类样本数目m和多数类样本数目n，在少数类样本xi中找出属于边界区Dborder的少数类样本xborder_i，i＝1,2,...,m，统计每个xborder_i邻域中多数类样本个数Ni+，i＝1,2,...,m，计算边界区域需要合成的样本数G＝(m+n)×b-m,b∈[0.5,1]，其中b为合成比例因子，取b＝1时，合成后少数类样本数目和多数类样本数目保持平衡，其数目为原来总样本个数，对于每个边界区少数类样本xborder_i，计算k个近邻样本点中属于多数类样本的比例，记作根据每个少数类邻域的多数类占比与其总和的比值生成权值对边界区的每个少数类样本计算合成数目gi＝wi×G，i＝1,2,...,m，通过SMOTE方法在边界区每个少数类样本周围合成gi个少数类样本，将合成的少数类样本加入边界区Dborder获得边界区过采样集Dborder过。3.根据权利要求1所述的方法，其特征在于，对多数类安全区采用随机欠采样，剔除少数类噪声区样本但保留少数类安全区样本，生成平衡数据集，具体说明为：将多数类安全区2CN111091201A权利要求书2/2页Dsafe+的样本聚成个簇，其中Nsafe+为多数类安全区Dsafe+的样本数目