BP神经网络结构优化方法.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号(10)申请公布号CNCN103559538103559538A(43)申请公布日2014.02.05(21)申请号201310560346.2(22)申请日2013.11.12(71)申请人上海电机学院地址200240上海市闵行区江川路690号(72)发明人叶明星戴志军焦斌(74)专利代理机构上海思微知识产权代理事务所(普通合伙)31237代理人郑玮(51)Int.Cl.G06N3/02(2006.01)G06N3/04(2006.01)G06N3/08(2006.01)权权利要求书1页利要求书1页说明书4页说明书4页附图2页附图2页(54)发明名称BP神经网络结构优化方法(57)摘要本发明提供了一种BP神经网络结构优化方法，包括如下步骤：（a）首先确定输入层神经元数目（Nin）和输出神经元数（Nout）；（b）利用所述输入层神经元数目和所述输出神经元数确定所述神经网络的隐含层单元数（Nhid）的取值范围；及（c）获得所述取值范围中各值的最小均方误差（Mse），并以所述最小均方误差所对应的所述隐含层单元数（Nhid）为最佳隐含层单元数（Nhid）。本发明通过采取的在确定范围内比较均方误差来寻找最佳隐含层单元数，解决了设计三层BP神经网络结构的盲目性，避免了大量的无范围地试凑，不仅简化了繁琐的试凑过程和节省大量的训练时间，而且更具有科学性和实用性。CN103559538ACN103598ACN103559538A权利要求书1/1页1.一种BP神经网络结构优化方法，其特征在于，包括如下步骤：（a）首先确定输入层神经元数目（Nin）和输出神经元数（Nout）；（b）利用所述输入层神经元数目和所述输出神经元数确定所述神经网络的隐含层单元数（Nhid）的取值范围；及（c）获得所述取值范围中各值的最小均方误差（Mse），并以所述最小均方误差所对应的所述隐含层单元数（Nhid）为最佳隐含层单元数（Nhid）。2.根据权利1所述的优化方法，其特征在于，以经验公式为基础确定的隐含层单元数的取值范围n1≤Nhid≤n2，n1为隐含层单元数最小取值，n2为隐含层单元数最大取值。3.根据权利2所述的优化方法，其特征在于，所述经验公式为Nhid＝log2Nin，Nhid≤p/[R+(Nin+Nout)]，和Nhid≤2Nin+1，其中p是训练样本集的总体数目，5≤R≤10。4.根据权利3述的优化方法，其特征在于，首先确定一个三层BP神经网络模型，然后通过训练所构建的网络模型得到所述网络模型的所述均方误差（Mse）。5.根据权利3述的优化方法，其特征在于，所述步骤（c）包括如下步骤：（c1）根据所述取值范围中的最小取值（n1）确定所述隐含层单元数为，以确定一个三层BP神经网络模型，并且通过训练所构建的网络模型得到相应的第一均方误差（Mse1）；（c2）令所述隐含层单元数为Nhid＝n1+1，按照步骤（c2）得到相应的第二均方误差（Mse2）；及（c3）比较第一均方误差（Mse1）和所述第二均方误差（Mse2）的大小，若第一均方误差（Mse1）小于所述第二均方误差（Mse2），则令所述隐含层单元数（Nhid）为与所述第一均方误差（Mse1）对应的所述最小值（n1），若所述第二均方误差（Mse2）小于所述第一均方误差（Mse1），则令所述隐含层单元数（Nhid）为与所述第二均方误差（Mse2）对应的所述最小值（n1+1）。6.根据权利5述的优化方法，其特征在于，所述步骤（c3）中，若所述第二均方误差（Mse2）小于所述第一均方误差（Mse1），则将所述第二均方误差（Mse2）赋值给所述第一均方误差（Mse1）后保存所述第一均方误差（Mse1）的值，再令所述隐含层单元数（Nhid）为与所述第一均方误差（Mse1）对应的所述最小值（n1）。7.根据权利5述的优化方法，其特征在于，还包括步骤（c4），比较所述隐含层单元数Nhid和所述隐含单元数最大取值（n2）的大小，如果Nhid＜n2则返回步骤（c2），并依次循环直到满足条件Nhid≥n2，退出循环。2CN103559538A说明书1/4页BP神经网络结构优化方法技术领域[0001]本发明涉及智能计算领域，尤其涉及对三层BP人工神经网络隐含层单元数确定方法的优化设计。背景技术[0002]随着科学技术的飞速发展，人工神经网络也迅速发展，它是智能领域中的一个重要组成部分，BP神经网络是人工智能网络中的一个典型算法，是目前研究最为成熟的神经网络结构之一，因其具有超强的自学习、自组织、自适应、联想记忆及容错能力，在信号处理、模式识别、机器控制、专家系统等、故障诊断、预测等领域中有广泛地应用。而且它本身具有很强的非线性映射能力，解决一些非线性问题更