最新精编医学专题—卷积神经网络.docx

卷积神经网络摘要：卷积神经网络是近年来广泛应用于模式识别、图像处理等领域的一种高效识别算法它具有结构简单、训练参数少和适应性强等特点。本文从卷积神经网络的发展历史开始详细阐述了卷积神经网络的网络结构、神经元模型和训练算法。在此基础上以卷积神经网络在人脸检测和形状识别方面的应用为例简单介绍了卷积神经网络在工程上的应用并给出了设计思路和网络结构。关键字：模型；结构；训练算法；人脸检测；形状识别0引言卷积神经网络是人工神经网络的一种已成为当前语音分析和图像识别领域的研究热点它的权值共享网络结构使之更类似于生物神经网络降低了网络模型的复杂度减少了权值的数量。该优点在网络的输入是多维图像时表现的更为明显使图像可以直接作为网络的输入避免了传统识别算法中复杂的特征提取和数据重建过程。卷积网络是为识别二维形状而特殊设计的一个多层感知器这种网络结构对平移、比例缩放、倾斜或者共他形式的变形具有高度不变性。1卷积神经网络的发展历史1962年Hubel和Wiesel通过对猫视觉皮层细胞的研究提出了感受野(receptivefield)的概念1984年日本学者Fukushima基于感受野概念提出的神经认知机(neocognitron)可以看作是卷积神经网络的第一个实现网络也是感受野概念在人工神经网络领域的首次应用。神经认知机将一个视觉模式分解成许多子模式(特征)然后进入分层递阶式相连的特征平面进行处理它试图将视觉系统模型化使其能够在即使物体有位移或轻微变形的时候也能完成识别。神经认知机能够利用位移恒定能力从激励模式中学习并且可识别这些模式的变化形在其后的应用研究中Fukushima将神经认知机主要用于手写数字的识别。随后国内外的研究人员提出多种卷积神经网络形式在邮政编码识别和人脸识别方面得到了大规模的应用。通常神经认知机包含两类神经元即承担特征抽取的S-元和抗变形的C-元。S-元中涉及两个重要参数即感受野与阈值参数前者确定输入连接的数目后者则控制对特征子模式的反应程度。许多学者一直致力于提高神经认知机的性能的研究：在传统的神经认知机中每个S-元的感光区中由C-元带来的视觉模糊量呈正态分布。如果感光区的边缘所产生的模糊效果要比中央来得大S-元将会接受这种非正态模糊所导致的更大的变形容忍性。我们希望得到的是训练模式与变形刺激模式在感受野的边缘与其中心所产生的效果之间的差异变得越来越大。为了有效地形成这种非正态模糊Fukushima提出了带双C-元层的改进型神经认知机。Trotin等人提出了动态构造神经认知机并自动降低闭值的方法[1]初始态的神经认知机各层的神经元数目设为零然后会对于给定的应用找到合适的网络规模。在构造网络过程中利用一个反馈信号来预测降低阈值的效果再基于这种预测来调节阈值。他们指出这种自动阈值调节后的识别率与手工设置阈值的识别率相若然而上述反馈信号的具体机制并未给出并且在他们后来的研究中承认这种自动阈值调节是很困难的【8】。Hildebrandt将神经认知机看作是一种线性相关分类器也通过修改阈值以使神经认知机成为最优的分类器。Lovell应用Hildebrandt的训练方法却没有成功。对此Hildebrandt解释的是该方法只能应用于输出层而不能应用于网络的每一层。事实上Hildebrandt没有考虑信息在网络传播中会逐层丢失。VanOoyen和Niehuis为提高神经认知机的区别能力引入了一个新的参数。事实上该参数作为一种抑制信号抑制了神经元对重复激励特征的激励。多数神经网络在权值中记忆训练信息。根据Hebb学习规则某种特征训练的次数越多在以后的识别过程中就越容易被检测。也有学者将进化计算理论与神经认知机结合【9】通过减弱对重复性激励特征的训练学习而使得网络注意那些不同的特征以助于提高区分能力。上述都是神经认知机的发展过程而卷积神经网络可看作是神经认知机的推广形式神经认知机是卷积神经网络的一种特例。卷积神经网络本身可采用不同的神经元和学习规则的组合形式。其中一种方法是采用M-P神经元和BP学习规则的组合常用于邮政编码识别中。还有一种是先归一化卷积神经网络然后神经元计算出用输入信号将权值和归一化处理后的值再单独训练每个隐层得到权值最后获胜的神经元输出活性这个方法在处理二值数字图像时比较可行但没有在大数据库中得到验证。第三种方法综合前两种方法的优势即采用McCulloch-Pitts神经元代替复杂的基于神经认知机的神经元。在该方法中网络的隐层和神经认知机一样是一层一层训练的但是回避了耗时的误差反向传播算法。这种神经网络被称为改进的神经认知机。随后神经认知机和改进的神经认知机作为卷积神经网络的例子广泛用于各种识别任务中比如大数据库的人脸识别和数字识别。下面详细介绍卷积神经网络的原理、网络结构及训练算法。2卷积神经网络2