基于深度学习的钢轨鱼鳞伤损检测方法.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN110210555A(43)申请公布日2019.09.06(21)申请号201910459181.7(22)申请日2019.05.29(71)申请人西南交通大学地址611756四川省成都市高新区西部园区西南交通大学科学技术发展研究院(72)发明人宋兴国陈可为曹中清何豪舒浩(74)专利代理机构成都盈信专利代理事务所(普通合伙)51245代理人崔建中(51)Int.Cl.G06K9/62(2006.01)G06N3/04(2006.01)G06N3/08(2006.01)G06T7/00(2017.01)权利要求书2页说明书8页附图9页(54)发明名称基于深度学习的钢轨鱼鳞伤损检测方法(57)摘要本发明公开了一种基于深度学习的钢轨鱼鳞伤损检测方法，首先按照设定的比例将所有图像构成的数据集划分为训练集、测试集、验证集；然后设置网络结构并正向传播，使用残差神经网络进行深度学习训练，残差神经网络包括卷积层、池化层和全连接层；正向传播的计算结果输出后，调用反向传播算法；最后保留最终残差神经网络所训练出的模型，并绘制出整个训练过程中各参数的变化曲线用于参考。本发明将机器视觉和深度学习中的卷积神经网络技术相结合，将钢轨鱼鳞伤损的样本提取特征并进行学习分类，将神经网络输出的模型用于实际工业中的判别中；与在工业领域中使用人工方法对钢轨表面鱼鳞伤损判别的方法相比较，具有很高的检测效率和准确度。CN110210555ACN110210555A权利要求书1/2页1.一种基于深度学习的钢轨鱼鳞伤损检测方法，其特征在于，包括以下步骤：一、数据集的划分；按照7:2:1的比例将所有图像构成的数据集划分为训练集、测试集、验证集；二、网络结构的设置和正向传播；使用残差神经网络进行深度学习训练；残差神经网络包括卷积层、池化层和全连接层；卷积层直接感受图像像素级的输入，利用卷积核对图像中的局部区域做卷积操作，通过滑动窗口逐行扫描的操作形式，提取整个输入图像的卷积特征，然后输出到后层网络中去；卷积核里的元素与图像中对应位置的元素相乘再求和，得到卷积计算结果；卷积核按设置的步长遍历整张输入图像以后得到一系列的卷积结果，这些卷积结果构成了新的卷积特征图；然后使用非线性激活函数ReLU函数处理前一层卷积核的输出结果，将其结果转换为非线性结果；整个处理过程在神经元输出之前；池化层对上一层卷积层的输出做采样池化操作，进一步降低特征图的维数；池化的操作是在特征图上选定一个采样框，采样框按一定步长遍历整个输入特征图，得到一系列的池化输出，这些池化输出构成了池化特征图，即池化层；全连接层在整个残差神经网络中起到分类器的作用，输出最终分类的结果；在整个卷积神经网络中，卷积层和池化层将原始数据映射到隐层的特征空间去，提取图像的抽象特征，而全连接则是对这些特征做线性加权，将之前所提取的局部特征重新通过权值矩阵组装成完整的图片；全连接层的数量至少为一个，全连接层中每个神经元直接的连接均为全连接，全连接层的神经元使用的激活函数为ReLU函数；最后一层全连接层传递的输出为分类结果，采用softmax逻辑回归作为分类，softmax分类器函数的定义为：其中，i代表类别的索引，e为自然对数，类别总数为C，Vi代表前级网络的输出，Si代表当前元素的指数与所有元素指数之和的比值，softmax分类器将多分类的输出数值转化为了相对概率；卷积层分为五类；第一类卷积层由1层包含64个7*7的卷积核构成；第二类卷积层由8层每一层由128个3*3的卷积核构成；第三类卷积层由12层每层含有256个3*3卷积核构成；第四类卷积层由6层每层含有512个卷积核构成；第五种卷积层由6层每层含有64个3*3的卷积核构成；残差神经网络中每个类型的两两卷积层的结构被看作是残差单元，在该残差单元结构中，包含了两种映射关系，分别是恒等映射与残差映射；恒等映射的过程为将上一层网络的输出不经过本层网络的运算直接作为下一层网络的输入；残差映射的过程为将本层网络的输出运算后直接作为下一层网络的输入，使得最终输出为y＝F(x)+x；整个残差神经网络看作是有多个残差学习单元所串联的结构，其中每一部分的输入由上一层的输出和阈值相对应的恒等映射的值共同决定；对于残差神经网络的第xl+1层的网络而言，与上一层xl的关系表示为：2CN110210555A权利要求书2/2页xl+1＝xl+F(xl)(公式三)可以看出xl+1层与上一层xl呈现出一个线性叠加关系，由此继续推导接下来两层网络结构的输入为：根据该结果可以得到最终的输入：三、反向传播；正向传播的计算结果输出后，调用反向传播算法；反向传播算法包括两部分；第一部分是先对残差神经网络的模型参数使用随机数初始化；第二部分是计算神