预览加载中,请您耐心等待几秒...
1/10
2/10
3/10
4/10
5/10
6/10
7/10
8/10
9/10
10/10

亲,该文档总共36页,到这已经超出免费预览范围,如果喜欢就直接下载吧~

如果您无法下载资料,请参考说明:

1、部分资料下载需要金币,请确保您的账户上有足够的金币

2、已购买过的文档,再次下载不重复扣费

3、资料包下载后请先用软件解压,在使用对应软件打开

DeepLearning目录WhatisDeepLearning?机器学习特征的自学习深度学习人脑的视觉机理 由此可知人的视觉系统的信息处理是分级的,高层的特征是低层特征的组合,从低层到高层的特征表示越来越抽象,越来越能表现语义或者意图,抽象层面越高,存在的可能猜测就越少,就越利于分类。 浅层学习与深度学习受到大脑结构分层的启发,神经网络的研究发现多隐层的人工神经网络具有优异的特征学习能力,学习得到的特征对数据有更本质的刻画,从而有利于可视化或分类;而深度神经网络在训练上的难度,可以通过“逐层初始化”来有效克服。 深度学习可以通过学习一种深层非线性网络结构,实现复杂函数逼近,表征输入数据分布式表示,并展现了强大的从少数样本中集中学习数据及本质特征的能力。 深度学习的实质 通过构建具有很多隐层的机器学习模型和海量的训练数据,来学习更有用的特征,从而最终提升分类或预测的准确性。因此,“深度模型”是手段,“特征学习”是目的。 深度学习与浅层学习的区别 强调了模型结构的深度,通常有5-10多层的隐层节点; 明确突出了特征学习的重要性,通过逐层特征变换,将样本在原空间的特征表示变换到一个新特征空间,从而使分类或预测更加容易。与人工规则构造特征的方法相比,利用大数据来学习特征,更能够刻画数据的丰富内在信息。深度学习的训练方法深度学习与神经网络的异同深度学习与神经网络的异同深度学习的训练过程深度学习的几种常用模型ConvolutionalNeuralNetworks(CNN)ConvolutionalNeuralNetworks(CNN)卷积神经网络原理图CNN的Convolution过程CNN的Pooling过程CNN的优点卷积神经网络避免了显式的特征取样,隐式地从训练数据中进行学习。这使得卷积神经网络明显有别于其他基于神经网络的分类器,通过结构重组和减少权值将特征提取功能融合进多层感知器。它可以直接处理灰度图片,能够直接用于处理基于图像的分类。 卷积神经网络较一般神经网络在图像处理方面有如下优点: a)输入图像和网络的拓扑结构能很好的吻合; b)特征提取和模式分类同时进行,并同时在训练中产生; c)权重共享可以减少网络的训练参数,使神经网络结构变得更简单,适应性更强。 经典例子:文字识别系统LeNet-54.S4层是在C3层基础上进行下采样,前面已述。在后面的层中每一层节点个数比较少,都是全连接层,这里不再赘述。 小结: 经过计算,LeNet-5系统总共需要大约13万个参数,这与前面提到的全连接系统每个隐藏层就需要百万个参数有着天壤之别,极大地减少了计算量。 在以上的识别系统中,每个特征图提取后都紧跟着一个用来求局部平均与二次提取的亚取样层。这种特有的两次特征提取结构使得网络对输入样本有较高的畸变容忍能力。也就是说,卷积神经网络通过局部感受野、共享权值和亚取样来保证图像对位移、缩放、扭曲的鲁棒性。 ConvolutionalNeuralNetworksforP300DetectionwithApplicationto Brain-ComputerInterfaces P300检测输入正则化神经网络拓扑结构神经网络拓扑结构CNN的学习规律2024/9/202024/9/202024/9/20神经网络拓扑结构ThankYou!