完整word版机器学习实验报告完整.doc

MACROBUTTONMTEditEquationSection2EquationChapter1Section1SEQMTEqn\r\h\*MERGEFORMATSEQMTSec\r1\h\*MERGEFORMATSEQMTChap\r1\h\*MERGEFORMAT

基于AutoEncoder原理和L_BFGS优化算法实现手写数字识别

目录
TOC\o"1-3"\h\z\uHYPERLINK\l"_Toc390531015"1神经网络基本概念 PAGEREF_Toc390531015\h3
HYPERLINK\l"_Toc390531016"1.1概述 PAGEREF_Toc390531016\h3
HYPERLINK\l"_Toc390531017"1.2神经网络模型 PAGEREF_Toc390531017\h4
HYPERLINK\l"_Toc390531018"2AutoEncoder原理 PAGEREF_Toc390531018\h5
HYPERLINK\l"_Toc390531019"2.1反向传播算法 PAGEREF_Toc390531019\h5
HYPERLINK\l"_Toc390531020"2.2Softmax回归 PAGEREF_Toc390531020\h7
HYPERLINK\l"_Toc390531021"2.3StackedAutoEncoder PAGEREF_Toc390531021\h8
HYPERLINK\l"_Toc390531022"2.4微调过程 PAGEREF_Toc390531022\h9
HYPERLINK\l"_Toc390531023"2.5SparseAutoEncoder PAGEREF_Toc390531023\h9
HYPERLINK\l"_Toc390531024"2.6DenoiseAutoEncoder PAGEREF_Toc390531024\h10
HYPERLINK\l"_Toc390531025"3L_BFGS算法 PAGEREF_Toc390531025\h11
HYPERLINK\l"_Toc390531026"3.1基本原理 PAGEREF_Toc390531026\h11
HYPERLINK\l"_Toc390531027"3.2算法流程 PAGEREF_Toc390531027\h15
HYPERLINK\l"_Toc390531028"3.3算法收敛性分析： PAGEREF_Toc390531028\h18
HYPERLINK\l"_Toc390531029"4基于AutoEncoder的手写数字识别 PAGEREF_Toc390531029\h18
HYPERLINK\l"_Toc390531030"4.1MNIST数据库 PAGEREF_Toc390531030\h18
HYPERLINK\l"_Toc390531031"4.2模型训练 PAGEREF_Toc390531031\h19
HYPERLINK\l"_Toc390531032"4.3模型测试 PAGEREF_Toc390531032\h19
HYPERLINK\l"_Toc390531033"5实验结果及分析： PAGEREF_Toc390531033\h19
HYPERLINK\l"_Toc390531034"5.1AutoEncoder PAGEREF_Toc390531034\h20
HYPERLINK\l"_Toc390531035"5.2SparseAutoEncoder PAGEREF_Toc390531035\h20
HYPERLINK\l"_Toc390531036"5.3DenoiseAutoEncoder PAGEREF_Toc390531036\h21
HYPERLINK\l"_Toc390531037"5.4实验结果汇总及分析 PAGEREF_Toc390531037\h22
HYPERLINK\l"_Toc390531038"6参考资料 PAGEREF_Toc390531038\h24


AutoEncoder实现手写数字识别
1神经网络基本概念
1.1概述
神经网络是一种模仿动物神经网络行为特征，进行分布式并行信息处理的算法数学模型。这种网络依靠系统的复杂程度，通过调整内部大量节点之间相互连接的关系，从而达