第2节-前向多层人工神经网络01.ppt

第二章前向多层人工神经网络模式识别，举例：水果分级系统。ANN的主要功能之二——联想(AssociativeMemory)再论模式识别：对表征事物或现象的各种形式的（数值的、文字的或逻辑的）信息进行处理和分析，以对事物或现象进行描述、辨认、分类和解释的过程称为“模式识别”，是信息科学和人工智能的重要组成部分。模式类：特征参数选择合理时，不同类的模式，在特征空间中占据不同的分布区域；神经元模型常用的神经元功能函数类型前项人工神经网络的拓扑结构§2.2采用硬限幅函数时单个神经元的分类功能假设，二维分类问题的分类函数为l：学习算法设二维分类问题，有学习样本：学习算法：为了找到正确的W，依次向神经元输入学习样本X(k)，k=0,1,2,…，并且依照误差e(k)的正负来修正W：算法的几何原理：假设已经输入了k个样本，运行到了第k步，当前的权值W(k)。假设
输入X(k)得到y(k)=1，但给定的X(k)属于C1类，即，d(k)=0，则：§2.3线性函数神经元的最小二乘分类算法采用线性函数的神经元，即：设学习样本集{(X0,d0)，(X1,d1)，…，(XK-1,dK-1)，则x的估计为：用下列符号代表式中一些参量：显然，若存W*在使得xmin=x(W*)成立。并且，在W*点上x关于W的所有元素w0,w1,…(二维情况下只有w0和w1)的偏导数都为0，或者，说x关于矢量W的梯度在W*点为零矢量。即，对(2-15)求梯度得到：令：LMS学习问题的最陡梯度算法函数J(W)的图象称为“误差响应面”。梯度算法的正确性：对于二维的情况，就是：实用的梯度算法二维情况下W的增量(2-41)式重写如下：最陡梯度法的算法流程：实验：线性神经元两类分类1、字体安装与设置