人工神经网络的基本模型.ppt

第二章
人工神经网络的基本模型第二章人工神经网络的基本模型

人工神经元的基本模型

几种典型的激活函数

人工神经网络的学习算法概述

人工神经网络的基本拓扑结构生物神经元结构
（1）细胞体:细胞核、细胞质和细胞膜。（2）树突：胞体短而多分枝的突起。相当于神经元的输入端。（3）轴突：胞体上最长枝的突起，也称神经纤维。端部有很多神经末稍传出神经冲动。（4）突触：神经元间的连接接口，每个神经元约有1万～10万个突触。神经元通过其轴突的神经末稍，经突触与另一神经元的树突联接，实现信息的传递。由于突触的信息传递特性是可变的，形成了神经元间联接的柔性，称为结构的可塑性。（5）细胞膜电位：神经细胞在受到电的、化学的、机械的刺激后，能
产生兴奋与抑制。生物神经元结构生物神经元功能2.1人工神经元的基本模型图2.1MP神经元模型f(x)：作用（激发）函数——是一种阶跃函数。

从神经元的结构示意图上可见：当输入yj的加权和大于

域值时，神经元的输出yi=1，即神经元处于“兴奋状态”；

反之，当输入yj的加权和大于域值时，神经元的输

出yi=0，即神经元处于“抑制状态”

在基本MP模型中取整数。人工神经元模拟生物神经元的一阶特性。
输入：Y=（y0，y1，y2，…，yn）
联接权：W=（w0，w1，w2，…，wn）T
网络输入： netj=∑wjiyi
向量形式： netj=WY2.1人工神经元的基本模型M-P模型在人工神经网络中的地位
首先M-P模型是所有人工神经元中第一个被建立起来的，它在多个方面都显示出生物神经元所具有的基本特性。
其次，目前其它形式的人工神经元已有很多，但大多数都是在M-P模型的基础上经过不同的修正，改进变换而发展起来。因此M-P人工神经元是整个人工神经网的基础。2.1人工神经元的基本模型激活函数——执行对该神经元所获得的网络输入的变换，也常称为激励函数、活化函数：o=f(net)
线性函数（LinerFunction）
f(net)=k*net+c2、非线性斜面函数(RampFunction) β ifnet>θ
f（net）=
-γ ifnet≤θ
βγθ均为非负实数，θ为阈值。
二值形式：
1 ifnet>θ
f（net）=
0 ifnet≤θ
双极形式：
1 ifnet>θ
f（net）=
-1 ifnet≤θ2.2几种典型的激活函数(ActivationFunction)第二章人工神经网络的基本模型对称型阶跃函数第二章人工神经网络的基本模型神经元演示
非线性作用函数（激发函数）非线性作用函数1非线性作用函数2非线性作用函数3非线性作用函数4非线性作用函数非线性作用函数5非线性作用函数5非线性作用函数5非线性作用函数6非线性作用函数6非线性作用函数2.3人工神经网络的学习算法概述对于竞争学习规则，有三个基本元素：
1.一个神经元集合，这些神经元除了一些随机分布的突触权值之外是完全相同的，并且由于突触权值的不同而对一个给定的输入模式集合由不同的响应。
2.在每个神经元的强度上给定一个极限。
3.一个机制，它允许神经元为响应一个给定输入子集的权利而竞争，从而使得每次只有一个输出神经元或者每组只有一个神经元是激活的（即，“开”）.竞争获胜神经元被叫做胜者通吃（winner-takes-all）神经元。2.3人工神经网络的学习算法概述2.3人工神经网络的学习算法概述2.3人工神经网络的学习算法概述2.3人工神经网络的学习算法概述2.3人工神经网络的学习算法概述2.3人工神经网络的学习算法概述2.3人工神经网络的学习算法概述2.3人工神经网络的学习算法概述2.3人工神经网络的学习算法概述2.3人工神经网络的学习算法概述Hebb学习规则Delta学习规则（误差校正规则如梯度方法、BP算法）2.4人工神经网络的基本拓扑结构2.4人工神经网络的基本拓扑结构2.4人工神经网络的基本拓扑结构2.4人工神经网络的基本拓扑结构2.4人工神经网络的基本拓扑结构2.4人工神经网络的基本拓扑结构本章结束，谢谢大家！