智能计算导论神经网络培训课件.ppt

智能计算导论神经网络ArtificialNeuralNetworks，简记作ANN
是对人类大脑系统的一阶特性的一种描述。简单地讲，它是一个数学模型，可以用电子线路来实现，也可以用计算机程序来模拟，是人工智能研究的一种方法。人工神经系统（ANS）
神经网络（NN）
自适应网（AdaptiveNetworks）
联接主义（Connectionism）
神经计算机（Neurocomputer）人工神经网络的历史人工神经网络的历史人工神经网络的历史人工神经网络的历史人工神经网络的历史人工神经网络的历史人工神经网络的历史生物神经系统生物神经系统生物神经系统生物神经系统生物神经元枝，每个神经元一个，其作用相当于神经元的输出电缆，它通过尾部分出的许多神经末梢以及梢端的突触向其它神经元输出神经冲动。
树突：这是由细胞体向外伸出的除轴突外的其它分枝，长度一般均较短，但分枝很多。它相当于神经元的输人端，用于接收从四面八方传来的神经冲动。
突触：是神经元之间相互连接的接口部分即一个神经元的神经末梢与另一个冲经元的树突相接触的交界面，位于神经元的神经末梢尾端。
轴突及突触与其它许多神经元建立联系。
树突接收来自不同神经元的信息。
神经元之间的这种复杂联系就形成了相应的神经网络。生物神经元神经元是构成神经网络的最基本单元（构件）。
人工神经元模型应该具有生物神经元的基本特性。人工神经元模型人工神经元的基本构成激活函数——执行对该神经元所获得的网络输入的变换，也可以称为激励函数、活化函数，传递函数等：
O=f(net)单输入人工神经元传输函数(硬极限传输函数)HardLimitTransferFunction传输函数(线性传输函数)LinearTransferFunction传输函数(对数-S型函数)Log-SigmoidTransferFunction逻辑斯特函数（LogisticFunction）
f(n)=1/(1+exp(-d×n))
函数的饱和值为0和1
压缩函数（SquashingFunction）
f(n)=g+h/(1+exp(-d×n))
g，h，d为常数，函数的饱和值为g和g+h
S形函数有较好的增益控制传输函数总结传输函数总结多输入神经元传输函数作用的实例传输函数作用的实例网络结构—神经元的层多层神经网络（3层）简化表示多层神经网络讨论延时模块(Delays)递归网络（RecurrentNetwork）递归神经网络简单讨论一个说明性实例一个说明性实例一个说明性实例一个说明性实例人工神经网络最具有吸引力的特点是它的学习能力。
1962年，Rosenblatt给出了人工神经网络著名的学习定理：人工神经网络可以学会它可以表达的任何东西。
人工神经网络的表达能力大大地限制了它的学习能力。
人工神经网络的学习过程就是对它的训练过程
学习规则就是修改神经网络权值(包括偏置值)的方法和过程(也称这种过程是训练算法)有导师学习(SupervisedLearning)与有导师训练(SupervisedTraining)相对应。
输入向量与其对应的输出向量构成一个“训练对”。
有导师学习的训练算法的主要步骤包括：
1）从样本集合中取一个样本（Ai，Bi）；
2）计算出网络的实际输出O；
3）求D=Bi-O；
4）根据D调整权矩阵W；
5）对每个样本重复上述过程，直到对整个样本集来说，误差不超过规定范围。无导师学习(UnsupervisedLearning)与无导师训练(UnsupervisedTraining)相对应
仅仅依据网络输入调整神经网络权值(包括偏置值)，无目标输出
完成聚类，将输入模式分类
抽取样本集合中蕴含的统计特性，并以神经元之间的联接权的形式存于网络中。与有导师学习类似
无确定目标输出，对应一个级别，而该级别对应网络性能测度
比较适合控制等工程应用系统
外部环境对系统的输出结果给出评价，学习系统通过强化受奖的动作来改善自身性能。（再例学习）思考题思考题补充读物