智能计算导论神经网络专家讲座.pptx

ArtificialNeuralNetworks，简记作ANN是对人类大脑系统一阶特征一个描述。简单地讲，它是一个数学模型，能够用电子线路来实现，也能够用计算机程序来模拟，是人工智能研究一个方法。人工神经系统（ANS）神经网络（NN）自适应网（AdaptiveNetworks）联接主义（Connectionism）神经计算机（Neurocomputer）人工神经网络历史人工神经网络历史人工神经网络历史人工神经网络历史人工神经网络历史人工神经网络历史人工神经网络历史生物神经系统生物神经系统生物神经系统生物神经系统生物神经元枝，每个神经元一个，其作用相当于神经元输出电缆，它经过尾部分出许多神经末梢以及梢端突触向其它神经元输出神经冲动。树突：这是由细胞体向外伸出除轴突外其它分枝，长度普通均较短，但分枝很多。它相当于神经元输人端，用于接收从四面八方传来神经冲动。突触：是神经元之间相互连接接口部分即一个神经元神经末梢与另一个冲经元树突相接触交界面，位于神经元神经末梢尾端。轴突及突触与其它许多神经元建立联络。树突接收来自不一样神经元信息。神经元之间这种复杂联络就形成了对应神经网络。生物神经元神经元是组成神经网络最基本单元（构件）。人工神经元模型应该含有生物神经元基本特征。人工神经元模型人工神经元基本组成激活函数——执行对该神经元所取得网络输入变换，也能够称为激励函数、活化函数，传递函数等：O=f(net)单输入人工神经元传输函数(硬极限传输函数)HardLimitTransferFunction传输函数(线性传输函数)LinearTransferFunction传输函数(对数-S型函数)Log-SigmoidTransferFunction逻辑斯特函数（LogisticFunction）f(n)=1/(1+exp(-d×n))函数饱和值为0和1压缩函数（SquashingFunction）f(n)=g+h/(1+exp(-d×n))g，h，d为常数，函数饱和值为g和g+hS形函数有很好增益控制传输函数总结传输函数总结多输入神经元传输函数作用实例传输函数作用实例网络结构—神经元层神经元层简化模型多层神经网络（3层）简化表示多层神经网络讨论延时模块(Delays)递归网络（RecurrentNetwork）递归神经网络简单讨论一个说明性实例一个说明性实例一个说明性实例一个说明性实例人工神经网络最含有吸引力特点是它学习能力。1962年，Rosenblatt给出了人工神经网络著名学习定理：人工神经网络能够学会它能够表示任何东西。人工神经网络表示能力大大地限制了它学习能力。人工神经网络学习过程就是对它训练过程学习规则就是修改神经网络权值(包含偏置值)方法和过程(也称这种过程是训练算法)有导师学习(SupervisedLearning)与有导师训练(SupervisedTraining)相对应。输入向量与其对应输出向量组成一个“训练对”。有导师学习训练算法主要步骤包含：1）从样本集合中取一个样本（Ai，Bi）；2）计算出网络实际输出O；3）求D=Bi-O；4）依据D调整权矩阵W；5）对每个样本重复上述过程，直到对整个样本集来说，误差不超出要求范围。无导师学习(UnsupervisedLearning)与无导师训练(UnsupervisedTraining)相对应仅仅依据网络输入调整神经网络权值(包含偏置值)，无目标输出完成聚类，将输入模式分类抽取样本集合中蕴含统计特征，并以神经元之间联接权形式存于网络中。与有导师学习类似无确定目标输出，对应一个级别，而该级别对应网络性能测度比较适合控制等工程应用系统外部环境对系统输出结果给出评价，学习系统经过强化受奖动作来改进本身性能。（再例学习）思索题思索题补充读物