BP神经网络与RBF神经网络第1页，共80页。主要内容一：神经网络的背景知识二：BP神经网络三：RBF神经网络四：两种神经网络的比较第2页，共80页。人工神经网络简介人工神经网络（ArtificialNeuralNetwork）是基于仿生学理论上的对人脑某些已知结构的模仿。它将人脑的神经元连接方式加以抽象。用大量的神经元节点组成一个庞大的神经网络，从而实现数据的非线性处理，以及复杂的逻辑运算。第3页，共80页。正因为人工神经网络是对生物神经网络的模仿，它具有一些传统逻辑运算不具有的优点。主要包括：一、非线性非线性是自然界的普遍特性。人脑的思考过程就是非线性的。人工神经网络通过模仿人脑神经元结构的信息传递过程，可以进行线性或者非线性的运算，这是人工神经网络的最特出的特性。第4页，共80页。二、自适应性神经网络的结构中设置了权值和阈值参数。网络能够随着输入输出端的环境变化，自动调节神经节点上的权值和阈值。因此，神经网络对在一定范围变化的环境有很强的适应能力。适用于完成信号处理、模式识别、自动控制等任务。系统运行起来也相当稳定。第5页，共80页。三、较强的容错性由若干个小的神经元组成的网络十分庞大。信息存储在神经元之间的连接权值上，采用的是分布式的存储方式。局部的或部分的神经元损坏后，不会对全局的活动造成大的影响。第6页，共80页。神经网络的应用前景目前，神经网络主要应用于：信息领域、自动化领域、医学领域等。信息领域：主要包括信号处理和模式识别。目前神经网络被广泛的用于自适应信号处理和非线性信号处理。在这些方面已经有很多成功的例子。例如信号传递的去噪声和运动目标的速度估计。在模式识别方面，神经网络不仅可以完成如图像的特征检测，边缘提取等任务还可以进行如目标跟踪，语音识别等动态识别。第7页，共80页。神经网络模型包括：一、神经元二、网络拓扑三、学习算法第8页，共80页。神经元在介绍人工神经网络之前，首先简单了解一下实际的生物神经元的基本情况。一个生物神经元有两种状态，即兴奋状态和抑制状态。平时处于抑制状态的生物神经元，会收到多个其他生物神经元传来的兴奋电位，并且这多个输入电位在该神经元中以代数和的形式叠加，如果输入的兴奋总量超过某个阈值，该生物神经元就会被激发进入兴奋状态，发出输出脉冲并传给其他神经元。第9页，共80页。人工神经元模型第10页，共80页。其中xj(j=1,2……n)为神经元i的输入信号，wij为连接权，ui是由输入信号线性组合后的输出，θi为神经元的阀值。Njjijixwu1iiiuvNjjijixwu1iiiuvNjjijixwu1iiiuvNjjijixwu1iiiuvNjjijixwu1iiiuv第11页，共80页。f（·）称为神经元的传递函数（活化函数或激活函数）。对于基本的感知器神经元，工作方式是将加权总和与神经元的阈值进行比较，若大于阈值，神经元被激活。信号被传送到与其相连的更高一层神经元。)(1ijjijixwfy第12页，共80页。常见的传递函数有三类①硬阈值型函数)0(0)0(1{)(tttf第13页，共80页。②分段线性函数)1(1)11()1(1)(tttttf第14页，共80页。③sigmoid函数eetttf11)(第15页，共80页。Sigmoid函数是最常用的传递函数之一，这是由于sigmoid函数具有以下特点：①非线性和单调性②无限次可微③当权值很大时可近似阶跃函数④当权值很小时可近似线性函数第16页，共80页。网络拓扑网络拓扑是指网络的结构以及神经元之间的连接方式。根据连接方式的不同，可分为反馈型人工神经网络和非反馈型人工神经网络。前者神经元之间存在反馈的环路，后者神经元之间不存在反馈回路。对于非反馈神经网络，若结构是分层的，每一层神经元只与上一层神经元相连，同层之间互不相连，则称该网络为前馈型人工神经网络。第17页，共80页。网络的学习算法网络的学习算法是以满足网络所需的性能为目标，决定连接各神经元的初始权值及在训练时调整权值的方法。学习方法可分为监督学习和非监督学习。前者为有导师学习，训练时，同时向网络提供输入模式以及输出的样板模式...
VIP
