第三篇人工神经网络第一章概论1.1神经网络的生物学基础1.2人工神经网络1.3人工神经网络发展概况1.4神经网络在各领域的应用1.1神经网络的生物学基础神经元学说起源于19世纪末,于1889年Caial所创立,他指出神经系统是由相对独立的神经细胞构成的。神经细胞也称神经元,具有信息处理功能,是人体神经系统的基本单元,大约有103~105个左右。每个神经元与大约103~105个其他神经元相连接,按不同形式的结合方式构成一个极其庞大而又复杂的网络,即生物神经网络。通过神经元及其联接的可塑性,使人类大脑具有学习、记忆、认识和决策等智能。生物神经网络中各神经元之间连接的强弱,根据外部的激励信号作适应性变化;每个神经元又随着所接受的多个激励信号,将其综合而呈现出兴奋与抑制状态。1、生物神经元的结构1.细胞体:由细胞核、细胞质和细胞膜三部分构成,细胞体是神经元的主体,它是接受与处理信息的部件。2.树突:在细胞体周围向外伸出的许多突起的神经纤维。它是细胞体的信息输入端。3.轴突:也称神经纤维,它是由细胞体向外延伸最长的突起纤维体,是细胞体的信息输出端。4.突触:是一个神经元的神经末梢与另一个神经元树突或细胞体的连接,这种连接相当于神经元之间信息传递的输入与输出接口。2、生物神经元产生信息传输的过程由前介绍,生物神经元中的细胞体相当一个处理器,树突为输入端,轴突为输出端,突触为输入输出接口。该处理器对各树突收到的来自其他神经元的输入信号进行组合,并在一定条件下触发,产生一个输出信号,输出信号又传向其他神经元的树突和细胞体。这样,信息通过神经元在网络中一个个的传下去,直到最复杂的部分是处于大脑最外层的大脑皮层。当神经末梢没有受到外界刺激时,细胞处于安静状态;若神经细胞受到外界一定强度信号的刺激时,细胞膜电位从静息电位向正偏移,此时神经元的状态称为兴奋状态。如果膜电位从静息电位向负偏移,此时神经元的状态为抑制状态,神经细胞都处于这三个状态之一。3、人脑神经信息处理的特点1.对信息可以进行学习和记忆当外界的信号以光、热、声、力等形式作用于感觉器官,即可形成视觉、触觉、听觉等,映射到大脑继而进行信息加工:记忆和回想2.对信息归纳整理的功能。这一功能常常是与学习和记忆同步进行的,它使得人们将多次的感觉形成概念性的意识,也可将多次重复性的经验形成理论。这种将感性认识上升到理性认识的能力,是人脑的特有功能,也是人类智能的一种集中体现。3.可以接受多种类型的信息通过接受多种类型的信息、语言、文字或图形均可唤起人的记忆、同一事物可由不同类型的信息而触发。4.具有多种思维的能力包括形象思维、抽象思维和灵感思维。4、人脑神经信息处理的特征(1)具有并行分布式处理人脑中单个神经元的信息处理速度实际上是很慢的,每次大约1ms,比通常的电子门电路速度0.001ms要慢几个数量级。但是,人脑对某一复杂过程的处理和反应都很快,一般只需要几百毫秒。例如,要判定由眼看到的两图形是否一样,实际上约需400ms,按神经元处理的速度,如果采用串行工作模式,就需要几百串行步才能完成,这短的时间实际上是不可能办到的。因此只能把人脑看成由众多神经元所组成的超高密度的并行处理系统。(2)具有可塑性和自组织性虽然神经元之间的突触连接,基本部分是先天就有的,但是,大脑皮层的大部分突触连接是后天由环境的激励逐渐形成的。这种随环境刺激不同能形成和改变神经元之间突触联接的现象称为可塑性。若由环境的刺激,形成和调整神经元之间的突触连接,这样逐渐构成神经网络的现象称为自组织性。(3)具有信息处理与存贮合二为一性人脑皮层中记忆和处理是有机结合的,即信息处理与信息贮存合为一起,而计算机将存贮地址与存贮内容彼此分开。两者合二为一的优点就是有大量相关知识参与信息过程,这对于提高网络的信息处理速度和智能是至关重要。(4)具有冗余性和容错性信息在大脑的神经网络中是分散在很多神经元里存贮的,而且每个神经元实际上存贮多种不同信息的部分内容。在分布存贮的内容中,有许多是完成同一功能的,这就是神经网络具有冗余性,它可以使得大脑的单个神经...