理论教育 生物神经网络与人工神经网络的权重记忆和四个基本特征

生物神经网络与人工神经网络的权重记忆和四个基本特征

时间:2023-06-14 理论教育 版权反馈
【摘要】:生物神经网络一般指生物的大脑神经元、细胞、触点等组成的网络,用于产生生物的意识,帮助生物进行思考和行动。每两个节点间的连接都代表一个对于通过该连接信号的加权值,称之为权重,这相当于人工神经网络的记忆。神经网络具有四个基本特征。非局限性一个神经网络通常由多个神经元广泛连接而成。神经元间的连接权值反映了单元间的连接强度,信息的表示和处理体现在网络处理单元的连接关系中。神经网络是模式识别

生物神经网络与人工神经网络的权重记忆和四个基本特征

(一)神经网络的含义

神经网络可以指向两种,一个是生物神经网络,一个是人工神经网络。生物神经网络一般指生物的大脑神经元、细胞、触点等组成的网络,用于产生生物的意识,帮助生物进行思考和行动。人工神经网络(Artificial Neural Networks,ANNs)也简称为神经网络(NNs)或称作连接模型(Connection Model),它是一种模仿动物神经网络行为特征,进行分布式并行信息处理算法数学模型。这种网络依靠系统的复杂程度,通过调整内部大量节点之间相互连接的关系,从而达到处理信息的目的。

数据挖掘的神经网络正是人工神经网络,指的是一种应用类似大脑神经突触连接的结构进行信息处理的数学模型。也就是说,神经网络是一种运算模型,由大量的节点(或称神经元)之间相互连接构成。每个节点代表一种特定的输出函数,称为激励函数。每两个节点间的连接都代表一个对于通过该连接信号的加权值,称之为权重,这相当于人工神经网络的记忆。网络的输出,则以网络的连接方式、权重值和激励函数的不同而不同。而网络自身通常都是对自然界某种算法或者函数的逼近,也可能是对一种逻辑策略的表达。

近十多年来,人工神经网络的研究工作不断深入,已经取得了很大的进展,其在模式识别、智能机器人、自动控制、预测估计、生物、医学、经济领域已成功地解决了许多现代计算机难以解决的实际问题,表现出了良好的智能特性。

(二)基本特征

神经网络是由大量处理单元互连组成的非线性自适应信息处理系统。它是在现代神经科学研究成果的基础上提出的,试图通过模拟大脑神经网络处理、记忆信息的方式进行信息处理。神经网络具有四个基本特征。

(1)非线性

非线性关系是自然界的普遍特性。大脑的智慧就是一种非线性现象。人工神经元处于激活或抑制两种不同的状态,这种行为在数学上表现为一种非线性关系。具有阈值的神经元构成的网络具有更好的性能,可以提高容错性和存储容量。

(2)非局限性

一个神经网络通常由多个神经元广泛连接而成。一个系统的整体行为不仅取决于单个神经元的特征,而且可能主要由单元之间的相互作用、相互连接所决定。通过单元之间的大量连接模拟大脑的非局限性。联想记忆是非局限性的典型例子。

(3)非常定性

神经网络具有自适应、自组织、自学习能力。神经网络不但处理的信息可以有各种变化,而且在处理信息的同时,非线性动力系统本身也在不断变化。经常采用迭代过程描写动力系统的演化过程。

(4)非凸性

一个系统的演化方向,在一定条件下将取决于某个特定的状态函数。例如能量函数,它的极值相应于系统比较稳定的状态。非凸性是指这种函数有多个极值,故系统具有多个较稳定的平衡态,这将导致系统演化的多样性。

神经网络中,神经元处理单元可表示不同的对象,例如特征、字母、概念,或者一些有意义的抽象模式。网络中处理单元的类型分为三类:输入单元、输出单元和隐单元。输入单元接受外部世界的信号与数据;输出单元实现系统处理结果的输出;隐单元是处在输入和输出单元之间不能由系统外部观察的单元。神经元间的连接权值反映了单元间的连接强度,信息的表示和处理体现在网络处理单元的连接关系中。神经网络是一种非程序化、适应性、大脑风格的信息处理,其本质是通过网络的变换和动力学行为得到一种并行分布式的信息处理功能,并在不同程度和层次上模仿人脑神经系统的信息处理功能。它是涉及神经科学、思维科学、人工智能、计算机科学等多个领域的交叉学科。

神经网络是并行分布式系统,采用了与传统人工智能和信息处理技术完全不同的机理,克服了传统的基于逻辑符号的人工智能在处理直觉、非结构化信息方面的缺陷,具有自适应、自组织和实时学习的特点。

(三)神经网络的特点与功能

1.神经网络的特点

神经网络的以下几个突出的优点使它近年来获得了极大的关注。

(1)可以充分逼近任意复杂的非线性关系;

(2)所有定量或定性的信息都等势分布储存于网络内的各神经元,具有很强的鲁棒性和容错性;

(3)采用并行分布处理方法,使得快速进行大量运算成为可能;

(4)可学习和自适应不知道或不确定的系统;

(5)能够同时处理定量、定性知识。

2.神经网络功能

神经网络的特点和优越性,主要表现在三个方面。

第一,具有自学习功能。例如实现图像识别时,只在先把许多不同的图像样板和对应的应识别的结果输入神经网络,网络就会通过自学习功能,慢慢学会识别类似的图像。自学习功能对于预测有特别重要的意义。预期未来的神经网络计算机将为人类提供经济预测、市场预测、效益预测,其应用前途是很远大的。

第二,具有联想存储功能。用神经网络的反馈网络就可以实现这种联想。(www.daowen.com)

第三,具有高速寻找优化解的能力。寻找一个复杂问题的优化解,往往需要很大的计算量,利用一个针对某问题而设计的反馈型神经网络,发挥计算机的高速运算能力,可能很快找到优化解。

(四)神经网络的应用

经过几十年的发展,神经网络理论在模式识别、自动控制、信号处理、辅助决策、人工智能等众多研究领域取得了广泛的成功。下面介绍神经网络在一些领域中的应用现状。

1.神经网络在信息领域中的应用

在处理许多问题中,信息来源既不完整又包含假象,决策规则有时相互矛盾,有时无章可循,这给传统的信息处理方式带来了很大的困难,而神经网络却能很好地处理这些问题,并给出合理的识别与判断。

(1)信息处理

现代信息处理要解决的问题是很复杂的,神经网络具有模仿或代替与人的思维有关的功能,可以实现自动诊断、问题求解,解决传统方法所不能或难以解决的问题。神经网络系统具有很高的容错性、鲁棒性及自组织性,即使连接线遭到很高程度的破坏,它仍能处在优化工作状态,这点在军事系统电子设备中得到了广泛的应用。现有的智能信息系统有智能仪器、自动跟踪监测仪器系统、自动控制制导系统、自动故障诊断和报警系统等。

(2)模式识别

模式识别是对表征事物或现象的各种形式的信息进行处理和分析,来对事物或现象进行描述、辨认、分类和解释的过程。该技术以贝叶斯概率论和申农的信息论为理论基础,对信息的处理过程更接近人类大脑的逻辑思维过程。现在有两种基本的模式识别方法,即统计模式识别方法和结构模式识别方法。神经网络是模式识别中的常用方法,近年来发展起来的神经网络模式的识别方法逐渐取代传统的模式识别方法。经过多年的研究和发展,模式识别已成为当前比较先进的技术,被广泛应用到文字识别、语音识别、指纹识别、遥感图像识别、人脸识别、手写体字符的识别、工业故障检测、精确制导等方面。

2.神经网络在医学中的应用

由于人体和疾病的复杂性、不可预测性,在生物信号与信息的表现形式和变化规律(自身变化与医学干预后变化)上,对其进行检测与信号表达,获取的数据及信息的分析、决策等诸多方面都存在非常复杂的非线性联系,适合神经网络的应用。目前的研究涉及从基础医学到临床医学的各个方面,主要应用在生物信号的检测与自动分析、医学专家系统等。

(1)生物信号的检测与分析

大部分医学检测设备都是以连续波形的方式输出数据的,这些波形是诊断的依据。神经网络是由大量的简单处理单元连接而成的自适应动力学系统,具有巨量并行性、分布式存储、自适应学习的自组织等功能,可以用它来解决生物医学信号分析处理中用常规法难以解决或无法解决的问题。神经网络在生物医学信号检测与处理中的应用主要集中在对脑电信号的分析,听觉诱发电位信号的提取、肌电和胃肠电等信号的识别,心电信号的压缩,医学图像的识别和处理等。

(2)医学专家系统

传统的专家系统,是把专家的经验和知识以规则的形式存储在计算机中,建立知识库,用逻辑推理的方式进行医疗诊断。但是在实际应用中,随着数据库规模的增大,将导致知识“爆炸”,在知识获取途径中也存在“瓶颈”问题,致使工作效率很低。以非线性并行处理为基础的神经网络为专家系统的研究指明了新的发展方向,解决了专家系统的以上问题,并提高了知识的推理、自组织、自学习能力,从而神经网络在医学专家系统中得到了广泛的应用和发展。在麻醉与危重医学等相关领域的研究中,涉及多生理变量的分析与预测,在临床数据中存在着一些尚未发现或无确切证据的关系与现象,信号的处理、干扰信号的自动区分检测、各种临床状况的预测等,都可以应用到神经网络技术。

3.神经网络在经济领域的应用

(1)市场价格预测

对商品价格变动的分析,可归结为对影响市场供求关系的诸多因素的综合分析。传统的统计经济学方法因其固有的局限性,难以对价格变动做出科学的预测,而神经网络容易处理不完整的、模糊不确定或规律性不明显的数据,所以用神经网络进行价格预测是有着传统方法无法相比的优势。从市场价格的确定机制出发,依据影响商品价格的家庭户数、人均可支配收入贷款利率城市化水平等复杂、多变的因素,建立较为准确可靠的模型。该模型可以对商品价格的变动趋势进行科学预测,并得到准确客观的评价结果。

(2)风险评估

风险是指在从事某项特定活动的过程中,因其存在的不确定性而产生的经济或财务的损失、自然破坏或损伤的可能性。防范风险的最佳办法就是事先对风险做出科学的预测和评估。应用神经网络的预测思想是根据具体现实的风险来源,构造出适合实际情况的信用风险模型的结构和算法,得到风险评价系数,然后确定实际问题的解决方案。利用该模型进行实证分析能够弥补主观评估的不足,可以取得满意效果。

4.神经网络在控制领域中的应用

神经网络由于其独特的模型结构和固有的非线性模拟能力,以及高度的自适应和容错特性等突出特征,在控制系统中获得了广泛的应用。其在各类控制器框架结构的基础上,加入了非线性自适应学习机制,从而使控制器具有更好的性能。基本的控制结构有监督控制、直接逆模控制、模型参考控制、内模控制、预测控制、最优决策控制等。

5.神经网络在交通领域的应用

近年来,对神经网络在交通运输系统中的应用开始了深入的研究。交通运输问题是高度非线性的,可获得的数据通常是大量的、复杂的,用神经网络处理相关问题有它巨大的优越性。应用范围涉及汽车驾驶员行为的模拟、参数估计、路面维护、车辆检测与分类、交通模式分析、货物运营管理、交通流量预测、运输策略与经济、交通环保、空中运输、船舶的自动导航及船只的辨认、地铁运营及交通控制等领域,并已经取得了很好的效果。

6.神经网络在心理学领域的应用

从神经网络模型的形成开始,它就与心理学就有着密不可分的联系。神经网络抽象于神经元的信息处理功能,神经网络的训练则反映了感觉、记忆、学习等认知过程。通过不断的研究,变化着神经网络的结构模型和学习规则,从不同角度探讨着神经网络的认知功能,为其在心理学的研究中奠定了坚实的基础。近年来,神经网络模型已经成为探讨社会认知、记忆、学习等高级心理过程机制不可或缺的工具。神经网络模型还可以对脑损伤病人的认知缺陷进行研究,对传统的认知定位机制提出了挑战。

虽然神经网络已经取得了一定的进步,但是还存在许多缺陷。例如,应用的面不够宽阔、结果不够精确,现有模型算法的训练速度不够高,算法的集成度不够高。希望今后在理论上寻找新的突破点,建立新的通用模型和算法;进一步对生物神经元系统进行研究,不断丰富对人脑神经的认识。

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈