神经网络计算机原理及实现方法

　1 引言
　　很长时间以来,在我们生活中所接触到的大部分计算机,都是一种被称为“电脑”的冯诺依曼型计算机。这种计算论文联盟http://机在运算等很多方面确实超越了人类大脑的水平,但是基于串行控制机构的冯诺依曼型计算机在图像处理、语音识别等方面远不如大脑的处理能力。于是,在人类对大脑的不断探索中,一种更接近人脑思维方式的神经网络计算机走进人们的视线。
　　
　　2 大脑的研究
　　大脑活动是由大脑皮质许许多多脑神经细胞的活动构成。
　　神经细胞由一个细胞体、一些树突 、和轴突组成,如图1所示。神经细胞体是一颗星状球形物,里面有一个核。树突由细胞体向各个方向长出,本身可有分支,是用来接收信号的。轴突也有许多的分支。轴突通过分支的末梢和其他神经细胞的树突相接触,形成所谓的突触,一个神经细胞通过轴突和突触把产生的信号送到其他的神经细胞。每个神经细胞通过它的树突和大约10,000个其他的神经细胞相连。这就使得人脑中所有神经细胞之间连接总计可能有1,000,000,000,000,000个。
　　神经细胞利用电-化学过程交换信号。输入信号来自另一些神经细胞。这些神经细胞的轴突末梢(也就是终端)和本神经细胞的树突相遇形成突触,信号就从树突上的突触进入本细胞。信号在大脑中实际怎样传输是一个相当复杂的过程,但就我们而言,重要的是把它看成和现代的计算机一样,利用一系列的0和1来进行操作。Www.11665.COm就是说,大脑的神经细胞也只有两种状态:兴奋和不兴奋。发射信号的强度不变,变化的仅仅是频率。神经细胞利用一种我们还不知道的方法,把所有从树突上突触进来的信号进行相加,如果全部信号的总和超过某个阀值,就会激发神经细胞进入兴奋状态,这时就会有一个电信号通过轴突发送出去给其他神经细胞。如果信号总和没有达到阀值,神经细胞就不会兴奋起来。
　　尽管这是类似0和1的操作方式,由于数量巨大的连接,使得大脑具备难以置信的能力。尽管每一个神经细胞仅仅工作于大约100hz的频率,但因各个神经细胞都以独立处理单元的形式并行工作着,使人类的大脑具有非常明显的特点:
　　1) 能实现无监督的学习。
　　2) 对损伤有冗余性
　　3) 善于归纳推广。
　　4) 处理信息的效率极高:神经细胞之间电-化学信号的传递,与一台数字计算机中cpu的数据传输相比,速度是非常慢的,但因神经细胞采用了并行的工作方式,使得大脑能够同时处理大量的数据。这个特点也是神经网络计算机在处理方法上最应该体现的一点。
　　
　　3 人工神经网络基础
　　对于脑细胞的活动原理,用简单数学语言来说, 一次乘法和累加就相当于一个神经突触接受一次信息的活动。许许多多简单的乘法和累加计算, 就形成了脑细胞决定是激活状态还是抑制状态的简单数学模型。从这种模型出发, 任何复杂的大量的脑神经细胞活动与只是大量乘法、累加和判别是否达到激活值的简单运算的并行与重复而已。因此用这种大量并行的简单运算就可以来模拟大脑的活动, 这就是人工神经网络。
　　神经网络的基本单元是人工神经元,它是根据人脑的工作原理提出的。图2所示为一个人工神经元,可由以下方程描述
　　σi =wijxj + si2θi , ui = f(σi) ,yi = g(ui)
　　xi 为输入信号;
　　yi 为输出信号;
　　ui 为神经元的内部状态;
　　θi 为阈值;
　　si 为外部控制信号输入(控制神经元的内部状态ui ,使之保持一定的状态);
　　wij 为神经元的连接权值。
　　其中,可通过学习改变连接权wij ,使得神经元满足或接近一定的非线性输入输出关系。
　　
　　4 神经网络计算机的实现
　　对于神经网络计算机实现,目前主要有以下三种实现途径:
　　4.1 用软件在通用计算机上模拟神经网络
　　在sisd(单指令流、单数据流,如经典个人计算机)、simd(单指令流、多数据流,如连接机制机器)或mimd(多指令流、多数据流,如在transputer网络上)结构的计算机上仿真。
　　这种用软件实现神经网络的方法,灵活而且不需要专用硬件,但是基于此方法实现的神经网络计算机速度较慢,一般仅适合人工神经网络的研究,另一方面,它在一定程度上使神经网络计算机失去了它的本质,体现不出并行处理信息的特征。
　　4.2 对神经网络进行功能上的仿真
　　以多个运算单元节点进行运算,在不同时间模拟各异不同的神经元,串并行地模拟神经网格计算。换句话说,即用m个物理单位去模拟n个神经元,而m<n。基于并行计算机和阵列机的神经网络虚拟实现,具有一定的通用性。 <br="">　　虚拟实现的神经网络计算机主要可分为:协处理机,并行处理机阵列及现有的并行计算机等。目前已经有多种产品及系统问世,包括mark v神经计算机、gapp系统、gf11、基于transputer的系统以及基于dsp的系统。它们各有特点,技术已日益成熟。
　　但是这种实现方式仍以神经网络仿真为主要目标,另外其速度,容量等性能的提高则以增加处理机等费用为代价,较难成为神经网络的最终应用产品。
　　4.3 利用全硬件实现
　　4.3.1 基于cmos, ,ccd工艺和浮栅工艺的神经网络全硬件实现
　　在微电子芯片上作上许多具有模拟神经元功能的单元电路,按神经网络模型的拓扑结构在芯片上联成网络,这类神经网络芯片上的电路与所模拟神经网络种的各个神经元和神经突触等都有一一对应的关系,神经网络中的各个权值也都存贮在同一芯片上。
　　我国1995年开发的预言神一号就是一台实现了全硬件的通用神经网络处理机。它以pc机作为宿主机,通过编程实现前馈网络、反馈网络、som等人工神经网络的模型和算法,在网络运算过程中预言神一号神经计算机还具备随时修改网络参数及神经元非线性函数的功能。
　　但是这类芯片受硅片面积的限制,不可能制作规模庞大的神经网络硬件。如果一个数万个神经元的全联接网络,其互联线将达到10亿根;若以1微米三层金属布线工艺来计算,仅仅布线一项所占硅片面积将达到数十平方米。因此,在微电子技术基础上用这种一一对应的方式实现规模很大的神经网络显然不现实。
　　4.3.2 用光学或光电混合器件实现神经网络硬件系统
　　光学技术在许多方面有着电子技术无法比拟的优点:光具有并行性,这点与神经计算机吻合;光波的传播交叉无失真,传播容量大;可实现超高速运算。现在的神经计算机充其量也只有数百个神经,因此用“电子式”还是可能的,但是若要把一万个神经结合在一起,那么就需要一亿条导线,恐怕除光之外,任何东西都不可能完成了。但是光束本身很难表示信号的正负,通常需要双层结构,加之光学相关器件体积略大,都会使系统变得庞大与复杂。
　　
　　5 小结
　　人类对自身的不断探索,以及神经网络的发展,使得神经网络计算机呼之欲出。笔者认为,神经网络计算机发展的趋势是全硬件的实现,虽然在硬件实现上还有未能解决的问题,但这种趋势是不可阻挡的。随着电子、光电等器件工艺的发展,我们期待神经网络计算机代替冯诺依曼型计算机,真正走进我们的生活。