斯芬克斯的谜语

20世纪80年代中期，David Runelhart，Geoffrey Hinton和Ronald Williams，David Parker，以及Yannn Le Cun分别独立发现了反向传播（Back propagation）算法，简称BP算法。这种网络也成为BP网络，是有非线性变换单元组成的多层前馈网络，其基本思想是由多组输入加上误差信号得出最终结果。

1、工作信号正向传播。

输入信号从输入层经隐单元，传向输出层，在输出端产生输出信号，这是工作信号的正向传播。在信号的向前传递过程中网络的权值是固定不变的，每一层神经元的状态只影响下一层神经元的状态。如果在输出层不能得到期望的输出，则传入误差信号反向传播。

2、误差信号反向传播。

网络的实际输出与期望输出之间差值即为误差信号，误差信号由输出端开始逐层向前传播，这是误差信号的反向传播。在误差信号的反向传播的过程中，网络的权值由误差反馈进行调节，通过权值的不断修正使网络的实际输出更接近期望输出。

BP网络主要用于：
1、函数逼近：用输入矢量和相应的输出矢量训练一个网络逼近一个函数；
2、模式识别：用一个特定的输出矢量将它与输入矢量联系起来；
3、分类：把输入矢量以所定义的合适方式进行分类；
4、数据压缩：减少输出矢量维数以便于传输或存储。

定义

人工神经网络是在人类对其大脑神经网络认识理解的基础上人工构造的能够实现某种功能的神经网络。它是理论化的人脑神经网络的数学模型，是基于模仿大脑伸进网络结构和功能而建立的一种信息处理系统。它是由大量简单原件相互连接而成的复杂系统，具有高度的非线性，能够进行复杂的逻辑操作和非线性关系实现的系统

人工神经元组成

系统的基本构造单元是神经细胞，也成神经元。他们的特点是具有产生、处理和传递信息的功能。每个神经元都包括三个主要部分：细胞体、树突和轴突。树突的作用是向四方收集由其他神经细胞传来的信息；轴突的功能是传出从细胞体送来的信息。每个神经细胞所产生和传递的基本信息是兴奋或抑制。在两个神经细胞之间的相互接触点成为突触。

信息传递的过程：

一个神经细胞的树突，在突触处从其他神经细胞接受信号。这些信号可能是兴奋性的，也可能是抑制性的。所有鼠兔接收到的信号都传到细胞体进行综合处理。如果在某一段时间内，细胞接收到的兴奋性的信号足够大，以致使此细胞被激活，产生一个脉冲信号。这个脉冲信号将沿着该细胞的轴突传递出去，并通过突触传给其他神经细胞。神经细胞通过突触的联接形成神经网络。