循环神经网络(RNN, Recurrent Neural Networks)介绍

循环神经网络(RNN, Recurrent Neural Networks)介绍

标签：递归神经网络RNN神经网络LSTMCW-RNN

2015-09-23 13:24 25873人阅读评论(13) 收藏举报分类：

数据挖掘与机器学习（23）

版权声明：未经许可, 不能转载

目录(?)[+]循环神经网络(RNN, Recurrent Neural Networks)介绍

这篇文章很多内容是参考：

https://www.wendangku.net/doc/0f9797649.html,/2015/09/recurrent-neural-networks-tutorial-part-1-introd uction-to-rnns/，在这篇文章中，加入了一些新的内容与一些自己的理解。

循环神经网络(Recurrent Neural Networks，RNNs)已经在众多自然语言处理(Natural Language Processing, NLP)中取得了巨大成功以及广泛应用。但是，目前网上与RNNs有关的学习资料很少，因此该系列便是介绍RNNs的原理以及如何实现。主要分成以下几个部分对RNNs进行介绍：

1. RNNs的基本介绍以及一些常见的RNNs(本文内容)；

2. 详细介绍RNNs中一些经常使用的训练算法，如Back Propagation Through

Time(BPTT)、Real-time Recurrent Learning(RTRL)、Extended Kalman Filter(EKF)等学习算法，以及梯度消失问题(vanishing gradient problem)

3. 详细介绍Long Short-Term Memory(LSTM，长短时记忆网络)；

4. 详细介绍Clockwork RNNs(CW-RNNs，时钟频率驱动循环神经网络)；

5. 基于Python和Theano对RNNs进行实现，包括一些常见的RNNs模型。

不同于传统的FNNs(Feed-forward Neural Networks，前向反馈神经网络)，RNNs 引入了定向循环，能够处理那些输入之间前后关联的问题。定向循环结构如下图所示：

该tutorial默认读者已经熟悉了基本的神经网络模型。如果不熟悉，可以点击：Implementing A Neural Network From Scratch进行学习。

什么是RNNs

RNNs的目的使用来处理序列数据。在传统的神经网络模型中，是从输入层到隐含层再到输出层，层与层之间是全连接的，每层之间的节点是无连接的。但是这种普通的神经网络对于很多问题却无能无力。例如，你要预测句子的下一个单词是什么，一般需要用到前面的单词，因为一个句子中前后单词并不是独立的。RNNs之所以称为循环神经网路，即一个序列当前的输出与前面的输出也有关。具体的表现形式为网络会对前面的信息进行记忆并应

用于当前输出的计算中，即隐藏层之间的节点不再无连接而是有连接的，并且隐藏层的输入不仅包括输入层的输出还包括上一时刻隐藏层的输出。理论上，RNNs能够对任何长度的序列数据进行处理。但是在实践中，为了降低复杂性往往假设当前的状态只与前面的几个状态相关，下图便是一个典型的RNNs：

From Nature

RNNs包含输入单元(Input units)，输入集标记为{x0,x1,...,x t,x t+1,...}，而输出单元(Output units)的输出集则被标记为{y0,y1,...,y t,y t+1.,..}。RNNs还包含隐藏单元(Hidden units)，我们将其输出集标记为{s0,s1,...,s t,s t+1,...}，这些隐藏单元完成了最为主要的工作。你会发现，在图中：有一条单向流动的信息流是从输入单元到达隐藏单元的，与此同时另一条单向流动的信息流从隐藏单元到达输出单元。在某些情况下，RNNs会打破后者的限制，引导信息从输出单元返回隐藏单元，这些被称为“Back Projections”，并且隐藏层的输入还包括上一隐藏层的状态，即隐藏层内的节点可以自连也可以互连。

上图将循环神经网络进行展开成一个全神经网络。例如，对一个包含5个单词的语句，那么展开的网络便是一个五层的神经网络，每一层代表一个单词。对于该网络的计算过程如下：

x t表示第t,t=1,2,3...步(step)的输入。比如，x1为第二个词的one-hot向量(根据上图，x0为第一个词)；

PS：使用计算机对自然语言进行处理，便需要将自然语言处理成为机器能够识别的符号，加上在机器学习过程中，需要将其进行数值化。而词是自然语言理解与处理的基础，因此需要对词进行数值化，词向量(Word Representation，Word

embeding)[1]便是一种可行又有效的方法。何为词向量，即使用一个指定长度的实数向量v来表示一个词。有一种种最简单的表示方法，就是使用One-hot vector 表示单词，即根据单词的数量|V|生成一个|V| * 1的向量，当某一位为一的时候其他位都为零，然后这个向量就代表一个单词。缺点也很明显：

1.由于向量长度是根据单词个数来的，如果有新词出现，这个向量还得增加，

麻烦！(Impossible to keep up to date);

2.主观性太强(subjective)

3.这么多单词，还得人工打labor并且adapt，想想就恐

4.最不能忍受的一点便是很难计算单词之间的相似性。

现在有一种更加有效的词向量模式，该模式是通过神经网或者深度学习对词

进行训练，输出一个指定维度的向量，该向量便是输入词的表达。如

word2vec。

?s t为隐藏层的第t步的状态，它是网络的记忆单元。s t根据当前输入层的输出与上一步隐藏层的状态进行计算。s t=f(Ux t+Ws t?1)，其中f一般是非线性的激活函数，如tanh或ReLU，在计算s0时，即第一个单词的隐藏层状态，需要用到s?1，但是其并不存在，在实现中一般置为0向量；

?o t是第t步的输出，如下个单词的向量表示，o t=softmax(Vs t).

需要注意的是：

?你可以认为隐藏层状态s t是网络的记忆单元. s t包含了前面所有步的隐藏层状态。

而输出层的输出o t只与当前步的s t有关，在实践中，为了降低网络的复杂度，往

往s t只包含前面若干步而不是所有步的隐藏层状态；

?在传统神经网络中，每一个网络层的参数是不共享的。而在RNNs中，每输入一步，每一层各自都共享参数U,V,W。其反应者RNNs中的每一步都在做相同的事，只是输入不同，因此大大地降低了网络中需要学习的参数；这里并没有说清楚，解释

一下，传统神经网络的参数是不共享的，并不是表示对于每个输入有不同的参数，

而是将RNN是进行展开，这样变成了多层的网络，如果这是一个多层的传统神经

网络，那么x t到s t之间的U矩阵与x t+1到s t+1之间的U是不同的，而RNNs

中的却是一样的，同理对于s与s层之间的W、s层与o层之间的V也是一样的。

?上图中每一步都会有输出，但是每一步都要有输出并不是必须的。比如，我们需要预测一条语句所表达的情绪，我们仅仅需要关系最后一个单词输入后的输出，而不

需要知道每个单词输入后的输出。同理，每步都需要输入也不是必须的。RNNs的

关键之处在于隐藏层，隐藏层能够捕捉序列的信息。

RNNs能干什么？

RNNs已经被在实践中证明对NLP是非常成功的。如词向量表达、语句合法性检查、词性标注等。在RNNs中，目前使用最广泛最成功的模型便是LSTMs(Long Short-Term Memory，长短时记忆模型)模型，该模型通常比vanilla RNNs能够更好地对长短时依赖进行表达，该模型相对于一般的RNNs，只是在隐藏层做了手脚。对于LSTMs，后面会进行详细地介绍。下面对RNNs在NLP中的应用进行简单的介绍。

语言模型与文本生成(Language Modeling and Generating Text)

给你一个单词序列，我们需要根据前面的单词预测每一个单词的可能性。语言模型能够一个语句正确的可能性，这是机器翻译的一部分，往往可能性越大，语句越正确。另一种应用便是使用生成模型预测下一个单词的概率，从而生成新的文本根据输出概率的采样。语言模型中，典型的输入是单词序列中每个单词的词向量(如One-hot vector)，输出时预测的单词序列。当在对网络进行训练时，如果o t＝x t+1，那么第t步的输出便是下一步的输入。

下面是RNNs中的语言模型和文本生成研究的三篇文章：

机器翻译(Machine Translation)

机器翻译是将一种源语言语句变成意思相同的另一种源语言语句，如将英语语句变成同样意思的中文语句。与语言模型关键的区别在于，需要将源语言语句序列输入后，才进行输出，即输出第一个单词时，便需要从完整的输入序列中进行获取。机器翻译如下图所示：

RNN for Machine Translation. Image Source 下面是关于RNNs中机器翻译研究的三篇文章：

语音识别(Speech Recognition)

语音识别是指给一段声波的声音信号，预测该声波对应的某种指定源语言的语句以及该语句的概率值。

RNNs中的语音识别研究论文：

图像描述生成(Generating Image Descriptions)

和卷积神经网络(convolutional Neural Networks, CNNs)一样，RNNs已经在对无标图像描述自动生成中得到应用。将CNNs与RNNs结合进行图像描述自动生成。这是一个非常神奇的研究与应用。该组合模型能够根据图像的特征生成描述。如下图所示：

图像描述生成中的深度视觉语义对比. Image Source

如何训练RNNs

对于RNN是的训练和对传统的ANN训练一样。同样使用BP误差反向传播算法，不过有一点区别。如果将RNNs进行网络展开，那么参数W,U,V是共享的，而传统神经网络却不是的。并且在使用梯度下降算法中，每一步的输出不仅依赖当前步的网络，并且还以来前面若干步网络的状态。比如，在t=4时，我们还需要向后传递三步，已经后面的三步都需要加上各种的梯度。该学习算法称为Backpropagation Through Time (BPTT)。后面会对BPTT进行详细的介绍。需要意识到的是，在vanilla RNNs训练中，BPTT无法解决长时依赖问题(即当前的输出与前面很长的一段序列有关，一般超过十步就无能为力了)，因为BPTT会带来所谓的梯度消失或梯度爆炸问题(the vanishing/exploding gradient problem)。当然，有很多方法去解决这个问题，如LSTMs便是专门应对这种问题的。RNNs扩展和改进模型

这些年，研究者们已经提出了多钟复杂的RNNs去改进vanilla RNN模型的缺点。下面是目前常见的一些RNNs模型，后面会对其中使用比较广泛的进行详细讲解，在这里进行简单的概述。

Simple RNNs(SRNs)[2]

SRNs是RNNs的一种特例，它是一个三层网络，并且在隐藏层增加了上下文单元，下图中的y便是隐藏层，u便是上下文单元。上下文单元节点与隐藏层中的节点的连接是固定(谁与谁连接)的，并且权值也是固定的(值是多少)，其实是一个上下文节点与隐藏层节点一一对应，并且值是确定的。在每一步中，使用标准的前向反馈进行传播，然后使用学习算法进行学习。上下文每一个节点保存其连接的隐藏层节点的上一步的输出，即保存上文，并作用于当前步对应的隐藏层节点的状态，即隐藏层的输入由输入层的输出与上一步的自己的状态所决定的。因此SRNs能够解决标准的多层感知机(MLP)无法解决的对序列数据进行

预测的任务。

SRNs网络结构如下图所示：

Bidirectional RNNs[3]

Bidirectional RNNs(双向网络)的改进之处便是，假设当前的输出(第t步的输出)不仅仅与前面的序列有关，并且还与后面的序列有关。例如：预测一个语句中缺失的词语那么就需要根据上下文来进行预测。Bidirectional RNNs是一个相对较简单的RNNs，是由两个RNNs上下叠加在一起组成的。输出由这两个RNNs的隐藏层的状态决定的。如下图所示：

Deep(Bidirectional)RNNs[4]

Deep(Bidirectional)RNNs与Bidirectional RNNs相似，只是对于每一步的输入有多层网络。这样，该网络便有更强大的表达与学习能力，但是复杂性也提高了，同时需要更多

的训练数据。Deep(Bidirectional)RNNs的结构如下图所示：

Echo State Networks[5]

ESNs(回声状态网络)虽然也是一种RNNs，但是它与传统的RNNs相差很大。ESNs 具有三个特点：

?它的核心结构时一个随机生成、且保持不变的储备池(Reservoir)，储备池是大规模的、随机生成的、稀疏连接(SD通常保持1%～5%，SD表示储备池中互相连接的神经元占总的神经元个数N的比例)的循环结构；

?其储备池到输出层的权值矩阵是唯一需要调整的部分；

?简单的线性回归就可完成网络的训练。

从结构上讲，ESNs是一种特殊类型的循环神经网络，其基本思想是：使用大规模随机连接的循环网络取代经典神经网络中的中间层，从而简化网络的训练过程。因此ESNs的关键是中间的储备池。网络中的参数包括：W为储备池中节点的连接权值矩阵，W in为输入层到储备池之间的连接权值矩阵，表明储备池中的神经元之间是连接的，W back为输出层

到储备池之间的反馈连接权值矩阵，表明储备池会有输出层来的反馈，W out为输入层、储备池、输出层到输出层的连接权值矩阵，表明输出层不仅与储备池连接，还与输入层和自己连接。W outbias表示输出层的偏置项。

对于ESNs，关键是储备池的四个参数，如储备池内部连接权谱半径

SR(SR=λmax=max{|W的特征指|}，只有SR <1时，ESNs才能具有回声状态属性)、储备池规模N(即储备池中神经元的个数)、储备池输入单元尺度IS(IS为储备池的输入信号连接到储备池内部神经元之前需要相乘的一个尺度因子)、储备池稀疏程度SD(即为储备池中互相连接的神经元个数占储备池神经元总个数的比例)。对于IS，如果需要处理的任务的非线性越强，那么输入单元尺度越大。该原则的本质就是通过输入单元尺度IS，将输入变换到神经元激活函数相应的范围(神经元激活函数的不同输入范围，其非线性程度不同)。

ESNs的结构如下图所示：

Gated Recurrent Unit Recurrent Neural Networks[6]

GRUs也是一般的RNNs的改良版本，主要是从以下两个方面进行改进。一是，序列中不同的位置处的单词(已单词举例)对当前的隐藏层的状态的影响不同，越前面的影响越小，即每个前面状态对当前的影响进行了距离加权，距离越远，权值越小。二是，在产生误差error时，误差可能是由某一个或者几个单词而引发的，所以应当仅仅对对应的单词weight进行更新。GRUs的结构如下图所示。GRUs首先根据当前输入单词向量word vector已经前一个隐藏层的状态hidden state计算出update gate和reset gate。再根据reset gate、当前word vector以及前一个hidden state计算新的记忆单元内容(new memory content)。当reset gate为1的时候，new memory content忽略之前的所有memory content，最终的memory是之前的hidden state与new memory content的

结合。

LSTM Netwoorks[7]

LSTMs与GRUs类似，目前非常流行。它与一般的RNNs结构本质上并没有什么不同，只是使用了不同的函数去去计算隐藏层的状态。在LSTMs中，i结构被称为cells，可以把cells看作是黑盒用以保存当前输入x t之前的保存的状态h t?1，这些cells更加一定的条件决定哪些cell抑制哪些cell兴奋。它们结合前面的状态、当前的记忆与当前的输入。已经证明，该网络结构在对长序列依赖问题中非常有效。LSTMs的网络结构如下图所示。对于LSTMs的学习，参见this post has an excellent explanation

LSTMs解决的问题也是GRU中所提到的问题，如下图所示：

LSTMs与GRUs的区别如图所示[8]：

从上图可以看出，它们之间非常相像，不同在于：

?new memory的计算方法都是根据之前的state及input进行计算，但是GRUs中有一个reset gate控制之前state的进入量，而在LSTMs里没有这个gate；

?产生新的state的方式不同，LSTMs有两个不同的gate，分别是forget gate (f gate)和input gate(i gate)，而GRUs只有一个update gate(z gate)；

?LSTMs对新产生的state又一个output gate(o gate)可以调节大小，而GRUs直接输出无任何调节。

隐藏层分为几个块(组，Group/Module)，每一组按照自己规定的时钟频率对输入进行处理。并且为了降低标准的RNNs的复杂性，CW-RNNs减少了参数的数目，提高了网络性能，加速了网络的训练。CW-RNNs通过不同的隐藏层模块工作在不同的时钟频率下来解决长时间依赖问题。将时钟时间进行离散化，然后在不同的时间点，不同的隐藏层组在工作。因此，所有的隐藏层组在每一步不会都同时工作，这样便会加快网络的训练。并且，时钟周期小的组的神经元的不会连接到时钟周期大的组的神经元，只会周期大的连接到周期小的(认为组与组之间的连接是有向的就好了，代表信息的传递是有向的)，周期大的速度慢，周期小的速度快，那么便是速度慢的连速度快的，反之则不成立。现在还不明白不要紧，下面会进行讲解。

CW-RNNs与SRNs网络结构类似，也包括输入层(Input)、隐藏层(Hidden)、输出层(Output)，它们之间也有向前连接，输入层到隐藏层的连接，隐藏层到输出层的连接。但是与SRN不同的是，隐藏层中的神经元会被划分为若干个组，设为g，每一组中的神经元个数相同，设为k，并为每一个组分配一个时钟周期T i∈{T1,T2,...,T g}，每一个组中的所有神经元都是全连接，但是组j到组i的循环连接则需要满足T j大于T i。如下图所示，将这些组按照时钟周期递增从左到右进行排序，即T1

256/4=64个节点，第一组隐藏层与隐藏层的连接矩阵为64*64的矩阵，第二层的矩阵则为64*128矩阵，第三组为64*(3*64)=64*192矩阵，第四组为64*(4*64)=64*256矩阵。这就解释了上一段的后面部分，速度慢的组连到速度快的组，反之则不成立。

CW-RNNs的网络结构如下图所示：

循环神经网络(RNN, Recurrent Neural Networks)介绍

循环神经网络(RNN, Recurrent Neural Networks)介绍 标签：递归神经网络RNN神经网络LSTMCW-RNN 2015-09-23 13:24 25873人阅读评论(13) 收藏举报分类： 数据挖掘与机器学习（23） 版权声明：未经许可, 不能转载 目录(?)[+]循环神经网络(RNN, Recurrent Neural Networks)介绍 这篇文章很多内容是参考： https://www.wendangku.net/doc/0f9797649.html,/2015/09/recurrent-neural-networks-tutorial-part-1-introd uction-to-rnns/，在这篇文章中，加入了一些新的内容与一些自己的理解。 循环神经网络(Recurrent Neural Networks，RNNs)已经在众多自然语言处理(Natural Language Processing, NLP)中取得了巨大成功以及广泛应用。但是，目前网上与RNNs有关的学习资料很少，因此该系列便是介绍RNNs的原理以及如何实现。主要分成以下几个部分对RNNs进行介绍： 1. RNNs的基本介绍以及一些常见的RNNs(本文内容)； 2. 详细介绍RNNs中一些经常使用的训练算法，如Back Propagation Through Time(BPTT)、Real-time Recurrent Learning(RTRL)、Extended Kalman Filter(EKF)等学习算法，以及梯度消失问题(vanishing gradient problem) 3. 详细介绍Long Short-Term Memory(LSTM，长短时记忆网络)；

多层循环神经网络在动作识别中的应用

Computer Science and Application 计算机科学与应用, 2020, 10(6), 1277-1285 Published Online June 2020 in Hans. https://www.wendangku.net/doc/0f9797649.html,/journal/csa https://https://www.wendangku.net/doc/0f9797649.html,/10.12677/csa.2020.106132 Multilayer Recurrent Neural Network for Action Recognition Wei Du North China University of Technology, Beijing Received: Jun. 8th, 2020; accepted: Jun. 21st, 2020; published: Jun. 28th, 2020 Abstract Human action recognition is a research hotspot of computer vision. In this paper, we introduce an object detection model to typical two-stream network and propose an action recognition model based on multilayer recurrent neural network. Our model uses three-dimensional pyramid di-lated convolution network to process serial video images, and combines with Long Short-Term Memory Network to provide a pyramid convolutional Long Short-Term Memory Network that can analyze human actions in real-time. This paper uses five kinds of human actions from NTU RGB + D action recognition datasets, such as brush hair, sit down, stand up, hand waving, falling down. The experimental results show that our model has good accuracy and real-time in the aspect of monitoring video processing due to using dilated convolution and obviously reduces parameters. Keywords Action Recognition, Dilated Convolution, Long Short-Term Memory Network, Deep Learning 多层循环神经网络在动作识别中的应用 杜溦 北方工业大学，北京 收稿日期：2020年6月8日；录用日期：2020年6月21日；发布日期：2020年6月28日 摘要 人体动作识别是目前计算机视觉的一个研究热点。本文在传统双流法的基础上，引入目标识别网络，提出了一种基于多层循环神经网络的人体动作识别算法。该算法利用三维扩张卷积金字塔处理连续视频图

神经网络简介abstract( 英文的)

Abstract: Artificial Neural Network is a math model which is applied to process information of the structure which is similar to Brain synaptic connection in a distributed and parallel way. Artificial Neural Network is a computing model, and it contains of many neurons and the connection of the neurons. Every neuron represents a special output function which is called activation function. The connection of neurons represents a weighted value of the connection’s signal. Neuron is a basic and essential part of Artificial Neural Network, and it includes the sum of weighted value, single-input single-output (SISO) system and nonlinear function mapping. The element of neuron can represent different thing, such as feature, alphabet, conception and some meaningful abstract pattern. In the network, the style of neuron’s element divided into three categories: input element, output element and hidden element. The input element accepts the signal and data of outer world; the output element processes result output for system; the hidden element cannot find by outer world, it between input element and output element. The weighted value represents the strength of connection between neurons. Artificial Neural Network adopted the mechanisms that completely different from traditional artificial intelligence and information processing technology. It conquers the flaw of traditional artificial intelligence in Intuitive handling and unstructured information processing aspect. It is adaptive, self-organized and learning timely, and widely used in schematic identification signal processing.

BP神经网络模型简介及相关优化案例

华东理工大学 2016-2017学年第2学期 研究生《石油化工单元数学模型》课程论文2017年6月 开课学院：化工学院任课教师：欧阳福生 考生姓名：丁桂宾学号：Y45160205 成绩：

BP 神经网络模型简介及相关优化案例 一、神经网络模型简介 现代神经生理学和神经解剖学的研究结果表明，人脑是极其复杂的，由约1010个神经元交织在一起，构成一个网状结构。它能完成诸如智能、思维、情绪等高级精神活动，被认为是最复杂、最完美、最有效的一种信息处理系统。人工神经网络（Artificial Neural Networks ，以下简写为 NN ）是指模拟人脑神经系统的结构和功能，运用大量的处理部件，通过数学方法，由人工方式构造的网络系统[1] 。 图1表示作为 NN 基本单元的神经元模型，它有三个基本要素[2]： （1） 一组连接权（对应于生物神经元的突触），连接强度由各连接上的权值表示，权值为正表示激励，为负表示抑制。 （2） 一个求和单元，用于求取各输入信息的加权和（线性组合）。 （3） 一个非线性激励函数，起非线性映射作用并限制神经元输出幅度在一定的范围内（一般限制在[0,1]或[?1,+1]之间）。 图1 神经元模型 此外还有一个阈值k θ（或偏置 k k b θ-=）。以上作用可以用数学式表达为： ∑= =P j kj k j x w u ；

k k k u θν-=； ) (k k v y ?= 式中 P x x x x ,...,,,321为输入信号， kP k k k w w w w ,...,,,321为神经元k 的权值， k u 为 线性组合结果， k θ为阈值。(.)?为激励函数，k y 为神经元k 的输出。 神经网络理论突破了传统的、串行处理的数字电子计算机的局限，是一个非线性动力学系统，并以分布式存储和并行协同处理为特色，虽然单个神经元的结构和功能极其简单有限，但是大量的神经元构成的网络系统所实现的行为却是极其丰富多彩的。

循环神经网络注意力的模拟实现

循环神经网络注意力的模拟实现 我们观察PPT的时候，面对整个场景，不会一下子处理全部场景信息，而会有选择地分配注意力，每次关注不同的区域，然后将信息整合来得到整个的视觉印象，进而指导后面的眼球运动。将感兴趣的东西放在视野中心，每次只处理视野中的部分，忽略视野外区域，这样做最大的好处是降低了任务的复杂度。 深度学习领域中，处理一张大图的时候，使用卷积神经网络的计算量随着图片像素的增加而线性增加。如果参考人的视觉，有选择地分配注意力，就能选择性地从图片或视频中提取一系列的区域，每次只对提取的区域进行处理，再逐渐地把这些信息结合起来，建立场景或者环境的动态内部表示，这就是本文所要讲述的循环神经网络注意力模型。 怎么实现的呢？ 把注意力问题当做一系列agent决策过程，agent可以理解为智能体，这里用的是一个RNN 网络，而这个决策过程是目标导向的。简要来讲，每次agent只通过一个带宽限制的传感器观察环境，每一步处理一次传感器数据，再把每一步的数据随着时间融合，选择下一次如何配置传感器资源；每一步会接受一个标量的奖励，这个agent的目的就是最大化标量奖励值的总和。 下面我们来具体讲解一下这个网络。 如上所示，图A是带宽传感器，传感器在给定位置选取不同分辨率的图像块，大一点的图像块的边长是小一点图像块边长的两倍，然后resize到和小图像块一样的大小，把图像块组输出到B。 图B是glimpse network，这个网络是以theta为参数，两个全连接层构成的网络，将传感器输出的图像块组和对应的位置信息以线性网络的方式结合到一起，输出gt。 图C是循环神经网络即RNN的主体，把glimpse network输出的gt投进去，再和之前内部信息ht-1结合，得到新的状态ht，再根据ht得到新的位置lt和新的行为at，at选择下一步配置传感器的位置和数量，以更好的观察环境。在配置传感器资源的时候，agent也会

神经网络基本概念

二．神经网络控制 §2.1 神经网络基本概念 一. 生物神经元模型：<1>P7 生物神经元,也称作神经细胞,是构成神经系统的基本功能单元。虽然神经元的形态有极大差异,但基本结构相似。本目从信息处理和生物控制的角度,简述其结构和功能。 1.神经元结构 神经元结构如图2－1所示 图2－1

1) 细胞体：由细胞核、细胞质和细胞膜等组成。 2) 树突：胞体上短而多分支的突起，相当于神经元的输入端，接收传入的神经冲 动。 3) 轴突：胞体上最长枝的突起，也称神经纤维。端部有很多神经末梢，传出神经 冲动。 4) 突触：是神经元之间的连接接口，每一个神经元约有104～106 个突触，前一个 神经元的轴突末梢称为突触的前膜，而后一个神经元的树突称为突触的后膜。一个神经元通过其轴突的神经末梢经突触，与另一个神经元的树突连接，以实现信息传递。由于突触的信息传递是特性可变的，随着神经冲动传递方式的变化，传递作用强弱不同，形成了神经元之间连接的柔性，称为结构的可塑性。 5） 细胞膜电位：神经细胞在受到电的、化学的、机械的刺激后能产生兴奋，此时细胞膜内外由电位差，称为膜电位。其电位膜内为正，膜外为负。 2. 神经元功能 1） 兴奋与抑制：传入神经元的冲动经整和后使细胞膜电位提高，超过动作电 位的阈值时即为兴奋状态，产生神经冲动，由轴突经神经末梢传出。传入神经元的冲动经整和后使细胞膜电位降低，低于阈值时即为抑制状态，不产生神经冲动。 2） 学习与遗忘：由于神经元结构的可塑性，突触的传递作用可增强与减弱， 因此神经元具有学习与遗忘的功能。 二．人工神经元模型 ,<2>P96 人工神经元是对生物神经元的一种模拟与简化。它是神经网络的基本处理单元。图2－2显示了一种简化的人工神经元结构。它是一个多输入单输出的非线形元件。 图2－2 其输入、输出的关系可描述为 =-= n j i j ji i Q X W I 1 2－1 )I (f y i i = 其中i X (j=1、2、……、n)是从其他神经元传来的输入信号；

BP神经网络的Matlab语法要点

1. 数据预处理 在训练神经网络前一般需要对数据进行预处理，一种重要的预处理手段是归一化处理。下面简要介绍归一化处理的原理与方法。 (1) 什么是归一化？ 数据归一化，就是将数据映射到[0,1]或[-1,1]区间或更小的区间，比如 (0.1,0.9) 。 (2) 为什么要归一化处理？ <1>输入数据的单位不一样，有些数据的范围可能特别大，导致的结果是神经网络收敛慢、训练时间长。 <2>数据范围大的输入在模式分类中的作用可能会偏大，而数据范围小的输入作用就可能会偏小。 <3>由于神经网络输出层的激活函数的值域是有限制的，因此需要将网络训练的目标数据映射到激活函数的值域。例如神经网络的输出层若采用S形激活函数，由于S形函数的值域限制在(0,1)，也就是说神经网络的输出只能限制在(0,1)，所以训练数据的输出就要归一化到[0,1]区间。 <4>S形激活函数在(0,1)区间以外区域很平缓，区分度太小。例如S形函数f(X)在参数a=1时，f(100)与f(5)只相差0.0067。 (3) 归一化算法 一种简单而快速的归一化算法是线性转换算法。线性转换算法常见有两种形式： <1> y = ( x - min )/( max - min ) 其中min为x的最小值，max为x的最大值，输入向量为x，归一化后的输出向量为y 。上式将数据归一化到[ 0 , 1 ]区间，当激活函数采用S形函数时（值域为(0,1)）时这条式子适用。 <2> y = 2 * ( x - min ) / ( max - min ) - 1 这条公式将数据归一化到[ -1 , 1 ] 区间。当激活函数采用双极S形函数（值域为(-1,1)）时这条式子适用。 (4) Matlab数据归一化处理函数 Matlab中归一化处理数据可以采用premnmx ，postmnmx ，tramnmx 这3个函数。 <1> premnmx 语法：[pn,minp,maxp,tn,mint,maxt] = premnmx(p,t) 参数： pn：p矩阵按行归一化后的矩阵 minp，maxp：p矩阵每一行的最小值，最大值

神经网络算法详解

神经网络算法详解 第0节、引例 本文以Fisher的Iris数据集作为神经网络程序的测试数据集。Iris数据集可以在https://www.wendangku.net/doc/0f9797649.html,/wiki/Iris_flower_data_set 找到。这里简要介绍一下Iris数据集： 有一批Iris花，已知这批Iris花可分为3个品种，现需要对其进行分类。不同品种的Iris花的花萼长度、花萼宽度、花瓣长度、花瓣宽度会有差异。我们现有一批已知品种的Iris花的花萼长度、花萼宽度、花瓣长度、花瓣宽度的数据。 一种解决方法是用已有的数据训练一个神经网络用作分类器。 如果你只想用C#或Matlab快速实现神经网络来解决你手头上的问题，或者已经了解神经网络基本原理，请直接跳到第二节——神经网络实现。 第一节、神经网络基本原理 1. 人工神经元( Artificial Neuron )模型 人工神经元是神经网络的基本元素，其原理可以用下图表示： 图1. 人工神经元模型 图中x1~xn是从其他神经元传来的输入信号，wij表示表示从神经元j到神经元i的连接权值，θ表示一个阈值( threshold )，或称为偏置( bias )。则神经元i的输出与输入的关系表示为：

图中yi表示神经元i的输出，函数f称为激活函数 ( Activation Function )或转移函数( Transfer Function ) ，net称为净激活(net activation)。若将阈值看成是神经元i的一个输入x0的权重wi0，则上面的式子可以简化为： 若用X表示输入向量，用W表示权重向量，即： X = [ x0 , x1 , x2 , ....... , xn ] 则神经元的输出可以表示为向量相乘的形式： 若神经元的净激活net为正，称该神经元处于激活状态或兴奋状态(fire)，若净激活net 为负，则称神经元处于抑制状态。 图1中的这种“阈值加权和”的神经元模型称为M-P模型 ( McCulloch-Pitts Model )，也称为神经网络的一个处理单元( PE, Processing Element )。 2. 常用激活函数 激活函数的选择是构建神经网络过程中的重要环节，下面简要介绍常用的激活函数。 (1) 线性函数 ( Liner Function ) (2) 斜面函数 ( Ramp Function ) (3) 阈值函数 ( Threshold Function )

递归神经网络

递归神经网络概述 一、引言 人工神经网络的发展历史己有60多年，是采用物理可实现的系统模仿人脑神经细胞的结构和功能，是在神经生理学和神经解剖学的基础上，利用电子技术、光学技术等模拟生物神经网络的结构和功能原理而发展起来的一门新兴的边缘交叉学科，(下面简称为神经网络，NeuralNetwork)。这些学科相互结合，相互渗透和相互推动。神经网络是当前科学理论研究的主要“热点”之一，它的发展对目前和未来的科学技术的发展将有重要的影响。神经网络的主要特征是：大规模的并行处理、分布式的信息存储、良好的自适应性、自组织性、以及很强的学习能力、联想能力和容错能力。神经网络在处理自然语言理解、图像识别、智能机器人控制等方面具有独到的优势。与冯·诺依曼计算机相比，神经网络更加接近人脑的信息处理模式。 自从20世纪80年代，Hopfield首次提出了利用能量函数的概念来研究一类具有固定权值的神经网络的稳定性并付诸电路实现以来，关于这类具有固定权值神经网络稳定性的定性研究得到大量的关注。由于神经网络的各种应用取决于神经网络的稳定特性，所以，关于神经网络的各种稳定性的定性研究就具有重要的理论和实际意义。递归神经网络具有较强的优化计算能力，是目前神经计算应用最为广泛的一类神经网络模型。 根据不同的划分标准，神经网络可划分成不同的种类。按连接方式来分主要有两种：前向神经网络和反馈(递归)神经网络。前向网络主要是函数映射，可用于模式识别和函数逼近。递归神经网络因为有反馈的存在，所以它是一个非线性动力系统，可用来实现联想记忆和求解优化等问题。由于神经网络的记亿信息都存储在连接权上，根据连接权的获取方式来划分，一般可分为有监督神经网络、无监督神经网络和固定权值神经网络。有监督学习是在网络训练往往要基于一定数量的训练样木。在学习和训练过程中，网络根据实际输出与期望输出的比较，进行连接权值和阂值的调节。通常称期望输出为教师信号，是评价学习的标准。最典型的有监督学习算法是BP(BackProPagation)算法。对于无监督学习，无教

零基础入门深度学习(7) - 递归神经网络

[关闭] 零基础入门深度学习(7) - 递归神经网络 机器学习深度学习入门 无论即将到来的是大数据时代还是人工智能时代，亦或是传统行业使用人工智能在云上处理大数据的时代，作为一个有理想有追求的程序员，不懂深度学习（Deep Learning）这个超热的技术，会不会感觉马上就out了？现在救命稻草来了，《零基础入门深度学习》系列文章旨在讲帮助爱编程的你从零基础达到入门级水平。零基础意味着你不需要太多的数学知识，只要会写程序就行了，没错，这是专门为程序员写的文章。虽然文中会有很多公式你也许看不懂，但同时也会有更多的代码，程序员的你一定能看懂的（我周围是一群狂热的Clean Code程序员，所以我写的代码也不会很差）。 文章列表 零基础入门深度学习(1) - 感知器 零基础入门深度学习(2) - 线性单元和梯度下降 零基础入门深度学习(3) - 神经网络和反向传播算法 零基础入门深度学习(4) - 卷积神经网络 零基础入门深度学习(5) - 循环神经网络 零基础入门深度学习(6) - 长短时记忆网络(LSTM) 零基础入门深度学习(7) - 递归神经网络 往期回顾 在前面的文章中，我们介绍了循环神经网络，它可以用来处理包含序列结构的信息。然而，除此之外，信息往往还存在着诸如树结构、图结构等更复杂的结构。对于这种复杂的结构，循环神经网络就无能为力了。本文介绍一种更为强大、复杂的神经网络：递归神经网络(Recursive Neural Network, RNN)，以及它的训练算法BPTS (Back Propagation Through Structure)。顾名思义，递归神经网络（巧合的是，它的缩写和循环神经网络一样，也是RNN）可以处理诸如树、图这样的递归结构。在文章的最后，我们将实现一个递归神经网络，并介绍它的几个应用场景。 递归神经网络是啥 因为神经网络的输入层单元个数是固定的，因此必须用循环或者递归的方式来处理长度可变的输入。循环神经网络实现了前者，通过将长度不定的输入分割为等长度的小块，然后再依次的输入到网络中，从而实现了神经网络对变长输入的处理。一个典型的例子是，当我们处理一句话的时候，我们可以把一句话看作是词组成的序列，然后，每次向循环神经网络输入一个词，如此循环直至整句话输入完毕，循环神经网络将产生对应的输出。如此，我们就能处理任意长度的句子了。入下图所示： 然而，有时候把句子看做是词的序列是不够的，比如下面这句话『两个外语学院的学生』：

神经网络算法简介

神经网络算法简介 （） 人工神经网络（artificial neural network，缩写ANN），简称神经网络（neural network，缩写NN），是一种模仿生物神经网络的结构和功能的数学模型或计算模型。神经网络由大量的人工神经元联结进行计算。大多数情况下人工神经网络能在外界信息的基础上改变内部结构，是一种自适应系统。现代神经网络是一种非线性统计性数据建模工具，常用来对输入和输出间复杂的关系进行建模，或用来探索数据的模式。 神经网络是一种运算模型[1]，由大量的节点（或称“神经元”，或“单元”）和之间相互联接构成。每个节点代表一种特定的输出函数，称为激励函数（activation function）。每两个节点间的连接都代表一个对于通过该连接信号的加权值，称之为权重（weight），这相当于人工神经网络的记忆。网络的输出则依网络的连接方式，权重值和激励函数的不同而不同。而网络自身通常都是对自然界某种算法或者函数的逼近，也可能是对一种逻辑策略的表达。 神经元示意图： ●a1~an为输入向量的各个分量 ●w1~wn为神经元各个突触的权值 ●b为偏置 ●f为传递函数，通常为非线性函数。以下默认为hardlim() ●t为神经元输出 ●数学表示

●为权向量 ●为输入向量，为的转置 ●为偏置 ●为传递函数 可见，一个神经元的功能是求得输入向量与权向量的内积后，经一个非线性传递函数得到一个标量结果。 单个神经元的作用：把一个n维向量空间用一个超平面分割成两部分（称之为判断边界），给定一个输入向量，神经元可以判断出这个向量位于超平面的哪一边。 该超平面的方程: 权向量 偏置 超平面上的向量 单层神经元网络是最基本的神经元网络形式，由有限个神经元构成，所有神经元的输入向量都是同一个向量。由于每一个神经元都会产生一个标量结果，所以单层神经元的输出是一个向量，向量的维数等于神经元的数目。示意图： 通常来说，一个人工神经元网络是由一个多层神经元结构组成，每一层神经元拥有输入（它的输入是前一层神经元的输出）和输出，每一层（我们用符号记做）Layer(i)是由Ni(Ni代表在第i层上的N)个网络神经元组成，每个Ni上的网络

神经网络介绍资料

神经网络简介 神经网络简介： 人工神经网络是以工程技术手段来模拟人脑神经元网络的结构和特征的系统。利用人工神经网络可以构成各种不同拓扑结构的神经网络，他是生物神经网络的一种模拟和近似。神经网络的主要连接形式主要有前馈型和反馈型神经网络。常用的前馈型有感知器神经网络、BP 神经网络，常用的反馈型有Hopfield 网络。这里介绍BP （Back Propagation ）神经网络，即误差反向传播算法。 原理： BP （Back Propagation ）网络是一种按误差逆传播算法训练的多层前馈网络，是目前应用最广泛的神经网络模型之一。BP 神经网络模型拓扑结构包括输入层（input ）、隐层(hide layer)和输出层(output layer)，其中隐层可以是一层也可以是多层。 图：三层神经网络结构图（一个隐层） 任何从输入到输出的连续映射函数都可以用一个三层的非线性网络实现 BP 算法由数据流的前向计算（正向传播）和误差信号的反向传播两个过程构成。正向传播时，传播方向为输入层→隐层→输出层，每层神经元的状态只影响下一层神经元。若在输出层得不到期望的输出，则转向误差信号的反向传播流程。通过这两个过程的交替进行，在权向量空间执行误差函数梯度下降策略，动态迭代搜索一组权向量，使网络误差函数达到最小值，从而完成信息提取和记忆过程。 单个神经元的计算： 设12,...ni x x x 分别代表来自神经元1,2...ni 的输入； 12,...i i ini w w w 则分别表示神经

元1,2...ni 与下一层第j 个神经元的连接强度，即权值；j b 为阈值；()f ?为传递函数；j y 为第j 个神经元的输出。若记001,j j x w b ==，于是节点j 的净输入j S 可表示为：0*ni j ij i i S w x ==∑；净输入j S 通过激活函数()f ?后，便得到第j 个神经元的 输出:0 ()(*),ni j j ij i i y f S f w x ===∑ 激活函数： 激活函数()f ?是单调上升可微函数，除输出层激活函数外，其他层激活函数必须是有界函数，必有一最大值。 BP 网络常用的激活函数有多种。 Log-sigmoid 型：1 (),,0()11x f x x f x e α-= -∞<<+∞<<+，'()()(1())f x f x f x α=- tan-sigmod 型：2()1,,1()11x f x x f x e α-=--∞<<+∞-<<+，2(1()) '()2 f x f x α-= 线性激活函数purelin 函数：y x =，输入与输出值可取任意值。 BP 网络通常有一个或多个隐层，该层中的神经元均采用sigmoid 型传递函数，输出层的神经元可以采用线性传递函数，也可用S 形函数。 正向传播：

人工神经网络发展概述.

人工神经网络发展概述 摘要：人工神经网络是二十世纪科学技术所取得的重大成果之一,是人类认识自然道路上的又一座里程碑。本文简要介绍了人工神经网络的概念，回顾了人工神经网络的产生背景及发展历程，并简要阐述了其在信息处理和控制等领域的应用。随着人们对人工神经网络不断地探索和研究并将其与一些传统方法相结合,将推动人工智能的发展,在以后的生产生活中发挥更大的作用。 关键词：人工神经网络，发展，应用 1.人工神经网络的定义 目前关于人工神经网络的定义尚不统一，国际著名的神经网络专家，第一个计算机公司创始人和神经网络实现技术的研究领导人Hecht-Nielson给人工神经网络的定义是：人工神经网络是由多个非常简单的处理单元彼此按某种方式相互连接而形成的计算系统，该系统是靠其状态对外部输入信息的动态响应来进行信息处理的。美国国防高级研究计划局关于人工神经网络的定义是：人工神经网络是一个由许多简单并行工作的处理单元组成的系统，其功能取决于网络的结构，连接强度以及各单元的处理方式。 结合人工神经网络的来源，特点及定义，可将其表述为：人工神经网络是模仿脑细胞结构和功能，脑神经结构以及思维处理问题等脑功能的新型信息处理系统。 2.人工神经网络产生的背景 自古以来,关于人类智能本源的奥秘,一直吸引着无数哲学家和自然科学家的研究热情。生物学家、神经学家经过长期不懈的努力,通过对人脑的观察和认识,认为人脑的智能活动离不开脑的物质基础,包括它的实体结构和其中所发生的各种生物、化学、电学作用,并因此建立了神经元网络理论和神经系统结构理论,而神经元理论又是此后神经传导理论和大脑功能学说的基础。在这些理论基础之上,科学家们认为,可以从仿制人脑神经系统的结构和功能出发,研究人类智能活动和认识现象。 另一方面,19世纪之前,无论是以欧氏几何和微积分为代表的经典数学,还是以牛顿力学为代表的经典物理学,从总体上说,这些经典科学都是线性科学。然而,客观世界是如此的纷繁复杂,非线性情况随处可见,人脑神经系统更是如此。复杂性和非线性是连接在一起的,因此,对非线性科学的研究也是我们认识复杂系统的关键。为了更好地认识客观世界,我们必须对非线性科学进行研究。人工神经网络作为一种非线性的、与大脑智能相似的网络模型,就这样应运而生了。所以,人工神经网络的创立不是偶然的,而是20世纪初科学技术充分发展的产物。3.人工神经网络的发展 3.1早期阶段 人工神经网络的研究可追溯到19世纪Freud在心理分析时期之前所做的一切初步工作。1943年美国心理学家Warren S McCulloch与数学家Water H Pitts合作，用逻辑的数学工具研究客观事件在形式神经网络中的描述，首先提出了神经元的数学模型，简称为MP模型，从此开创了对神经网络的理论研究。1957年，Frank Rosenblatt首次提出并设计制作了著名的感知器，掀起了研究人工神经网络的高潮。 3.2低谷阶段 在第一次神经网络研究热潮中人们忽视了其本身的局限性1969年Minskyh和Papert经过多年的研究提出了对当前成果的质疑，指出当前的网络只能应用于简单的线性问题却不能有效地应用于多层网络，由此开始了神经网络的低谷期。现在的神经网络主要是根据Kohonen 的工作来实现的，1980年福岛邦彦发表的新认知机是视觉模式识别机制模型，它与生物视觉理论结合综合出一种神经网络模型，使它像人类一样具有一定模式识别能力。在低谷时期

MATLAB神经网络之各函数介绍

绘制三维图形 clear all; [x,y]=meshgrid(-8:0.1:8); z=sinc(x); mesh(x,y,z); 效果图如下 set(gcf,'color','w'); 设置图形窗口背景为白色 修改z的赋值 clear all; [x,y]=meshgrid(-10:0.3:10); r=sqrt(x.^2+y.^2)+eps; z=sin(r)./r; mesh(x,y,z)

初始化函数 clear all; net=newp([0,1;-2,2],1); disp('3?ê??ˉ???°μ?è¨?μê?￡o ') w1=net.iw{1,1} disp('3?ê??ˉ???°μ?·§?μ?a') b1=net.b{1} net.iw{1,1}=[5,6]; disp('?￡?￡?￡è¨?μ?a') w2=net.iw{1,1} net.b{1}=7; disp('·§?μ?a') b2=net.b{1} net=init(net); 利用网络初始化复原网络权值和阀值w3=net.iw{1,1} b3=net.b{1} 例子：利用init函数将网络输入的权值与阀值改变为随机数 >> clear all; net=newp([0,1;-2,2],1); net.inputweights{1,1}.initFcn='rands'; net.biases{1}.initFcn='rands'; net=init(net); 检验权值和阀值 w=net.iw{1,1} b=net.b{1} w = 0.8116 -0.7460 b = 0.6294 >>

人工神经网络简介.

人工神经网络简介 一、人工神经网络的发展 ⑴Mcculloch（生理学家）和Pitts(数理逻辑学家)1943年首次提出神经网络数学模型；M-P数学模型，神经元的数学模型。 ⑵Von Neumann冯·诺依曼模型 ⑶50年代，F·Rosenblatt单层网络，可学习——感知机 ⑷1962年Widraw提出自适应线性元件网络 ⑸Hopfield1982和1984年发表论文，将能量函数引入神经网络计算——HNN模型 ⑹1986年Rumelhart提出PDP理论，解决中间层神经元权的调整问题，并行分布式，——多层网络的反向传播算法。 BP——Error Back Propagation误差反向传播算法（前向网络的一种） 二、神经元的特点 ⑴神经元是一个多输入、单输出的元件 ⑵神经元是一个具有非线性的元件 ⑶神经元具有可塑性，传递强度可变 ⑷神经元的输出是每个输入综合的结果 三、人工神经网络特点 ⑴分步存储与容错性 ⑵并行处理 ⑶信息处理与存储合二为一

⑷层次性与系统性 四、BP 人工神经网络 1、BP 网络的学习过程 ⑴模式的顺向传播过程 ⑵误差的逆向传播过程 ⑶记忆训练过程：⑴、⑵的交替过程 ⑷学习的收敛过程：E->min 2、输入输出变换函数：f(x) ①阶跃函数： f(x)=???<≥0x 00x 1 （不可导） 输入层 隐含层 输出层 n 个 W ij p 个 V jt q 个 y 1 y t y q

②S 型函数 f(x)= x e μ-+11 （可导） ③比例函数 f(x)=kx ④符号函数 f(x)= ???<-≥0x 10x 1 ⑤饱和函数 f(x)= ?? ? ? ? ? ??? -<-<<>k k x kx 1x 11k 1- k 1x 1 ⑥双曲函数 f(x)=x e e x μμ+--11 3、M-P 输入向量：12n 权值向量：W=(w 1,w 2,…,w n ) 阈值：θ

神经网络工具箱的使用

神经网络工具箱的使用

神经网络工具箱的使用 本章主要介绍神经网络工具箱的使用,使用nntool可以使得原本用编程来创建神经网络变得容易，而且不容易出错。 1 神经网络的创建与训练 神经网络的创建主要分为以下四步： 1)在命令窗口键入nntool命令打开神经网 络工具箱。如图1：

图 1 2)点击Import按钮两次，分别把输入向量和目标输出加入到对应的窗口（[Inputs]和[Targets]）中，有两种可供选择的加入对象（点击Import后可以看见），一种是把当前工作区中的某个矩阵加入，另一种是通过.mat文件读入。如图2和图3：

图 2 图 3

3)点击[New Network]按钮，填入各参数：（以最常用的带一个隐层的3层神经网络为例说明，下面没有列出的参数表示使用默认值就可以了，例如Network Type为默认的BP神经网络）； i)Input Range——这个通过点击Get From Input下拉框选择你加入的输入向量便可自动完成，当然也可以自己手动添加。 ii) Training Function——最好使用TRAINSCG，即共轭梯度法，其好处是当训练不收敛时，它会自动停止训练，而且耗时较其他算法（TRAINLM，TRAINGD）少，也就是收敛很快（如果收敛的话），而且Train Parameters输入不多，也不用太多的技巧调整，一般指定迭代次数、结果显示频率和目标误差就可以了（详见下文）。 iii) Layer 1 Number of Neurons——隐层的神经元个数，这是需要经验慢慢尝试并调整的，大致上由输入向量的维数、样本的数量和输出层（Layer2）的神经元个数决定。一般来说，

介绍人工神经网络的发展历程和分类

介绍人工神经网络的发展历程和分类 1943年，心理学家W.S.McCulloch和数理逻辑学家W.Pitts建立了神经网络和数学模型，称为MP模型。他们通过MP模型提出了神经元的形式化数学描述和网络结构方法，证明了单个神经元能执行逻辑功能，从而开创了人工神经网络研究的时代。1949年，心理学家提出了突触联系强度可变的设想。60年代，人工神经网络的到了进一步发展，更完善的神经网络模型被提出。其中包括感知器和自适应线性元件等。M.Minsky等仔细分析了以感知器为代表的神经网络系统的功能及局限后，于1969年出版了《Perceptron》一书，指出感知器不能解决高阶谓词问题。他们的论点极大地影响了神经网络的研究，加之当时串行计算机和人工智能所取得的成就，掩盖了发展新型计算机和人工智能新途径的必要性和迫切性，使人工神经网络的研究处于低潮。在此期间，一些人工神经网络的研究者仍然致力于这一研究，提出了适应谐振理论（ART网）、自组织映射、认知机网络，同时进行了神经网络数学理论的研究。以上研究为神经网络的研究和发展奠定了基础。1982年，美国加州工学院物理学家J.J.Hopfield提出了Hopfield神经网格模型，引入了“计算能量”概念，给出了网络稳定性判断。1984年，他又提出了连续时间Hopfield神经网络模型，为神经计算机的研究做了开拓性的工作，开创了神经网络用于联想记忆和优化计算的新途径，有力地推动了神经网络的研究，1985年，又有学者提出了波耳兹曼模型，在学习中采用统计热力学模拟退火技术，保证整个系统趋于全局稳定点。1986年进行认知微观结构地研究，提出了并行分布处理的理论。人工神经网络的研究受到了各个发达国家的重视，美国国会通过决议将1990年1月5日开始的十年定为“脑的十年”，国际研究组织号召它的成员国将“脑的十年”变为全球行为。在日本的“真实世界计算（RWC）”项目中，人工智能的研究成了一个重要的组成部分。