文档库 最新最全的文档下载
当前位置:文档库 › 神经网络设计课件_Ch12_径向基函数(RBF)网络

神经网络设计课件_Ch12_径向基函数(RBF)网络

基于径向基函数神经网络的函数逼近

基于径向基函数神经网络的函数逼近 刘君尧1,邱 岚2 (1.深圳信息职业技术学院,广东深圳 518029;2.中国移动广西公司,广西南宁 530022) 【摘 要】在介绍了径向基函数神经网络原理的基础上,应用该网络进行函数逼近的实现,并探讨散步常数的选取对逼近效果的影响。 【关键词】径向基函数;神经网络;散布常数;函数逼近 【中图分类号】TP183 【文献标识码】A 【文章编号】1008-1151(2009)09-0039-01 (一)引言 径向基函数(Radial Basis Function)神经网络是由 J.Moody和C.Darken于20世纪 80年代末提出的一种神经网 络,径向基函数方法在某种程度上利用了多维空间中传统的 严格插值法的研究成果。在神经网络的背景下,隐藏单元提 供一个“函数”集,该函数集在输入模式向量扩展至隐层空 间时为其构建一个任意的“基”,这个函数集中的函数就被称 为径向基函数。目前,径向基函数多用于函数逼近和分类问 题的研究。 (二)RBF神经网络模型 最基本的径向基函数神经网络包含三层,由一些感知单 元组成的输入层、包含一个具有径向基函数神经元的隐层和 一个具有线性神经原的输出层。 1.RBF径向基神经元模型 径向基函数神经元的传递函数有多种形式,最常用的形 式是高斯函数(radbas)。采用高斯基函数,具备如下优点: ①表示形式简单,即使对于多变量输入也不增加太多的复杂 性;②径向对称;③光滑性好,任意阶导数存在;④由于该 基函数表示简单且解析性好,因而便于进行理论分析。 输入向量p 图1径向基传递函数 径向基网络的神经元模型结构如图2所示。由该图可见, radbas的输入为输入矢量p和权值向量W之间的距离乘以阈 值b。 图2 径向基函数神经元模型 2.RBF神经网络的结构 径向基函数网络包括输入层、隐层和输出层,如图3所 示。输入信号传递到隐层,隐层有S1个神经元,节点函数为 高斯函数;输出层有S2个神经元,节点函数一般采用简单的 线性函数。 图3 径向基函数网络基本结构图 (三)RBF神经网络应用于函数逼近 RBF神经网络在进行函数逼近的实现时,往往在网络设计 之初并不指定隐层神经元的个数,而是在每一次针对样本集 的训练中产生一个径向基神经元,并尽可能最大程度地降低 误差,如果未达到精度要求,则继续增加神经元,直到满足 精度要求或者达到最大神经元数目。这样避免了设计之初存 在隐层神经元过少或者过多的问题。训练过程中,散布常数 的选取非常重要。 1.函数逼近的RBF神经网络 已知输入向量P和输出向量T,通过构建径向基函数神经 网络来进行曲线拟合,从而找到一个函数能够满足这21个数 据点的输入/输出关系,绘制训练样本如图所示。 输入向量P:-1:0.1:1; 输出向量T:0.9500 0.5700 0.0300 -0.2800 -0.5800 -0.6200 -0.4800 -0.1400 0.2100 0.4700 0.5000 0.3800 0.1700 -0.1200 -0.3200 -0.4200 0.3500 -0.1300 0.2120 0.4200 0.5100; 应用MATLAB神经网络工具箱中的newrb()函数快速构建 一个径向基函数网络,并且网络根据输入向量和期望值自动 进行调整,从而实现函数逼近,预先设定均方差精度为0.0001, 散布常数为1。实验结果如图4所示。可见,应用径向基函数 进行函数逼近非常有效。 图4网络输出与目标值比较(下转第19页)【收稿日期】2009-06-02 【作者简介】刘君尧(1979-),女,湖南汨罗人,深圳信息职业技术学院讲师,硕士研究生,研究方向为神经网络。

BP算法及径向基函数网络

BP 算法及径向基函数网络 B0503194班 高翔 1050319110 杨柳青 1050319113 题目1: 2.5 利用BP 算法及Sigmoid 算法,研究以下各函数的逼近问题: (1) 1 () , 1x 100f x x = ≤≤ (2) 10()log x , 1x 10f x =≤≤ (3) ()exp() , 1x 10f x x =-≤≤ (4) ()sin , 1x 2 f x x π =≤≤ 解:该题可以采用BP 神经网络或者是径向基函数网络来解决,首先给出我们利用BP 网络的解决方法,关于如何利用径向基函数网络来解决问题,放在2.6 题中的通过径向基函数网络解决XOR 问题一起讨论。 一、 概述 人工神经网络作为一门20世纪中叶起步的新技术,随着其理论的逐步完善,其应用日益广泛,应用领域也在不断拓展,已经在各个工程领域里得到了广泛的应用。通常神经网络技术主要应用在以下方面。 模式信息处理和模式识别。 最优化问题计算。 信息的智能化处理。 复杂控制。 信号处理。 在1959年,当时的两位美国工程师B.Widrow 和M.Hoff 提出了自适应线形元件。在 1969年,人工智能的创始人之一M.Minsky 和S.Papert 指出单层感知器只能够进行线形分类,对线形不可分的输入模式,哪怕是简单的异或逻辑运算,单层感知器也无能为力,而解决其的唯一方法就是设计训练出具有隐含层的多层神经网络。这一难题在1986年得到了解决。 1986年,D.E. Rumelhart 等人提出解决多层神经网络权值修正的算法——误差反向传播法(Error Back-Propagation )。这种算法也通常被应用在BP (Back-Propagation Network )中。 在目前,在人工神经网络的实际应用中,绝大部分的神经网络模型(80%--90%)是采

MATLAB径向基神经网络函数

众所周知,BP网络用于函数逼近时,权值的调节采用的是负梯度下降法。这个调节权值的方法有局限性,即收敛慢和局部极小等。径向基函数网络(RBF)在逼近能力、分类能力和学习速度等方面均优于BP 网络。 Matlab中提供了四个径向基函数相关的函数,它们都是创建两层的神经网络,第一层都是径向基层,第二层是线性层或者竞争层。主要的区别是它们权值、阀值就算函数不同或者是否有阀值。 注意:径向基函数网络不需要训练,在创建的时候就自动训练好了。 https://www.wendangku.net/doc/8c10716602.html, = newrbe(P,T,spread) newrbe()函数可以快速设计一个径向基函数网络,且是的设计误差为0。第一层(径向基层)神经元数目等于输入向量的个数,加权输入函数为dist,网络输入函数为netprod;第二层(线性层)神经元数模有输出向量T确定,加权输入函数为dotprod,网络输入函数为netsum。两层都有阀值。 第一层的权值初值为p',阀值初值为0.8326/spread,目的是使加权输入为±spread时径向基层输出为0.5,阀值的设置决定了每一个径向基神经元对输入向量产生响应的区域。 2.[net,tr] = newrb(P,T,goal,spread,MN,DF) 该函数和newrbe一样,只是可以自动增加网络的隐层神经元数模直到均方差满足精度或者神经元数模达到最大为止。 P=-1:0.1:1; T=sin(P);

spread=1; mse=0.02; net=newrb(P,T,mse,spread); t=sim(net,P); plot(P,T,'r*',P,t) https://www.wendangku.net/doc/8c10716602.html, = newgrnn(P,T,spread)泛回归网络(generalized regression neural network) 广义回归网络主要用于函数逼近。它的结构完全与newbre的相同,但是有以下几点区别(没有说明的表示相同): (1)第二网络的权值初值为T (2)第二层没有阀值 (3)第二层的权值输入函数为normpod,网络输入函数为netsum >> P=0:1:20; >> T=exp(P).*sin(P); >> net=newgrnn(P,T,0.7); >> p=0:0.1:20; >> t=sim(net,p); >> plot(P,T,'*r',p,t) https://www.wendangku.net/doc/8c10716602.html, = newpnn(P,T,spread)概率神经网络(probabilistic neural network) 该网络与前面三个最大的区别在于,第二层不再是线性层而是竞争层,并且竞争层没有阀值,其它同newbre,故PNN网络主要用于解决分类问题。PNN是按下面的方式进行分类的:

相关文档
相关文档 最新文档