系统辨识为题的毕业设计论文
摘要
系统辨识是描述各种各样系统运动规律的一种方法论，是研究系统的一种有效工具。利用这个工具可以对我们要研究的系统进行定量的描述。随着现代控制理论的迅速发展，系统辨识得到了迅速而蓬勃发展，并已经成功运用于多种工程应用领域。但针对有色噪声干扰的系统，传统的辨识方法并不能得到良好的参数估计，而工程上大多系统都为有色噪声干扰系统。本课题从工程应用的实际出发，研究有色噪声干扰系统的辨识问题，试图从模型等价的角度探讨新的辨识算法。
有色噪声干扰系统的一类系统为广义输出误差模型，本文的辨识思想是把过程模型和噪声模型分别用两个有限脉冲响应(FIR)模型逼近，进而得到一个特殊的CARMA模型(ARMAX)模型。使用增广最小二乘法估计其参数，最后根据模型等价原理确定原系统的参数估计。仿真结果表明，如果近似的FIR模型有较高的阶次，系统辨识精度满足要求。
关键词：系统辨识；参数估计；最小二乘；递推增广最小二乘法；有限脉冲响应方法
Abstract
System identification is a methodology for describing the dynamic characteristics of various systems. And an effective tool for system studying,we can study the quantitative description in system by using this tool. As the rapid development of modern control theory, system identification has been developed rapidly and vigorously. Recently, system identification has been successfully applied in some engineering fields. But for the color noise interference system, the traditional identification methods cannot get a good parameter estimation.However, most of the systems in engineering are color noise interference system. This subject starts with the application of the actual situation, researching the colored noise interference system and trying to explore new identification algorithm from the model equivalent .
Systems with colored noises are regarded as a class of generalized output error systems. The basic idea is to approximate the process model and the noise model by using （FIR）models，thus obtaining a special CARMA（ARMAX）model. The model can be identified by the extended least squares. Finally，original system parameters are determined by the model equivalence principle. Simulation results indicate that if FIR models have high orders，the system identification satisfies the precision demands.
Key words: identification; parameter estimation; least squares; RELS; FIR
目录
摘要 ............................................................................................................................................. I 目录 .......................................................................................................................................... I II 第一章绪论 (1)
1.1问题的提出与研究意义 (1)
1.1.1 问题的提出 (1)
1.1.2 研究意义 (3)
1.2国内外研究现状 (3)
1.3随机系统模型 (4)
第二章基本概念及方法 (8)
2.1系统辨识 (8)
2.1.1 辨识的定义 (8)
2.1.2 辨识问题的表达形式 (8)
2.1.3 辨识算法的基本原理 (9)
2.1.4 辨识的内容和步骤 (11)
2.2最小二乘参数的辨识方法 (14)
2.2.1 最小二乘法的基本概念 (14)
2.2.2 最小二乘问题的提法 (14)
2.2.3 最小二乘问题的解 (15)
2.2.4 以观测次序的递推算法 (17)
2.2.5 仿真例子 (20)
第三章递推增广最小二乘法 (22)
3.1问题的提出 (22)
3.2 RELS的概念 (22)
3.2.1 算法描述 (22)
3.2.2 仿真例子 (23)
3.3改进的递推增广最小二乘参数估计方法 (26)
3.3.1 用拟合高阶AR模型产生白噪声估值 (26)
3.3.2 改进的递推增广最小二乘（MRELS）法 (27)
3.4变阶式递推增广的最小二乘法 (28)
3.5递推广义增广最小二乘法 (30)
3.5.1 模型说明 (30)
3.5.2 广义增广最小二乘法 (31)
3.5.3 数字仿真 (32)
第四章广义输出误差模型的有限脉冲响应方法 (35)
4.1概述 (35)
4.2模型描述 (35)
4.3基本算法 (36)
4.4确定原系统参数 (38)
4.5仿真例子 (40)
第五章总结 (43)
参考文献 (44)
致谢 (47)
第一章绪论
1.1问题的提出与研究意义
1.1.1问题的提出
系统辨识就是从观测到的含有噪声的输入输出数据中提取数学模型的方法。根据现场情况，辨识可以离线进行，也可以在线进行。系统辨识、状态估计和控制理论是现代控制论三个相互渗透的领域。系统辨识作为现代控制论和信号处理的重要内容，最近几十年得到了迅速的发展。它研究的基本问题是如何通过运行（或实验）数据来建立控制和处理对象（或实验对象）的数学模型。因为系统的动态特性被认为必然表现在它变化着的输入输出数据之中，辨识就是利用数学方法从数据模型中提炼出系统的数学模型。
随着社会的发展，在人们的生产实践和科学实验活动中会遇到许许多多问题，都希望通过辨识建立所研究对象的数学模型。有了模型可以进行以下几个方面的工作。
(1)应用于控制系统的分析和设计。对于经典控制，已知数学模型可以改善系统的动态特性，进行调节器的参数整定等等，对于现代控制系统，有了数学模型，可以进行最优控制、自适应控制等等。
(2)应用于天气、水文、人口、能源、客流量等问题的预报。预报的基础是模型，有了模型就可作一步、两步、短期、甚至长期的预报。准确的预报对于国民经济各部门以及地方、企业等等的发展都有重要意义。
(3)应用于规划。正确的规划是以正确的模型为基础。有了模型，才有可能进行各种方案的最优规划。
(4)应用于仿真研究。有了模型，可以在计算机上对系统进行仿真研究，实验各种不同的策略，观测其结果，从而分析和制定策略。如对于军事作战的制定，就可以采用现代化的仿真手段。此外，一些不允许做实验的系统，如核反应研究，就可以通过仿真来进行。
(5)应用于参数估计。如医务界对于体内参数的测定、矿藏区域储藏的测定，可以通过系统辨识的方法来实现。
(6)应用于生产过程的故障诊断。过程参数监视或破损探测均可通过动态模型来反应。如果模型参数发生了变化，即表示过程有了变数或出现了破损，需要及时采取措施予以处理。
涉及以上这些方面的例子很多。例如，化工生产过程中，希望确定其化学动力学特性及有关参数，以确定该过程的反应速度；为了控制环境污染，希望得到某区域的大气污染扩散模型和某河段的水质模型；为进行人口预报并做出相应的决策，必须建立全国人口或地区人口增长的动态模型；计量经济学工作者还要求对产品需求量、销售量、新型工业的增长规律等经济现象建立定量的描述模型等等。
从以上可以了解到，对系统辨识的研究是很有必要的。但是系统辨识问题的提法有相当大的自由度，这种自由度表现在模型类型的选择、输入信号的选择和评价准则上，而这些选择很大程度上取决于辨识的目的、模型的最终用途，也与验前所得知识有关。由于系统的数学模型是一个表示输入和输出关系的数学表达式。为此，可以利用各种信号去激励系统，并测量其输出，通常这些输入输出数据都为噪声所污染，所以说研究有色噪声干扰下系统的辨识方法是很有意义的。
近年来提出不少可以辨识有色噪声的方法，例如，最常见的估计CARMA模型参数的递推增广最小二乘方法、估计Box-Jenkin模型参数的递推广义增广最小二乘方法等以及1991年由丁锋提出的辅助模型辨识思想、递阶辨识原理、多新息辨识理论和参数估计误差界理论等，建立了研究时变参数估计误差界的理论，提出了一系列辅助模型辨识方法族、递阶辨识方法族、多新息辨识方法族；提出了非线性系统算子补偿自适应控制原理；提出了多率采样系统的多项式变换技术和递阶辨识中的交互估计理论；开辟了辅助模型辨识领域、递阶辨识领域和多新息辨识领域，解决了辨识和控制领域一系列关键性收敛问题，提出和证明了关于参数估计性能和输出跟踪控制性能的一系列收敛问题，以及现存辨识与控制方法和新提出方法在不同条件下的性能分析等一系列研究成果，形成了一整套完整的模型辨识与控制理论体系，丰富和完善了传统的辨识方法，使传统的系统建模理论和模型辨识与控制理论揭开了新的一页。
对于有色噪声干扰的随机系统，常规最小二乘参数估计是有偏的。针对最小二乘算法辨识有色噪声系统存在偏差，许多学者做了大量工作，也提出了不少有效的方法。例如，偏差补偿最小二乘算法（BCLS）、递推广义最小二乘（RGLS）算法和递推广义最小二乘（RGELS）算法等等。这些方法不仅能给出系统模型的参数估计，而且后两种能产生噪声模型参数估计。然而，理论分析表明偏差补偿最小二乘算法针对OEARMA模型很难做到无偏估计，且要求输入是平稳的（Stationary）、各态遍历的（Ergodic）的。尽管丁峰等提出了改进型的偏差补偿最小二乘算法克服了上述缺点，文献中利用滤波器对输入数据进行滤波，势必加大计算量，在强噪声下如何选择滤波器也没有具体研究。
RGLS算法在过程的输出信噪比比较大时或模型参数比较多时，这种数据白色化处理的可靠性就会下降。此时可能出现多个局部收敛点，辨识精度也低，这样最终辨识结果也是有偏的。RGELS算法是否收敛以及在什么条件下收敛的理论证明是极具挑战性的课题，文献中仅给出一个近似分析。最近丁峰，陈晓伟等人提出用迭代辨识方法辨识CARAR模型虽然能获得满意的精度要求，但由于实际问题复杂性，不易在线辨识，白化处理时模型的选取比较困难，同时算法也比较复杂，在什么条件下收敛也没有很好解决。然而，理论分析表明RELS算法的收敛性要求噪声模型是严格正实传递函数。
工程上，人们往往不太关心噪声模型，更希望得到系统模型参数的良好估计。鉴于上述存在的问题，基于脉冲响应的输出误差模型辨识方法，在模型阶次未知的情况下能获得模型参数的良好估计。将这种思想加以发展，采用多项式长除法，把过程模型和噪声模型展开成无穷级数，截断取其有限项，分别用两个有限脉冲响应（FIR）模型逼近，进而得到一个特殊的CARMA（ARMAX）模型，使用增广最小二乘估计该近似模型的参数，最后根据模型等价原理确定原系统的参数估计。
1.1.2研究意义
系统辨识是当前发展很活跃很迅速的学科之一，与最优控制、自适应控制一样，它已经成为现代控制理论的主要支柱之一。辨识的目的是为了充分掌握研究对象的运动规律，用数学的语言描述事物运动的因果关系，其应用遍及许多领域，每年都产生大量的辨识和参数估计的研究成果和科技文献，是一门有着明显的使用价值的、及其活跃的学科。其它领域中也存在着广泛的应用，特别是系统辨识和微处理机出色成果相结合，为实时辨识提供了廉价而有效的手段。另外，辨识在仿真中也有着及其重要的作用。辨识与数字仿真是当代系统科学中发展迅速、应用广泛且富有成果的两个分支学科，而且均源于计算机技术的进步而发展起来的。
实际的工业过程控制中很难预知噪声干扰就是白噪声，与此同时，工程上人们往往不太关心噪声模型，而更期望得到系统模型参数的良好估计。在这种客观要求下，对于有色噪声干扰下系统辨识的研究则显的尤为必要。
1.2国内外研究现状
鉴于工程应用的实际考虑，在过去的很长一段时间内，有色噪声干扰的系统辨识一直都是国内外学者关心的研究领域。
许多学者针对有色噪声干扰的系统辨识也提出了多种方法辨识其参数。例如，估计
有色噪声干扰系统模型参数的辅助变量法，利用模型等价原理辨识系统的有限脉冲响应方法，估计CARMA 模型参数的递推增广最小二乘（RELS ）算法和估计Box-Jenkins 模型参数的递推广义增广最小二乘（RGELS ）算法，以及利用偏差补偿原理获得有色噪声干扰的系统（如ARMAX 和Box-Jenkins 系统等）的辨识方法等。上述方法在某种角度上解决了不少系统辨识中的难题。但是，基于模型等价的有限脉冲响应方法并没有很好的应用到有色噪声干扰的系统辨识上，因此将模型等价的有限脉冲响应方法拓展到有色噪声也很有必要。然而，理论分析表明RELS 算法的收敛性要求噪声模型是严格正实传递函数，RGELS 算法是否收敛以及在什么条件下收敛的理论证明是极具挑战性的研究课题，至今还未很好解决。丁锋等仅给出了RGELS 算法的一个近似分析。与此同时上述提到的一些基于相关分析的辅助变量法和偏差补偿方法等都是对特定的模型来进行辨识的，所以寻找一种辨识方法对于具有代表性的模型也可以辨识，这是本文的研究目标。
1.3 随机系统模型
实际系统中经常存在这样或那样的干扰作用，且这些干扰往往具有随机性，把这些干扰称为随机噪声。当把这些干扰噪声项加到确定性模型上，就构成了系统的随机模型，用随机模型描述的系统称为随机系统模型（stochastic system model ）。本文主要研究有色噪声的系统辨识方法，所以主要讨论噪声随机的离散时间系统的辨识问题，下面的讨论主要针对噪声随机的离散时间随机系统模型。
确定性系统用差分方程（difference equation ）模型描述为
1212()(1)(2)()(1)(2)()a a b n n n b z k a z t a z k a z k a bu k b u k b k n +-+-++-=-+-++- （1.1） 其中u(k)为系统输入，z(k)为系统输出，i a 和j b 为系统参数（system parameter ），a n 和b n 为系统阶次（system order ）。
系统（1.1）又可表示为
()()()()A z z k B z u k = （1.2）
其中A(z)和B(z)是后移算子1z -的多项式1[()(1)]z z k z k -=-，定义为
12121212()1,(),a a b b n n n n A z a z a z a z B z b z b z b z ------=+++
+=+++
式（1.2）称为确定性自回归滑动平均模型（ARMA: Deterministic Autoregressive
Moving Average model ），简称为DARMA 模型。
在式（1.2）中加入噪声项e(t)，就得到随机系统模型
()()()()().A z z k B z u k e k =+
由于u(k)为系统输入，故B(z)u(k)称为受控项（controlled term ），当e(k)=v(k)为白噪声时，有
()()().A z z k v k =
上式称为自回归模型(Auto-Regressive model)，简称AR 模型。故模型
()()()()()A z z k B z u k v k =+ （1.3）
称为受控AR 模型，简称CAR 模型，或具有外加输入的AR 模型(AR model with exogenou-sinput)，简称ARX 模型。
在式（1.3）中令A(z)=1或a n =0时，有
()()()().z k B z u k v k =+
上式称为有限脉冲响应模型(FIR: Finite Impulse Response model)，或马克夫参数模型(Markov parameter model)；当b n =∞时，上式称为无限脉冲响应模型(IIR: Infinite Response model)。这种模型称为非参数模型(non-parametric model)。
由于e(k)=D(z)v(k) 称为滑动平均模型(MA: Moving Average model)，简称MA 模型，其中
1212()1d d n n D z d z d z d z ---=++++
故模型 ()()()()()()A z z k B z u k D z v k =+
称为受控ARMA 模型，简称CARMA 模型。
而模型
B(z)()()()A(z)
z k u k v k =+ 称为输出误差模型(OE: Output Error model)，简称OE 模型。 由于1()()()
e k v k C z =为AR 模型，故模型
1()()()()()()
A z z k
B z u k v k
C z =+ 称为受控ARAR 模型，简称CARAR 模型或动态调节(DA: Dynamic Adjustment)模型，其中
1212()1c c n n C z c z c z c z ---=++++ 因为()()()()
D z e k v k C z =为ARMA 模型，故模型 ()()()()()()()
D z A z z k B z u k v k C z =+ 称为受控ARARMA 模型，简称CARARMA 模型。把下列三个模型
()()()()()()
B z z k u k D z v k A z =+ （1.5） ()1()()()()()
B z z k u k v k A z
C z =+ （1.6） ()()()()()()()B z
D z z k u k v k A z C z =
+ （1.7） 统称为广义输出误差模型(GOE: Generalized Output Error model)，因为输出量测噪声为有色噪声，对应的噪声模型分别为MA 模型，AR 模型和ARMA 模型。
式（1.7）是随机系统的一般形式，它又等价于
()()()()()z k G z u k H z v k =+ (1.8)
其中G(z)称为系统模型（system model ）的传递函数，H(z)称为噪声模型（noise model ）的传递函数，其结构如图 1.1所示，图中不可测变量x(k)=G(z)u(k)为系统的无噪输出（noise-free output ）或真实输出（true output ），e(k)=H(z)v(k)为噪声模型输出（不可测），只有输入输出数据{u(k),z(k)}可用来辨识模型参数。其它模型都可以写为一般形式（1.8）。
例如，对于CARARMA 模型，有
()()(),().()()()
B z D z G z H z A z
C z A z == 实际中，有时也把CARARMA 模型（1.4）中的
()()D z C z 称为噪声模型。
++()
H z ()G z ()u k ()z k ()e k ()
x k ()v k
图 1.1 随机系统的结构框图
第二章 基本概念及方法
2.1 系统辨识
2.1.1 辨识的定义
L ．A ．Zadeh 曾经给辨识下过这样的定义：“辨识就是在输入和输出的数据基础上，从一组给定的模型中，确定一个与所测系统等价的模型。”这个定义明确了辨识的三大要素：①输入输出数据；②模型类；③等价准则。其中，数据是辨识的基础；准则是辨识的优化目标；模型类是寻找模型的范围。当然，按照Zadeh 德定义，寻找一个与实际过程完全等价的模型无意识是非常困难的。从实际观点出发，对模型的要求并非如此苛刻，为此对辨识又有一些比较实用的定义。比如，P ．Eykhoff 给辨识下的定义是：“辨识问题可以归结为用一个模型来表示客观系统（或将要构造的系统）本质特征的一种算法，并用这个模型把客观系统的理解表示成有用的形式。”V ．Strejc 对P ．Eykhoff 的定义作如下解释：“这个辨识定义强调了一个非常重要的概念，最终模型只应表示动态系统的本质特征，并且把它表示成适当的形式。这就意味着，并不期望获得一个物理实际的确切的数学描述，所要的只是一个适用于应用的模型。1978年L ．Ljung 给辨识下的定义更加实用：“辨识有三个要素――数据，模型和准则。辨识就是按照一个准则在一组模型类中选择一个与数据拟合得最好的模型。”总而言之，辨识的实质就是从一组模型类中选择一个模型，按照某种准则，使之能最好的拟合所关心的实际过程的动态特性。
2.1.2 辨识问题的表达形式
线性离散模型是指一个或几个变量可以表示成另外一些变量在时间或空间的离散点上的线性组合，图2.1为待辨识的过程，图2.2为线性离散模型的数学表达式
+()
u k ()k x ()
z k ()'
n k 过程输入量输出量输出测量值
测量噪声 图2.1 待辨识的过程
线型离散模型 θ()h k ()x k ()z k ()e k +
图2.2 线型离散模型的数学表达式
图中，()h k 和()z k 是模型的输入输出变量，他们在离散点上必需是可观测的；是噪声；θ是模型未知参数。记
[][]
12N 12()()()()N h k h k h k h k ττθθθθ?=??=??，，，，，， （2.1） 则线性离散模型的输出可表示成
()()()()()e e N
i i i z k h k k h k k τθθ=+=+∑ （2.2）
这种线性组合关系就是辨识问题的基本表达形式，称作最小二乘格式。这就是说，本题目所研究的辨识问题，其模型都必须能转化成这种最小二乘格式，其中()z k 和()h k 变量要求可观测。一般来说，线性过程或本质线性过程，其模型都能转化成这种格式。
2.1.3 辨识算法的基本原理
辨识的目的就是根据过程所提供的测量信息，在某种准则意义下，估计出模型的未知参数，其基本原理如图2.3所示。
为了得到模型参数θ的估计值?θ，通常采用逐步逼近法。在k 时刻，根据前一时刻的估计参数计算出模型该时刻的输出，即过程输出预报值
()()()??1z
k h k k τθ=- （2.3） 同时计算出预报误差，或称新息
()()()?z k z k z
k =- （2.4） 其中，过程输出量
()()()0e z k h k k τθ=+ （2.5）
及辨识表达式的输入量()h k 都是可以测量的。然后新息()z k 反馈到辨识算法中去，在
某种准则条件下，计算出k 时刻的模型参数估计值()k θ，并据以更新模型参数。这样
不断迭代下去，直至对应的准则函数取最小值。这时模型的输出()?z
k 也已在该准则意义下最好地逼近过程的输出值()z k ，于是便获得了所需要的模型。 模型辨识表达式辨识算法
0θ()h k ()x k ()
e k ()
z k ()
z k ()?k θ
θ过程++-
()?z
k
图2.3 辨识原理
上述辨识算法原理可以推广到多输出过程。如果过程的输出是m 维向量，那么辨识问题的表达形式应为
()()()z k H k e k θ=+ （2.6）
其中，输出向量为
()()()()12z ,,m k z k z k z k τ
=????…, （2.7） 噪声向量为
()()()()12,,m e k e k e k e k τ
=????…, （2.8） 参数向量为
[]12,N τ
θθθθ=,, （2.9）
输入数据矩阵为
()()()()()()()()()()111212122212N N m m mN h k h k h k h k h k h k H k h k h k h k ??????=??????
?
? （2.10） 这种情况的辨识问题与单输出的辨识问题一样。
2.1.4 辨识的内容和步骤
简单地说，辨识就是一种从观测到的含有噪声的输入输出数据中提取数学模型的方法。根据现场的情况，辨识可以离线进行（图2.4），也可以在线进行（图2.5）。
输入信号发生器过程磁带记录仪计算机处理
辨识结果
()u k ()z k ()z k ()
u k
图 2.4 离线辨识
过程计算机过程()
z k ()u k
图2.5 在线辨识
辨识的内容主要包括四个方面：①实验设计；②模型结构辨识；③模型参数辨识；④模型检验。
当然，辨识具体应用到一个实际过程中时，还有许多辅助工作要做。
辨识的一般步骤如图2.6所示。
辨识的目的先知辨识实验设计
输入输出信号检测贮存
模型结构设定
辨识方法应用
非参数模
型辨识
参数模型
辨识
模型结构辨识模型检验重新试验
最终模型
实际经验
预实验
操作条件
不合格
合格
经济指标
任务
图2.6辨识的一般步骤
图2.6表明，对一种给定辨识的辨识方法，从实验设计到获得最终模型，一般要经历如下步骤：根据辨识的目的，利用先验知识，初步确定模型结构；采集数据，然后进行模型参数和结构辨识；最后经过验证获得最终模型。这些步骤是密切关联而不是孤立的。
2.1.4.1辨识目的
明确模型应用的最终目的是很重要的，因为他将决定模型的类型、精度要求及采用什么辨识方法等问题。比如，如果模型是用于定值控制，那么模型的精度要求可以低一点；如果模型是用于随动系统或预测预报，那么精度的要求就要高一点。
2.1.4.2先验知识
对于一个给定的过程进行辨识之前，要通过一些手段对过程取得一般的了解，粗略
地掌握过程一些先验知识，如过程的非线性程度、时变或是非时变、比例或积分特性、时间常数、过度过程时间、截止频率、纯延迟、静态放大倍数以及噪声特性和操作条件等。这些先验知识对实验设计将起指导性的作用。
2.1.4.3实验设计
实验设计包括选择和决定：①输入信号（幅度、频带等）；②采样时间；③辨识时间（数据长度）；④开环或闭环辨识；⑤离线或在线辨识。
目的: 使采集到的数据序列尽可能多地包含过程特性的内在信息。
2.1.4.4数据预处理
输入输出数据通常都含有直流成分或低频成分，用任何辨识方法都无法消除它们对辨识精度的影响。此外，数据中的高频成分对辨识也是不利的。因此，对输入输出数据一般都要进行零均值化和剔除高频成分的预处理。处理的好，就能显著提高辨识的精度。
2.1.4.5模型结构辨识
模型结构辨识包括模型验前结构的假定和模型结构参数的确定这两部分内容。模型结构假定就是根据辨识的目的，利用已有的知识（定律、定理、原理等）对具体问题进行具体分析，包括机理分析、实验研究和近似技巧确定一个验前假定模型，再用模型鉴别方法选出可用的模型来。为此，首先要明确所要建立的模型是静态的还是动态的，是连续的还是离散的，是线性的还是非线性的，是参数模型还是非参数模型，等等。然而，模型的验前结构并不一定是最终的模型形式，它必须经过模型检验后才能确认。模型结构辨识的第二部分内容就是在假定模型结构的前提下，利用辨识的方法确定模型结构参数。
2.1.4.5模型参数辨识
当模型结构确定之后，就需要进行模型参数辨识。它的方法很多，其中最小二乘是最基本、应用最广的一种方法。多数的工程问题都可以用它得到满意的辨识效果。但是最小二乘也有一些重大的缺陷，比如过程辨识是时变或受到有色噪声严重污染时，它几乎不能适应。
2.1.4.6模型检验
模型检验是过程辨识不可缺少的步骤之一。但是，它没有一般的方法可循。他和模型结构问题密切相关。如果模型结构不合理，模型检验一般是不能通过的。
2.2 最小二乘参数的辨识方法
2.2.1 最小二乘法的基本概念
最小二乘大约是1795高斯在他那著名的星体运动轨道预报研究工作中提出的，后来，最小二乘就成了估计理论的奠基石。由于最小二乘原理简单，编制程序也不难，所以它颇受人们的重视，应用相当广泛。
最小二乘的基本结果有两种形式，一种是经典的一次完成算法；另一种是现代的递推算法。后者更适用于计算机在线辨识，而前者在理论研究方面却更为方便。
设过程的输入输出关系可以描述成如下的最小二乘格式
()()()z k h k n k τθ=+ （2.11）
其中，()z k 是过程输出量；()h k 是可观测的数据向量；()n k 是均值为零的随机噪声。利用数据序列(){}z k 和(){}h k ，极小化下列准则函数
()()()21L k J z k h
k τθθ=??=-??∑ （2.12）
使()J θ=min 的θ的估计值记作?θ，称作参数θ的最小二乘估计值。
上述基本概念表明，未知模型参数θ最可能的值是在实际观测值与计算值之累次误差的平方和达到最小值处，所得到的这种模型输出能最好地接近实际过程的输出。
2.2.2 最小二乘问题的提法
设时不变SISO 动态过程的数学模型为
()()()()()11A z z k B z u k n k --=+ （2.13）
其中，()u k 和()z k 为过程的输入输出量；()n k 是噪声；多项式()1A z -和()1B z - 分别为
()()112121121211na na nb nb A z a z a z a z B z b z b z b z
--------?=+++??=+++??…+…+ （2.14） 首先，假定模型式（2.14）的阶次a n 和b n 已经设定，且一般有a n ＞b n 。当取相同阶次时，记作a b n n n ==。
其次，将模型式（2.13）写成最小二乘格式
()()()z k h k n k τθ=+ （2.15）
式中
()()()()()[]12121,,1,,,,,,,,,a b na nb h k z k z k n u k u k n a a a b b b τ
τθ?=------??????=??
………… （2.16） 对于k =1,2,…,L ，方程式（2.15）可构成一个线性方程组，可以把它写成
L L L z H n θ=+ （2.17）
其中
[(1),(2),,()][(1),(2),,()]
(0)(1)(0)(1)(1)(1)
(2)(1)(2)(2)(1)()(1)()()L L a b a b L a b z z z z L n n n n L z z n u u n h z z n u u n h H z L z L n u L u L n h L τ
ττττ?=?=????----??????????----?????==??????????------?????? （2.18） 最后，如何选择记忆长度或称数据长度L 也是要考虑的问题。显然，联立方程组式（2.17）具有L 个方程，包含()a b n n +个未知数。如果L ﹤()a b n n +，方程的个数少于未知数个数，模型参数θ不能唯一确定，这种情况一般可以不去讨论它。如果L=()a b n n +，则只有当L n =0时，θ才有唯一确定的解，这也不是现在所要研究的问题。当L n ≠0时，只有取L ＞()a b n n +，才有可能确定一个最优的模型参数θ，而且为了保证辨识的精度，L 必需充分的大。
2.2.3 最小二乘问题的解
考虑到模型式（2.11）的辨识问题，其中()z k 和()h k 都是可观测的数据，θ是待估计参数，准则函数取
()()()()2
1L k J k z k h k τθθ=??=Λ-??∑ （2.19）
其中，()k Λ称为加权因子，对所有的k ，()k Λ都必须是正数。引进加权因子的目的是为了便于考虑观测数据的可信度。如果有理由认为现时刻的数据比过去时刻的数据可
靠，那么现时刻的加权值就要大于过去时刻的加权值。比如，可选()L k k μ-Λ=，0﹤μ﹤
1。当k =1时，()1L k μ-Λ=﹤﹤1；当k =L 时，()L Λ=1，这就体现了对不同时刻的数据给予了不同程度的信任。()k Λ的选择多少取决于人的主观因素，并无一般规律可循。在实际应用中，如果对象是线性时不变的过程，或者数据的可信度还难以肯定的话，则可以简单地选择()k Λ=1，k ?。
根据式（2.18）的定义，准则函数()J θ可写成二次型的形式
()()()L L L L L J z H z H τ
θθθ=-Λ- （2.20） 其中，L Λ为加权阵，一般是正定的对角矩阵，它与加权因子()k Λ的关系是
()()()
()1020L L Λ????Λ=Λ????Λ??
（2.21） 显然，式（2.20）中的L H θ代表模型的输出，或者说是过程的输出预报值。因此()J θ可以被看作用来衡量模型输出与实际过程输出的接近情况，极小化()J θ，求得参数θ的估计值将使模型的输出最好地预报过程的输出。
设?WLS
θ使得()?min WLS J θθ=，则有 ()
()()??0WLS WLS
L L L L L J z H z H ττθθθθθθθ??=-Λ-=?? （2.22） 展开之，并运用如下两个向量微分公式 ()2,A x Ax x A x
ττ?=?为对称矩阵()a x a x
ττ?=? （2.23）
得
()?L L L WLS L L L H H H z τ
τθΛ=Λ （2.24）
上式称作正则方程。当L L L H H τΛ是正则矩阵时，有
()1
?WLS L L L L L L H H H z ττθ-=ΛΛ （2.25）
系统辨识实验1实验报告
实验报告 --实验1.基于matlab的4阶系统辨识实验 课程：系统辨识 题目：基于matlab的4阶系统辨识实验 作者： 专业：自动化 学号：11351014 目录 实验报告 (1) 1.引言 (2) 2.实验方法和步骤 (2) 3.实验数据和结果 (2) 4.实验分析 (4)
1、 引言 系统辨识是研究如何确定系统的数学模型及其参数的理论。而模型化是进行系统分析、仿真、设计、预测、控制和决策的前提和基础。 本次实验利用matlab 工具对一个简单的4阶系统进行辨识，以此熟悉系统辨识的基本步骤，和matlab 里的一些系统辨识常用工具箱和函数。 这次实验所采取的基本方法是对系统输入两个特定的激励信号，分别反映系统的动态特性和稳态特性。通过对输入和输出两个系统信号的比较，来验证系统的正确性。 2、 实验方法和步骤 2.1 实验方法 利用matlab 对一个系统进行辨识，选取的输入信号必须能够反映系统的动态和稳态两个方面的特性，才能更好地确定系统的参数。本次实验采取了两种输入信号，为反映动态特性，第一个选的是正弦扫频信号，由下面公式产生： 选定频率范围 ，w(t)是时间t 的线性函数，具有扫频性质，可以反映系统的动态特性。 为反映稳态特性，选的输入信号是阶跃信号。以上的到两组数据，利用matlab 的merge()函数，对两组数据融合，然后用matlab 系统辨识工具箱中的基于子空间方法的状态空间模型辨识函数n4sid()来对系统进行辨识 2.2 实验步骤 (1)建立一个4阶的线性系统，作为被辨识的系统，传递函数为 3243211548765 ()125410865 s s s G s s s s s -+-+=++++ (2)产生扫频信号u1和阶跃信号u2 (3)u1、u2作为输入对系统进行激励，分别产生输出y1和y2 (4)画出稳态测试输入信号u1-t 的曲线，和y1-t 的曲线 画出动态测试输入信号u2-t 的曲线，和y2-t 的曲线 (5)使用merge()函数对u1-y1数据和u2-y2数据进行融合，并使用n4sid()函数对系统进行辨识。 (6)画出原系统和辨识出的系统的零极点图，画出原系统和辨识出的系统的阶跃响应特性曲线，通过对比，验证辨识出的系统的准确性。 3、 实验数据和结果 （1） 分别以扫频正弦函数、阶跃函数作为系统的激励，得到的输出：
系统辨识研究生期末结课作业-中北大学-余红英老师
BP神经网络 (一)定义 误差反向传播的BP算法简称BP算法，其基本思想是梯度下降法。它采用梯度搜索技术，以期使网络的实际输出值与期望输出值的误差均方值为最小。 (二)BP网络特点 1)是一种多层网络，包括输入层、隐含层和输出层； 2)层与层之间采用全互连方式，同一层神经元之间不连接； 3)权值通过δ学习算法进行调节； 4)神经元激发函数为S函数； 5)学习算法由正向传播和反向传播组成； 6)层与层的连接是单向的，信息的传播是双向的。 (三)BP主要应用 回归预测（可以进行拟合，数据处理分析，事物预测，控制等）、分类识别（进行类型划分，模式识别等），但无论那种网络，什么方法，解决问题的精确度都无法打到100%的，但并不影响其使用，因为现实中很多复杂的问题，精确的解释是毫无意义的，有意义的解析必定会损失精度。 (四)BP网络各种算法的应用范围 1)Traingd：批梯度下降训练函数,沿网络性能参数的负梯度方向调整网络的权值和阈值；
2)Traingdm：动量批梯度下降函数,也是一种批处理的前馈神经网络训练方法,不但具有更快的收敛速度,而且引入了一个动量项,有效避免了局部最小问题在网络训练中出现； 3)Trainrp：有弹回的BP算法,用于消除梯度模值对网络训练带来的影响,提高训练的速度(主要通过delt_inc和delt_dec来实现权值的改变)； 4)Trainlm：Levenberg-Marquardt算法,对于中等规模的BP神经网络有最快的收敛速度,是系统默认的算法.由于其避免了直接计算赫赛矩阵,从而减少了训练中的计算量,但需要较大内存量.； 5)traincgb：Plwell-Beale算法:通过判断前后梯度的正交性来决定权值和阈值的调整方向是否回到负梯度方向上来； 6)trainscg：比例共轭梯度算法:将模值信赖域算法与共轭梯度算法结合起来,减少用于调整方向时搜索网络的时间。 一般来说,traingd和traingdm是普通训练函数,而traingda,traingdx,traingd,trainrp,traincgf,traincgb,trainsc g,trainbgf等等都是快速训练函数.总体感觉就是训练时间的差别比较大,还带有精度的差异。 (五)实例及其仿真分析（BP网络底层代码的实现） 1)程序 %% 读入数据 xlsfile='student.xls'; [data,label]=getdata(xlsfile);
系统辨识复习资料
1请叙述系统辨识的基本原理（方框图），步骤以及基本方法 定义：系统辨识就是从对系统进行观察和测量所获得的信息重提取系统数学模型的一种理论和方法。 辨识定义：辨识有三个要素——数据、模型类和准则。辨识就是按照一个准则在一组模型类中选择一个与数据拟合得最好的模型 辨识的三大要素：输入输出数据、模型类、等价准则 基本原理： 步骤：对一种给定的辨识方法，从实验设计到获得最终模型，一般要经历如下一些步骤：根据辨识的目的，利用先验知识，初步确定模型结构；采集数据；然后进行模型参数和结构辨识；最后经过验证获得最终模型。 基本方法：根据数学模型的形式：非参数辨识——经典辨识，脉冲响应、阶跃响应、频率响应、相关分析、谱分析法。参数辨识——现代辨识方法（最小二乘法等） 2随机语言的描述 白噪声是最简单的随机过程，均值为零，谱密度为非零常数的平稳随机过程。 白噪声过程（一系列不相关的随机变量组成的理想化随机过程） 相关函数： 谱密度： 白噪声序列，白噪声序列是白噪声过程的离散形式。如果序列 满足： 相关函数： 则称为白噪声序列。 谱密度： M 序列是最长线性移位寄存器序列，是伪随机二位式序列的一种形式。 M 序列的循环周期 M 序列的可加性：所有M 序列都具有移位可加性 辨识输入信号要求具有白噪声的统计特性 M 序列具有近似的白噪声性质，即 M 序列“净扰动”小，幅度、周期、易控制，实现简单。 3两种噪声模型的形式是什么 第一种含噪声的被辨识系统数学模型0011()()()()n n i i i i y k a y k i b u k i v k ===-+-+∑∑，式中,噪声序列v(k)通常假定为均值为零独立同分布的平稳随机序列,且与输入的序列u(k)彼此统计独立. 上式写成：0 ()()()T y k k v k ψθ=+。其中，()()()()()()()=1212T k y k y k y k n u k u k u k n ψ------????L L ，，，，，，， ) ()(2τδστ=W R +∞ <<∞-=ωσω2)(W S )}({k W Λ,2,1,0,)(2±±==l l R l W δσ2)()(σωω== ∑ ∞-∞=-l l j W W e l R S ???≠=≈+=?0 , 00,Const )()(1)(0ττττT M dt t M t M T R bit )12(-=P P N
系统辨识与自适应控制作业
系统辨识与自适应控制 学院： 专业： 学号： 姓名：
系统辨识与自适应控制作业 一、 对时变系统进行参数估计。 系统方程为：y(k)+a(k)y(k-1)=b(k)u(k-1)+e(k) 其中：e(k)为零均值噪声，a(k)= b(k)= 要求：1对定常系统（a=0.8,b=0.5）进行结构（阶数）确定和参数估计； 2对时变系统，λ取不同值（0.9——0.99）时对系统辨识结果和过程进行 比较、讨论 3对辨识结果必须进行残差检验 解：一（1）： 分析：采用最小二乘法（LS ）：最小二乘的思想就是寻找一个θ的估计值θ? ， 使得各次测量的),1(m i Z i =与由估计θ? 确定的量测估计θ??i i H Z =之差的平方和最小，由于此方法兼顾了所有方程的近似程度，使整体误差达到最小，因而对抑制误差是有利的。在此，我应用批处理最小二乘法，收敛较快，易于理解，在系统参数估计应用中十分广泛。 作业程序： clear all; a=[1 0.8]'; b=[ 0.5]'; d=3; %对象参数 na=length(a)-1; nb=length(b)-1; %na 、nb 为A 、B 阶次 L=500; %数据长度 uk=zeros(d+nb,1); %输入初值：uk(i)表示u(k-i) yk=zeros(na,1); %输出初值 x1=1; x2=1; x3=1; x4=0; S=1; %移位寄存器初值、方波初值 xi=randn(L,1); %白噪声序列 theta=[a(2:na+1);b]; %对象参数真值 for k=1:L phi(k,:)=[-yk;uk(d:d+nb)]'; %此处phi(k,:)为行向量，便于组成phi 矩阵 y(k)=phi(k,:)*theta+xi(k); %采集输出数据 IM=xor(S,x4); %产生逆M 序列 if IM==0 u(k)=-1; else u(k)=1; end S=not(S); M=xor(x3,x4); %产生M 序列
系统辨识与自适应控制论文
XXXXXXXXXX 系统辨识与自适应控制课程论文 题目：自适应控制综述与应用 课程名称：系统辨识与自适应控制 院系：自动化学院 专业：自动化 班级：自动化102 姓名： XXXXXX 学号: XXXXXXXXX 课程论文成绩： 任课教师： XXXXX 2013年 11 月 15 日
自适应控制综述与应用 一．前言 对于系统辨识与自适应控制这门课，前部分主要讲了系统辨识的经典方法（阶跃响应法、频率响应法、相关分析法）与现代方法（最小二乘法、随机逼近法、极大似然法、预报误差法）。对于系统辨识，简单的说就是数学建模，建立黑箱系统的输入输出关系；而其主要分为结构辨识（n）与参数辨识（a、b）这两个任务。 由于在课上刘老师对系统辨识部分讲的比较详细，在此不再赘述，下面讨论自适应控制部分的相关内容。 对于自适应控制的概念，我觉得具备以下特点的控制系统，可以称为自适应控制系统： 1、在线进行系统结构和参数辨识或系统性能指标的度量，以便得到系统当前状态的改变情况。 2、按一定的规律确定当前的控制策略。 3、在线修改控制器的参数或可调系统的输入信号。 二．自适应控制综述 1.常规控制系统与自适应控制系统比较 （1）控制器结构不同 在传统的控制理论与控制工程中，常规控制系统的结构主要由控制器、控制对象以及反馈控制回路组成。 而自适应控制系统主要由控制器、控制对象、自适应器及反馈控制回路和自适应控制回路组成。 （2）适用的对象与条件不同 传统的控制理论与控制工程中，当对象是线性定常、并且完全已知的时候，才能进行分析和控制器设计。无论采用频域方法，还是状态空间方法，对象一定是已知的。这类方法称为基于完全模型的方法。在模型能够精确地描述实际对象时，基于完全模型的控制方法可以进行各种分析、综合，并得到可靠、精确和满意的控制效果。 然而,有一些实际被控系统的数学模型是很难事先通过机理建模或离线系统辨识来确知的,或者它们的数学模型的某些参数或结构是处于变化之中的.对于这类事先难以确定数学模型的系统,通过事先整定好控制器参数的常规控制往往难以对付。 面对上述系统特性未知或经常处于变化之中而无法完全事先确定的情况,如何设计一个满意的控制系统,使得能主动适应这些特性未知或变化的情况,这就 是自适应控制所要研究解决的问题.自适应控制的基本思想是:在控制系统的运行过程中,系统本身不断地测量被控系统的状态、性能和参数,从而“认识”或“掌握”系统当前的运行指标并与期望的指标相比较,进而作出决策,来改变控制器的结构、参数或根据自适应规律来改变控制作用，以保证系统运行在某种意义下的最优或次优状态。按这种思想建立起来的控制系统就称为自适应控制系统。
系统辨识
系统辨识理论综述 郭金虎 【摘要】全面论述了系统辨识理论的提出背景以及理论成果，总结了系统辨识理论的基本原理、基本方法以及基本内容，并对其应用及发展做了全面的讨论。 【关键词】系统辨识；准则函数 1概述 系统辨识问题的提出是由于随着科学技术的发展，各门学科的研究方法进一步趋向定量化，人们在生产实践和科学实验中，对所研究的复杂对象通常要求通过观测和计算来定量的判明其内在规律，为此必须建立所研究对象的数学模型，从而进行分析、设计、预测、控制的决策。例如，在化工过程中，要求确定其化学动力学和有关参数，已决定工程的反应速度；在热工过程中，要求确定如热交换器这样的分布参数的系统及动态参数；在生物系统方面，通常希望获得其较精确的数学模型，一般描述在生物群体系统的动态参数；为了控制环境污染，希望得到大气污染扩散模型和水质模型；为进行人口预报，做出相应的决策，要求建立人口增长的动态模型；对产品需求量、新型工业的增长规律这类经济系统，已经建立并继续要求建立其定量的描述模型。其他如结构或机械的振动、地质分析、气象预报等等，都涉及系统辨识和系统参数估计，这类要求正在不断扩大。 2系统辨识的基本原理 2.1系统辨识的定义和基本要素 实验和观测是人类了解客观世界的最根本手段。在科学研究和工程实践中，利用通过实验和观测所得到的信息，或掌握所研究对象的特性，这种方式的含义即为“辨识”。关于系统辨识的定义，1962年，L.A.Zadeh 是这样提出的：“系统辨识就是在输入和输出数据观测的基础上，在指定的一组模型类中，确定一个与所测系统等价的模型”。1978年，L.Ljung 也给出了一个定义：“辨识既是按规定准则在一类模型中选择一个与数据拟合得最好的模型”。可用图2-1来说明辨识建模的思想。 0 G g G 等价准则系统原型 系统模型激励信号y g y e J u 图2-1 系统辨识的原理
系统辨识与自适应控制硕士研究生必修课程考核
《系统辨识与自适应控制》硕士研究生必修课程考核（检测技术与自动化装置专业）2003．5. 22 可下载自https://www.wendangku.net/doc/4414942385.html,/xuan/leader/mrj/ 学生姓名：考核成绩： 一、笔试部分 (占课程成绩的 80% ) 考试形式：笔试开卷 答卷要求：笔答，可以参阅书籍，要求简明扼要，不得大段抄教材，不得相互抄袭 试题： 1 简述系统辨识的基本概念（概念、定义和主要步骤）（10分） 2 简述相关辨识的基本原理和基于二进制伪随机序列的相关辩识方法（原理、 框图、特点）。（10分） 3 简述离散线性动态（SI / SO）过程参数估计最小二乘方法（ＬＳ法）的主要 内容和优缺点。带遗忘因子递推最小二乘估计（ＲＬＳ法）的计算步骤和主要递推算式的物理意义（10分） 4 简述什么是时间序列？时间序列建模如何消除恒定趋势、线性趋势和季节性 的影响？（10分） 5 何谓闭环系统的可辨识性问题，它有那些主要结论？（10分） 6 何谓时间离散动态分数时滞过程？“分数时滞”对过程模型的零点和极点有 什么影响？（10分） 7 简述什么是自适应控制，什么是模型参考自适应控制（MRAC）？，试举一例说明MRAC的设计方法（10分）。 8 请设计以下过程( yr = 0 ) y(k) -1.6y(k-1)+0.8y(k-2) = u(k-2)- 0.5u(k-3)+ε(k)+1.5ε(k-1)+0.9ε(k-2) 的最小方差控制器（MVC）和广义最小方差控制器（GMVC）, 并分析他们的主要性能。（10分） 二、上机报告ＲＬＳ仿真（占课程成绩的 20%） 交卷时间：6月9日下午
系统辨识方法
系统辨识方学习总结 一．系统辨识的定义 关于系统辨识的定义，Zadeh是这样提出的：“系统辨识就是在输入和输出数据观 测的基础上，在指定的一组模型类中确定一个与所测系统等价的模型”。L.Ljung也给 “辨识即是按规定准则在一类模型中选择一个与数据拟合得最好的模型。出了一个定义： 二．系统描述的数学模型 按照系统分析的定义，数学模型可以分为时间域和频率域两种。经典控制理论中微 分方程和现代控制方法中的状态空间方程都是属于时域的范畴，离散模型中的差分方程 和离散状态空间方程也如此。一般在经典控制论中采用频域传递函数建模，而在现代控 制论中则采用时域状态空间方程建模。 三．系统辨识的步骤与内容 (1)先验知识与明确辨识目的 这一步为执行辨识任务提供尽可能多的信息。首先从各个方面尽量的了解待辨识的 系统，例如系统飞工作过程，运行条件，噪声的强弱及其性质，支配系统行为的机理等。 对辨识目的的了解，常能提供模型类型、模型精度和辨识方法的约束。 (2)试验设计 试验设计包括扰动信号的选择，采样方法和间隔的决定，采样区段（采样数据长度 的设计）以及辨识方式（离线、在线及开环、闭环等的考虑）等。主要涉及以下两个问 题，扰动信号的选择和采样方法和采样间隔 (3)模型结构的确定 模型类型和结构的选定是决定建立数学模型质量的关键性的一步，与建模的目的， 对所辨识系统的眼前知识的掌握程度密切相关。为了讨论模型和类型和结构的选择，引 入模型集合的概念，利用它来代替被识系统的所有可能的模型称为模型群。所谓模型结 构的选定，就是在指定的一类模型中，选择出具有一定结构参数的模型M。在单输入单 输出系统的情况下，系统模型结构就只是模型的阶次。当具有一定阶次的模型的所有参 数都确定时，就得到特定的系统模型M，这就是所需要的数学模型。 (4)模型参数的估计 参数模型的类型和结构选定以后，下一步是对模型中的未知参数进行估计，这个阶 段就称为模型参数估计。
系统辨识作业2
系统辨识作业 学院： 专业： 姓名： 学号： 日期：
系统辨识作业： 以下图为仿真对象 图中，v(k)为服从N(0,1)正态分布的不相关随即噪声，输入信号采用循环周期Np>500的逆M 序列，幅值为1，选择辨识模型为： )()2()1()2()1()(2121k v k u b k u b k z a k z a k z +-+-=-+-+ 加权因子1)(=Λk ，数据长度L=500，初始条件取I P 610)0(= ，????????? ???=001.0001.0001.0)0(? θ 要求：（1）采用一次完成最小二乘法对系统进行辨识，给出数据u(k)和z(k)， 及L H ，L Z 和θ 和)?(θ J 的值。 （2）采用递推最小二乘法进行辨识，要给出参数收敛曲线以及新息)(~k Z ，残差)(k ε，准则函数)(k J 随着递推次数K 的变化曲线。 （3）对仿真对象和辨识出的模型进行阶跃响应对比分析以检验辨识结果的实效。 1、一次完成法对系统进行辨识： 估计L T L L T L LS Z H H H 1)(?-=θ ，其中 []2121,,,b b a a LS =θ ????? ? ??????=L L Z Z Z Z 21 ????????????------------=????????? ???=)2()1()2()1()0()1()0()1()1()0()1() 0()()2()1(L u L u L z L z u u z z u u z z L h h h H L 一次完成算法对系统辨识的Matlab 程序见附录: 部分输入、输出数据如下，全部的输入输出数据用图1.1所示 输入数据u(k)=Columns 1 through 16 0 0 1 1 1 1 0 0 0 0 1 0 0 1 1 0
系统辨识研究的现状_徐小平
系统辨识研究的现状 徐小平1,王 峰2,胡 钢1 (1.西安理工大学自动化与信息工程学院 陕西西安 710048;2.西安交通大学理学院 陕西西安 710049) 摘 要:综述了系统辨识问题的研究进展,介绍了经典的系统辨识方法及其缺点,引出了将集员、多层递阶、神经网络、遗传算法、模糊逻辑、小波网络等知识应用于系统辨识得到的一些现代系统辨识方法,最后总结了系统辨识今后的发展方向。 关键词:系统辨识;集员;多层递阶;神经网络;遗传算法;模糊逻辑;小波网络 中图分类号:TP27 文献标识码:B 文章编号:1004-373X (2007)15-112-05 A Survey on System Identif ication XU Xiaoping 1,WAN G Feng 2,HU Gang 1 (1.School of Automation and Information Engineering ,Xi ′an University of Technology ,Xi ′an ,710048,China ; 2.School of Science ,Xi ′an Jiaotong University ,Xi ′an ,710049,China ) Abstract :In this paper the advance in the study of system identification is summarized.First ,the traditional system identi 2fication methods and their disadvantages are introduced.Then ,some new methods based on set membership ,multi -level re 2cursive ,neural network ,genetic algorithms ,f uzzy logic and wavelet network are presented.Finally ,f urther research directions of system identification are pointed out. K eywords :system identification ;set membership ;multi -level recursive ;neural network ;genetic algorithms ;f uzzy logic ;wavelet network 收稿日期:2007-04-16 基金项目:教育部博士学科基金(20060700007); 陕西省自然科学基金(2005F15)资助项目 1 引 言 辨识、状态估计和控制理论是现代控制理论三个互相渗透的领域。辨识和状态估计离不开控制理论的支持,控制理论的应用又几乎不能没有辨识和状态估计技术。随着控制过程复杂性的提高,控制理论的应用日益广泛,但其实际应用不能脱离被控对象的数学模型。然而在大多数情况下,被控对象的数学模型是不知道的,或者在正常运行期间模型的参数可能发生变化,因此利用控制理论去解决实际问题时,首先需要建立被控对象的数学模型。系统辨识正是适应这一需要而形成的,他是现代控制理论中一个很活跃的分支。社会科学和自然科学领域已经投入相当多的人力和物力去观察、研究有关的系统辨识问题。从1967年起,国际自动控制联合会(IFAC )每3年召开一次国际性的系统辨识与参数估计的讨论会。历届国际自动控制联合会的系统辨识会议均吸引了众多的有关学科的科学家和工程师们的积极参加。 系统辨识是建模的一种方法,不同的学科领域,对应 着不同的数学模型。从某种意义上来说,不同学科的发展过程就是建立他的数学模型的过程。1962年,L.A.Zadeh 给出辨识这样的定义[1]:“辨识就是在输入和输出数据的基础上,从一组给定的模型类中,确定一个与所测系统等价的模型。”当然按照Zadeh 的定义,寻找一个与实际过程完全等价的模型无疑是非常困难的。而从实用性观点出发,对模型的要求并非如此苛刻,为此,对辨识又有一些实用性的定义。比如,1974年,P.E.ykhoff 给出辨识的定义[2]为:“辨识问题可以归结为用一个模型来表示客观系统(或将要构造的系统)本质特征的一种演算,并用这个模型把对客观系统的理解表示成有用的形式。”1978年,L. Ljung 给辨识下的定义[3] 更加实用:“辨识有三个要素—数 据,模型类和准则。辨识就是按照一个准则在一组模型类中选择一个与数据拟合得最好的模型。”总而言之,辨识的实质就是从一组模型类中选择一个模型,按照某种准则,使之能最好地拟合所关心的实际过程的静态或动态特性。 本文首先介绍了经典的系统辨识方法,并指出其存在的缺陷,接着对近年来系统辨识的现代方法作以简单的综述,最后指出了系统辨识未来的发展方向。2 经典的系统辨识 经典的系统辨识方法[4-6]的发展已经比较成熟和完 2 11
系统辨识研究综述
系统辨识研究综述 摘要：本文综述了系统辨识的发展与研究内容，对现有的系统辨识方法进行了介绍并分析其不足，进一步引出了把神经网络、遗传算法、模糊逻辑、小波网络知识应用于系统辨识得到的一些新型辨识方法。并对基于T-S模型的模糊系统辨识进行了介绍。文章最后对系统辨识未来的发展方向进行了介绍 关键词：系统辨识；建模；神经网络；遗传算法；模糊逻辑；小波网络；T-S 模型 1.系统辨识的发展和基本概念 1.1系统辨识发展 现代控制论是控制工程新的理论基础。辨识、状态估计和控制理论是现代控制论三个相互渗透的领域。辨识和状态估计离不开控制理论的支持；控制理论的应用又几乎不能没有辨识和状态估计。 而现代控制论的实际应用不能脱离被控对象的动态特性，且所用的数学模型需要选择一种使用方便的描述形式。但很多情况下建立被控对象的数学模型并非易事，尤其是实际的物理或工程对象，它们的机理复杂且含有各种噪声，使建立数学模型更加困难。系统辨识就是应此需要而形成的一门学科。 系统辨识和系统参数估计是六十年代开始迅速发展起来的。1960年，在莫斯科召开的国际自动控制联合会(IFCA)学术会议上，只有很少几篇文章涉及系统辨识和系统参数估计问题。然而，在此后，人们对这一学科给予了很大的注意，有关系统辨识的理论和应用的讨论日益增多。七十年代以来，随着计算机的开发和普及，系统辨识得到了迅速发展，成为了一门非常活跃的学科。 1.2系统辨识基本概念的概述 系统辨识是建模的一种方法。不同的学科领域,对应着不同的数学模型,从某种意义上讲,不同学科的发展过程就是建立它的数学模型的过程。建立数学模型有两种方法:即解析法和系统辨识。 L. A. Zadeh于1962年给辨识提出了这样的定义：“辨识就是在输入和输出数据的基础上，从一组给定的模型类中，确定一个与所测系统等价的模型。”当然按照Zadeh的定义，寻找一个与实际过程完全等价的模型无疑是非常困难的。根据实用性观点，对模型的要求并非如此苛刻。1974年，P. E. ykhoff给出辨识的定义“辨识问题可以归结为用一个模型来表示客观系统(或将要构造的系统) 本质为： 特征的一种演算，并用这个模型把对客观系统的理解表示成有用的形式。而1978
现代控制理论课程报告
现代控制理论课程总结 学习心得 从经典控制论发展到现代控制论,是人类对控制技术认识上的一次飞跃。现代控制论是用状态空间方法表示,概念抽象,不易掌握。对于《现代控制理论》这门课程，在刚拿到课本的时候，没上张老师的课之前，咋一看，会认为开课的内容会是上学期学的控制理论基础的累赘或者简单的重复，更甚至我还以为是线性代数的复现呢！根本没有和现代控制论联系到一起。但后面随着老师讲课的风格的深入浅出，循循善诱，发现和自己想象的恰恰相反，张老师以她特有的讲课风格，精心准备的ppt 课件，向我们展示了现代控制理论发展过程，以及该掌握内容的方方面面，个人觉得，我们不仅掌握了现代控制理论的理论知识，更重要的是学会了掌握这门知识的严谨的逻辑思维和科学的学习方法，对以后学习其他知识及在工作上的需要大有裨益，总之学习了这门课让我受益匪浅。 由于我们学习这门课的课时不是很多，并结合我们学生学习的需求及所要掌握的课程深入程度，张老师根据我们教学安排需要，我们这学期学习的内容主要有：1.绪论；2.控制系统的状态表达式；3.控制系统状态表达式的解；4.线性系统的能空性和能观性；5.线性定常系统的综合。而状态变量和状态空间表达式、状态转移矩阵、系统的能控性与能观性以及线性定常系统的综合是本门课程的主要学习内容。当然学习的内容还包括老师根据多年教学经验及对该学科的研究的一些深入见解。 在现代科学技术飞速发展中,伴随着学科的高度分化和高度综合,各学科之间相互交叉、相互渗透,出现了横向科学。作为跨接于自然科学和社会科学的具有横向科学特点的现代控制理论已成为我国理工科大学高年级的必修课。 经典控制理论的特点 经典控制理论以拉氏变换为数学工具，以单输入－单输出的线性定常系统为主要的研究对象。将描述系统的微分方程或差分方程变换到复数域中，得到系统的传递函数，并以此作为基础在频率域中对系统进行分析和设计，确定控制器的结构和参数。通常是采用反馈控制，构成所谓闭环控制系统。经典控制理论具有明显的局限性，突出的是难以有效地应用于时变系统、多变量系统，也难以揭示系统更为深刻的特性。当把这种理论推广到更为复杂的系统时，经典控制理论就显得无能为力了，这是因为它的以下几个特点所决定。 1．经典控制理论只限于研究线性定常系统，即使对最简单的非线性系统也是无法处理的；这就从本质上忽略了系统结构的内在特性，也不能处理输入和输出皆大于1的系统。实际上，大多数工程对象都是多输入－多输出系统，尽管人们做了很多尝试，但是，用经典控制理论设计这类系统都没有得到满意的结果；2．经典控制理论采用试探法设计系统。即根据经验选用合适的、简单的、工程上易于实现的控制器，然后对系统进行分析，直至找到满意的结果为止。虽然这种设计方法具有实用等很多完整，从而促使现代控制理论的发展：对经典理论的精确化、数学化及理论化。优点，但是，在推理上却是不能令人满意的，效果也
系统辨识经典辨识方法
经典辨识方法报告 1. 面积法 辨识原理 分子多项式为1的系统 1 1 )(11 1++++= --s a s a s a s G n n n n Λ……………………………………………（） 由于系统的传递函数与微分方程存在着一一对应的关系，因此，可以通过求取微分方程的系数来辨识系统的传递函数。在求得系统的放大倍数K 后，要先得到无因次阶跃响应y(t)（设τ=0）。大多数自衡的工业过程对象的y(t)可以用下式描述来近似 1)() ()()(a 111=++++--t y dt t dy a dt t y d a dt t y d n n n n K ……………………………（） 面积法原则上可以求出n 为任意阶的各系数。以n=3为例，注意到 1|)(,0|)(d |)(d |)(d 23====∞→∞→∞→∞→t t t t t y dt t y dt t y dt t y …………………………（） 将式（）的y(t)项移至右边，在[0，t]上积分，得 ?-=++t dt t y t y a dt t dy a dt t y d a 01223 )](1[)() ()(…………………………………（） 定义 ?-=t dt t y t F 01)](1[)(……………………………………………………………（） 则由式（）给出的条件可知，在t →∞ ?∞ -=01)](1[a dt t y ……………………………………………………………（） 将式a 1y(t)移到等式右边，定义 )()]()([)() (a 201123 t F dt t y a t F t y a dt t dy t =-=+?…………………………………（） 利用初始条件（）当t →∞时 )(a 22∞=F …………………………………………………………………… （） 同理有a 3=F 3(∞) 以此类推，若n ≥2，有a n =F n (∞) 分子、分母分别为m 阶和n 阶多项式的系统
系统辨识大作业论文Use
中南大学 系统辨识大作业 学院：信息科学与工程学院 专业：控制科学与工程 学生姓名：龚晓辉 学号：134611066 指导老师：韩华教授 完成时间：2014年6月
基于随机逼近算法的系统辨识设计 龚晓辉1, 2 1. 中南大学信息科学与工程学院,长沙410083 2. 轨道交通安全运行控制与通信研究所, 长沙410083 E-mail: csugxh@https://www.wendangku.net/doc/4414942385.html, 摘要：本文对系统辨识的基本原理和要素进行了详细阐述，介绍和分析了系统辨识中常用的最小二乘算法，极大似然法，神经网络算法和随机逼近算法。随机逼近算法只需利用输入输出的观测来辨识系统参数，在实际中有重要运用。本文对随机逼近算法进行了详细说明。同时，针对一个三阶系统设计了KW随机逼近算法进行了参数辨识，并且和递推最小二乘法进行了对比。实验证明在实际辨识过程中两种算法各有优缺点。 关键词: 系统辨识, 随机逼近法, 递推最小二乘法 1.引言 在我们所学的线性系统理论中，都是在系统模型已知的情况来设计控制率，使系统达到稳定性，准确性和快速性的要求。然而，在实际系统中，对象的模型往往是未知的。而且，非线性是普遍存在的，线性系统只是对非线性系统的一种近似。因此，了解对象准确的模型，对设计控制器及其重要。在一些实际对象中，如导弹，化学过程，生物规律，药物反应，以及社会经济等，这些对象使用机理分析法比较困难，但是通过使用辨识技术可以建立系统精确的模型，确定最优控制率[1]。如今，系统辨识技术已经在航空航天，海洋工程，生物学等各个领域获得了广泛运用。 2.系统辨识的基本思想与常用方法 辨识的目的是为了获得对象模型。对象的模型有多种表现形式，它包括直觉模型，图表模型，数学模型，解析模型，程序模型和语言模型。这些模型之间可以相互转换。我们在建立系统模型时，需要遵循目的性，实在性，可辨识性，悭吝性的基本原则。目的性指的是建模的目的要明确，实在性指的是模型的物理概念要明确。可辨识性指的是模型结构合理,输入信号持续激励,数据量充足。悭吝性指的是被辨识参数的个数要尽量少。 辨识对象模型要遵循上面的基本原则。它是将对象看成一个黑箱。从含有噪声的输入输出数据中，按照一个准则，运用辨识理论，从一组给定的模型中，确定一个与所测系统等价的模型，是现代控制理论的一个分支。系统辨识由数据、模型类和准则三要素组成。数据是由观测实体而得，它不是唯一的，受观测时间、观测目的、观测手段等影响。模型类就是模型结构，它也不是唯一的，受辨识目的、辨识方法等影响。而准则是辨识的优化目标，用来衡量模型接近实际系统的标准。它也不是唯一的，受辨识目的、辨识方法的影响。由于存在多种数据拟合
系统辨识课程综述
系统辨识课程综述 通过《系统辨识》课程的学习，了解了系统辨识问题的概述及研究进展；掌握了经典的辨识理论和辨识技术及其优缺点，如：脉冲响应法、最小二乘法（LS）和极大似然法等；同时对于那些为了弥补经典系统辨识方法的不足而产生的现代系统辨识方法的原理及其优缺点有了一定的认识，如：神经网络系统辨识、基于遗传算法的系统辨识、模糊逻辑系统辨识、小波网络系统辨识等；最后总结了系统辨识研究的发展方向。 一、系统辨识概论 自40年代Wiener创建控制论和50年代诞生工程控制论以来，控制理论和工程就一直围绕着建立模型和控制器设计这两个主题来发展。它们相互依赖、相互渗透并相互发展；随着控制过程的复杂性的提高以及控制目标的越来越高，控制理论的应用日益广泛，但其实际应用不能脱离被控对象的数学模型。但是大多数情况下，被控对象的数学模型是不知道的，或者在正常运行期间模型的参数可能发生变化，此时建立模型需要细致、完整地分析系统的机理和所有对该系统的行为产生影响的各种因素，从而变得十分困难。系统辨识建模正是适应这一需要而产生的，它是现代控制理论中一个很活跃的分支。 系统辨识是建模的一种方法，不同的学科领域，对应着不同的数学模型。从某种意义上来说，不同学科的发展过程就是建立他的数学模型的过程。所谓系统辨识，通俗地说，就是研究怎样利用对未知系统的试验数据或在线运行数据（输入/输出数据），运用数学归纳、统
计回归的方法建立描述系统的数学模型的科学。Zadeh与Ljung明确提出了系统辨识的三个要素：输入输出数据，模型类和等价准则。总之，辨识的实质就是从一组模型类中选择一个模型，按照某种准则，使之能最好地拟合我们所关心的实际过程的静态或动态特性。 通过辨识建立数学模型的目的是估计表征系统行为的重要参数，建立一个能模仿真实系统行为的模型，用当前可测量的系统的输入和输出预测系统输出的未来演变，以及设计控制器。对系统进行分析的主要问题是根据输入时间函数和系统的特性来确定输出信号；对系统进行控制的主要问题是根据系统的特性设计控制输入，使输出满足预先规定的要求。而系统辨识亦称为实验建模方法，它是“系统分析”和“控制系统设计”的逆问题。通常，预先给定一个模型类μ＝｛M｝（即给定一类已知结构的模型），一类输入信号u和等价准则J＝L(y，yM)(一般情况下，J是误差函数，是过程输出y和模型输出yM的一个泛函)；然后选择使误差函数J达到最小的模型，作为辨识所要求的结果。 二、经典的系统辨识 经典的系统辨识方法包括脉冲响应法、最小二乘法（LS）和极大似然法等。其中最小二乘法(LS)是应用最广泛的方法,但由于它是非一致的，是有偏差性，所以为了克服他的缺陷，形成了一些以最小二乘法为基础的系统辨识方法：广义最小二乘法(GLS)、辅助变量法(IV)、增广最小二乘法(ELS)、广义最小二乘法(GLS)，以及将一般的最小二乘法与其他方法相结合的方法，有：最小二乘两步法(COR—LS)
闭环系统辨识 报告
闭环系统辨识 气动参数辨识在导弹研发中的作用 气动力参数辨识是飞行器系统辨识中发展最为成熟的一个领域。对于导弹而言，采用系统辨识技术从飞行试验数据获取导弹空气动力特性，已经成为导弹研制和评估程序的重要组成部分。导弹气动参数辨识的作用主要体现在以下几个方面： (1)验证气动力数值计算和风洞试验结果。如前所述，数值计算和风洞试验各有其优点，也各有其局限性，必须通过飞行试验进行验证。如果飞行试验气动参数辨识结果与数值计算和风洞试验结果一致，则说明数值计算和风洞试验结果是正确的；如果不一致，就要找出产生不一致的原因，通过相关性分析，将地面试验结果换算到真实飞行状态下。 (2)为导弹系统仿真提供准确的气动参数。在导弹打靶仿真中，控制系统的执行元件、旋转台、控制系统、目标源等都可以采用实物，但导弹所受外作用力，特别是空气动力是飞行状态参数的函数，无法用实物实现，应代之以数学模型。该数学模型是否正确决定了系统仿真的置信度，因此，采用系统辨识技术，辨识出导弹的外作用力数学模型，特别是气动力数学模型，是导弹系统仿真技术的关键环节之一。 (3)为导弹飞行控制系统设计提供准确的气动参数。控制律设计取决于导弹的气动特性。如果控制律设计所依赖的气动数据误差过大，可能会导致控制失效；如果气动数据误差带很大，为了满足控制系统鲁棒性要求，或者控制精度降低，或者对指令的响应时间加长。利用飞行试验气动参数辨识结果，经过相关性分析给出的导弹气动特性，其可信度可望显著提高，用于飞行控制律设计，可以大大提高控制系统的性能。 (4)自适应控制。自适应控制系统能根据系统的状态和环境参数变化，自动调节控制系统的相应系数，以达到最佳控制状态。系统实时辨识是自适应控制系统的重要组成部分。对于导弹，机动性与导弹的静稳定裕度和动压关系很大，实
系统辨识综述
系统辨识方法综述 摘要 在自然和社会科学的许多领域中，系统的设计、系统的定量分析、系统综合及系统控制，以及对未来行为的预测，都需要知道系统的动态特性。在研究一个控制系统过程中，建立系统的模型十分必要。因此，系统辨识在控制系统的研究中起到了至关重要的作用。本文论述了用于系统辨识的多种方法，重点论证了经典系统辨识方法中运用最广泛的的最小二乘法及其优缺点，引出了将遗传算法、模糊逻辑、多层递阶等知识应用于系统辨识得到的一些现代系统辨识方法，最后总结了系统辨识今后的发展方向。 关键字：系统辨识；最小二乘法；遗传算法；模糊逻辑；多层递阶 Abstract In many fields of natural and social science, the design of the system, the quantitative analysis of the system, the synthesis of the system and the control of the system, as well as the prediction of the future behavior, all need to know the dynamic characteristics of the system. It is very necessary to establish a system model in the process of studying a control system. Therefore, system identification plays an important role in the research of control system. This paper discusses several methods for system identification, the key argument is that the classical system identification methods using the least squares method and its advantages and disadvantages, and leads to the genetic algorithm, fuzzy logic, multi hierarchical knowledge application in system identification of some modern system identification method. Finally, the paper summarizes the system identification in the future direction of development. Keywords:System identification; least square method; genetic algorithm; fuzzy logic; multi hierarchy 第一章系统辨识概述 系统辨识是研究建立系统数学模型的理论和方法。系统辨识是建模的一种方法，不同的学科领域，对应着不同的数学模型。从某种意义上来说，不同学科的发展过程就是建立他的数学模型的过程。辨识问题可以归结为用一个模型来表示客观系统（或将要构造的系统）本质牲征的一种演算，并用这个模型把对客观系统的理解表示成有用的形式。当然也可以有另外的描述，辨识有三个要素：数据，模型类和准则。辨识就是按照一个准则在一组模型类中
系统辨识报告
系统辨识实验报告
实验一 最小二乘法 1 最小二乘算法 1.1 基本原理 系统模型 )()()()()(11k n k u z B k z z A +=-- a a n n z a z a z a z A ----++++= 221111)( b b n n z b z b z b z B ----+++= 22111)( 最小二乘格式 )()()(k n k h k z T +=θ [][] ?????=------=T n n T b a b a b b a a n k u k u n k z k z k h 11)()1()()1()(θ 对于L k ,,2,1 =，构成线性方程组 L L L n H z +=θ 式中， []T L L z z z z )()2()1( = []T L L n n n n )()2()1( = ? ????? ???? ??--------------= ??????????????=)()1()()1()2()1()2()1()1() 0() 1()0()()2()1(b a b a b a T T T L n L u L u n L z L z n u u n z z n u u n z z L h h h H 参数估计值为 ()L T L L T L LS z H H H 1 ?-=θ 1.2 Matlab 编程 % 基本最小二乘法LS clear;clc A=ones(5,1);B=ones(4,1);%A 为首1多项式，B 中体现时滞（d=1） na=length(A)-1;nb=length(B); load dryer2