当前位置：文档库 › 均生函数与自回归模型的详细介绍

均生函数与自回归模型的详细介绍

一、自回归模型定义

以上介绍的回归模型是根据与其它变量之间的关系来预测一个变量的未来的变化，但是在时间序列的情况下，严格意义上的回归则是根据该变量自身过去的规律来建立预测模型，这就是自回归模型。自回归模型在动态数据处理中有着广泛的应用。

自回归模型的一个最简单的例子是物理中的单摆现象。设单摆在第个摆动周期中最大

摆幅为，在阻尼作用下，在第（）个摆动周期中的最大摆幅将满足关系式

，（3-7-1）

其中为阻尼系数。如果此单摆还受到外界环境的干扰，则在单摆的最大幅值上叠加一个新的随机变量，于是（3-7-1）式为

，（3-7-2）

上式称为一阶自回归模型。当式中满足时，为平稳的一阶自回归模型。将这些概念推广到高阶，有自回归模型

（3-7-3）

式中为模型变量，为模型的回归系数，为模型的随机误差，为模型阶数。

二、自回归模型参数的最小二乘估计

设有按时间顺序排列的样本观测值，阶自回归模型的误差方程为

……

，

记

，，，，

得

，（3-7-4）

的最小二乘解为

（3-7-5）

三、自回归模型阶数的确定

建立自回归模型，需要合理地确定其阶数，一般可先设定模型阶数在某个

范围内，对此范围内各种阶数的模型进行参数估计，同时对参数的显著性进行检验，再利用定阶准则确定阶数，下面采用的§2-4的线性假设法来进行模型定阶。其原理是：

设有观测数据，先设阶数为，建立自回归模型，

（3-7-6）

再考虑模型，将

（3-7-7）

作为（3-7-6）式的条件方程，联合（3-7-6）、（3-7-7）两式，就是模型。

先对（3-7-6）式单独平差，可求得模型参数估计及其残差平方和，记为

，再联合（3-7-6）、（3-7-7）两式，也就是对阶模型进行平差，求得

阶模型参数估计及其残差平方和，记为。按线性假设法的（2-4-14）式，它们的关系可写成

（3-7-8）

在§2-4线性假设法中已证明，在假设成立时，可作分布统计量为

选显著水平，以分子自由度1，分母自由度，查表得，如果，则表示不成立，。阶与阶两模型有显著差别，应采用阶，反

之，则接受，表示阶与阶两模型并无显著差别，应采用阶。例3-7 对某建筑物某个时间段定期进行了36次沉降观测，观测值列于下表：表3-4 沉降观测数据

(1) 确定模型阶数

当=1时，，

求得：。

当=2时，，

求得：。

统计检验：原假设：。

统计量

取显著水平，以自由度1、34查分布表得

因为，故拒绝原假设，即认为一阶与二阶自回归模型有显著的差别。

当=3时，，

求得。

统计检验：原假设：。

统计量

以自由度1、33查分布表得

因为，故拒绝原假设，认为二阶与三阶自回归模型有显著的差别。

当=4时，，

求得。

统计检验：原假设：。

统计量

以自由度1、32查分布表得

因为，故接受原假设，应取模型阶数。

（2）模型参数估计

误差方程

，

参数估计为

，得自回归模型

，

四、自回归模型的预报

设阶自回归模型方程为

当回归系数已确定时，可根据方程进行预报。

第一步预报值为

第二步预报值为

一般，步预报值为

越大，预报准确性越差，故应尽可能小。

例3-8，同例3-7。试预报第37次及38次的高程值。

解：，

线性回归模型

设一个随机变量y与m个自变量之间存在线性形式的统计相关关

系，因为它们并不是确定的函数关系，即使给定了之值也不唯一决定y值，因此它们之间的表达式应写成

(3-2-1)

式中是随机误差，它是变量，即的期望，方差。参数，称为回归方程的系数。

取（3-2-1）式的期望和方差

(3-2-2)

（3-2-3）

（3-2-2）式说明是对的平均影响，

随机变量。

（3-2-1）式是线性回归模型，（3-2-2）式是线性回归理论模型。

为了估计模型参数，需要对变量进行n次观测，得n组观测数据

（），代入方程（3-2-1）有n个方程。

（3-2-4）其矩阵形式为

（3-2-5）

这是回归参数估计的函数模型，其随机模型为

（3-2-6）

式中I为单位阵。Y为观测值向量，为待求的参数向量。

当观测数时，可用最小二乘原则估计参数，设其估值为，代入（3-2-2）

式可得E（y）的估值，即

（3-2-7）称为线性回归方程，给定一组数由上式求出称为预报值。

如果将回归参数估计的函数模型（3-2-5）和随机模型（3-2-6）与测量中间接平差函数模型和随机模型相比较，可以看出，在不考虑模型物理性质前提下，两者的参数最小二乘估计模型形式完全一致，从这个意义上来说，线性回归模型的参数估计也可看成是一种等权观测的间接平差问题。因此，我们学过的间接平差理论和方法完全可以用于回归模型的参数估计。

、一元线性回归参数估计

先以一个例子说明一元线性回归问题。

例3-1，某水电站为了监测和预报库水位和大坝坝基沉陷量之间的关系，统计了某年12个月的月平均库水位和沉陷量的数据如表3-1所示，试分析库水位与坝基沉陷量之间的关系。

表3-1 观测数据

由图认为，这些散点的分布可用一条直线方程表

示，即

，这是一元回归分析问题。

图3-1 下面阐述参数估计原理。为了估计参数

、

，设对y 进行n 次独立观测

，有

（3-3-1）

这是一元回归参数估计的函数模型，相应的理论模型为

（3-3-2）

在回归分析中，假定自变量是非随机变量，且没有测量误差，这就使我们研究的问题大大简化，令

，，

，

则（3-3-1）式可写成矩阵形式：

（3-3-3）设为误差的负估值，称为Y的改正数或残差，为回归参数的估值，

则有误差方程

（3-3-4）

根据最小二乘原理，对求自由极值，得

，

即

将误差方程（3-3-4）代入上式，即得法方程为

（3-3-5）

式中

，，

令

，，

，（3-3-6）

，

则

，，（3-3-7）

由此可得参数的最小二乘估值为

（3-3-8）或

，

，，（3-3-9）

最后，一元线性回归方程为

（3-3-10）

相应的残差

（3-3-11）

观测值的方差估值为

，

（3-3-12）

参数估值的精度评定。按间接平差理论由表1-2知，的协因数阵为

，（3-3-13）即

，，，（3-3-14）

的方差估值为

，（3-3-15）

例3-2，用例3-1观测的数据，求出表示大坝库水位和坝基沉陷量之间的一元线性回归方程。

解：（1）按（3-3-9）式计算、。

，，

，

故回归方程为

（2）按（3-3-12）、（3-3-15）式评定参数估值的精度

，

二、多元线性回归的最小二乘估计。

一元线性回归模型中只有一个自变量，但在实际问题中，影响变量Y的因素往往不只一个，而包含多种影响的多个自变量，例如在大坝变形监测中，影响大坝的位移Y的因素有温度、水位压力等多个自变量，这就是多元回归问题，多元回归中最简单的是多元线性回归，其研究方法和思想与一元线性回归相同。

多元线性回归模型为

（3-3-16）其中是未知参数，是m个可测量并可控制的非随机变量，是随机误差，和一元线性回归分析一样，假定。

为了估计回归参数及，我们进行了n次观测，得n组观测数据，，它们应有的回归关系可写成如下形式。

……

(3-3-17)

此即为多元线性回归的函数模型。

若记

，，，

则有

（3-3-18）

由个未知的回归参数的最小二乘估值

。可组成如下误差方程：

(3-3-19)

在最小二乘估计的准则下，得法方程为：

（3-3-20）

可解得

（3-3-21）

求得回归参数后，可得到多元线性回归方程为

(3-3-22) 以及残差

（3-3-23）

参数估值的精度评定，的协因数及方差为

，

(3-3-24)

，

(3-3-25)

观测值y的方差估值为

（3-3-26）

参数估值的函数及V的精度估计由（3-3-22）式知的方差为

（3-3-26）因为V与不相关，即（见表1-2）故由（3-3-23）式

，可得

（3-3-28）

自回归AR模型、移动平均MA模型及自回归移动平均ARMA模型的比较分析

自回归AR模型、移动平均MA模型与自回归移动平均ARMA模型的比较分析系统中某一因素变量的时间序列数据没有确定的变化形式，也不能用时间的确定函数描述，但可以用概率统计方法寻求比较合适的随机模型近似反映其变化规律。(自变量不直接含有时间变量,但隐含时间因素) 1．自回归AR(p)模型（R：模型的名称P：模型的参数）（自己影响自己，但可能存在误差，误差即没有考虑到的因素） (1)模型形式（εt越小越好，但不能为0：ε为0表示只受以前Y的历史的影响不受其他因素影响） yt=φ1yt-1+φ2yt-2+……+φpyt-p+εt 式中假设：yt的变化主要与时间序列的历史数据有关，与其它因素无关； εt不同时刻互不相关，εt与yt历史序列不相关。式中符号：p模型的阶次，滞后的时间周期，通过实验和参数确定；yt当前预测值，与自身过去观测值yt-1、…、yt-p是同一序列不同时刻的随机变量，相互间有线性关系，也反映时间滞后关系； yt-1、yt-2、……、yt-p同一平稳序列过去p个时期的观测值； φ1、φ2、……、φp自回归系数，通过计算得出的权数，表达yt依赖于过去的程度，且这种依赖关系恒定不变； εt随机干扰误差项，是0均值、常方差σ2、独立的白噪声序列，通

过估计指定的模型获得。 (2)识别条件当k>p时，有φk=0或φk服从渐近正态分布N(0,1/n)且(|φk|>2/n1/2)的个数≤4.5%，即平稳时间序列的偏相关系数φk为p步截尾，自相关系数rk逐步衰减而不截尾，则序列是AR(p)模型。实际中，一般AR过程的ACF函数呈单边递减或阻尼振荡，所以用PACF函数判别(从p阶开始的所有偏自相关系数均为0)。(3)平稳条件一阶：|φ1|<1。二阶：φ1+φ2<1、φ1-φ2<1、|φ2|<1。φ越大，自回归过程的波动影响越持久。 (4)模型意义仅通过时间序列变量的自身历史观测值来反映有关因素对预测目标的影响和作用，不受模型变量相互独立的假设条件约束，所构成的模型可以消除普通回归预测方法中由于自变量选择、多重共线性等造成的困难。 2．移动平均MA(q)模型 (1)模型形式 yt=εt-θ1εt-1-θ2εt-2-……-θpεt-p (2)模型含义用过去各个时期的随机干扰或预测误差的线性组合来表达当前预测值。 AR(p)的假设条件不满足时可以考虑用此形式。

向量自回归模型简介

一、Var模型的基本介绍向量自回归模型（Vector Autoregressive Models，VAR）最早由Sims（1980）提出。他认为，如果模型设定和识别不准确，那么模型就不能准确地反应经济系统的动态特性，也不能很好地进行动态模拟和政策分析。因此，VAR模型通常使用最少的经济理论假设，以时间序列的统计特征为出发点，通常对经济系统进行冲击响应（Impulse-Response）分析来了解经济系统的动态特性和冲击传导机制。由于VAR模型侧重于描述经济的动态特性，因而它不仅可以验证各种经济理论假设，而且在政策模拟上具有优越性。 VAR模型主要用于替代联立方程结构模型，提高经济预测的准确性。用联立方程模型研究宏观经济问题，是当前世界各国经济学者的一种通用做法，它把理论分析和实际统计数据结合起来，利用现行回归或非线性回归分析方法，确定经济变量之间的结构关系，构成一个由若干方程组成的模型系统。联立方程模型适合于经济结构分析，但不适合于预测：联立方程模型的预测结果的精度不高，其主要原因是需要对外生变量本身进行预测。与联立方程模型不同，VAR模型相对简洁明了，特别适合于中短期预测。目前，VAR模型在宏观经济和商业金融预测等领域获得了广泛应用。二、VAR模型的设定 VAR模型描述在同一样本期间内的n个变量（内生变量）可以作为它们过去值的线性函数。一个VAR(p)模型可以写成为：或：其中：c是n × 1常数向量，A i是n × n矩阵，p是滞后阶数，A(L)是滞后多项式矩阵，L是滞后算子。是n × 1误差向量，满足： 1. —误差项的均值为0 2. Ω—误差项的协方差矩阵为Ω（一个n × 'n正定矩阵） 3.（对于所有不为0的p都满足）—误差项不存在自相关虽然从模型形式上来看比较简单，但在利用VAR模型进行分析之前，对模型的设定还需要意以下两点：一是变量的选择。理论上来讲，既然VAR模型把经济作为一个系统来研究，那么模型中

移动自回归平均模型分析中国股市价格走势

利用自回归移动平均模型分析中国股市价格走势摘要：股市可以广泛地动员，积聚和集中社会的闲散资金，为国家经济建设发展服务，扩大生产建设规模，推动经济的发展，并收到“利用内资不借内债”的效果。也可以促进我国经济体制改革的深化发展，可以扩大我国利用外资的渠道和方式，增强对外的吸纳能力。改革开放以来，经济发展为广大的投资者和人民大众带来很大的财富，因此投身股市的股民与机构越来越多。维持我国股市的正常运行，保障广大股民的利益，探究股票市场的发展规律，我们选取上海证券交易所的开盘价作为研究对象，通过建立ARMA 模型和GARCH 模型，对数据进行研究分析，研究股市价格走势与其前期的价格之间的联系。其结果对于引导投资者理性投资，认真分析股市走势具有一定的指导意义。关键词：股票市场自回归移动平均模型价格走势一、前言改革开放以来，中国经济增长获得了令世人瞩目的成就。许多中外学者对中国经济增长的源泉进行了深入的研究，但是迄今为止各类研究多是侧重于各个时期投资水平或投资效率对经济增长的贡献，忽略了金融发展在经济增长中的作用，而金融部门对时间经济部门的影响举足轻重。众多学者从理论分析和实证检验的角度针对个体国家和多个国家以及不同行业和企业，并采用各种数据分析方法对金融发展与经济增长之间的关系进行深入和广泛的研究。作为金融发展重要组成部分之一的股票市场自上世纪八十年代以来在全球范围内得到了日新月异的发展。我国证券市场从九十年代初建立以来也获得长足发展。股市发展对经济增长的促进作用大于传统的金融机构——银行的作用。本论文根据最近一段时间上证指数的收盘价（P ）为数据来源，通过建立ARMA 模型和GARCH 模型，对数据进行研究分析，研究我国股票价格走势。这对于引导投资者理性投资具有一定的指导意义。二、建立模型首先要建立自回归移动平均模型，将上海证券交易所近日的收盘价作为时间序列数据，建立ARMA （p,q ）模型为： t 11 22 1122 Y ... ... t t p t p t t q t q t c Y Y Y 建立的GARCH （p,q ）模型为： 2 2222 2201122q 1122 p =+u u +u + t t t q t t t p …… 通过登录上海证券交易所网站，查询到上证指数连续交易日的每日收盘价（P ），从中选取自2012年2月15日到2012年4月27日之间共50个交易日的收盘价的相关数据，见表1-1所示。将数据导入Eviews 中，对数据进行相关分

自回归移动平均模型

第二章自回归移动平均模型一些金融时间序列的变动往往呈现出一定的平稳特征，由Box 和Jenkins 创立的ARMA 模型就是借助时间序列的随机性来描述平稳序列的相关性信息，并由此对时间序列的变化进行建模和预测。第一节 ARMA 模型的基本原理 ARMA 模型由三种基本的模型构成：自回归模型（AR ，Auto-regressive Model ），移动平均模型（MA ，Moving Average Model ）以及自回归移动平均模型（ARMA ，Auto-regressive Moving Average Model ）。 2.1.1 自回归模型的基本原理 1．AR 模型的基本形式 AR 模型的一般形式如下： t p t p t t t y y y y εφφφ+++++=---Λ2211c 其中，c 为常数项， p φφφΛ21, 模型的系数，t ε为白噪声序列。我们称上述方程为p 阶自回归模型，记为AR(p )。 2．AR 模型的平稳性此处的平稳性是指宽平稳，即时间序列的均值，方差和自协方差均与时刻无关。即若时间序列}{t y 是平稳的，即μ= )(t y E ，2)(σ=t y Var ，2),(s s t t y y Cov σ=-。为了描述的方便，对式（2.1）的滞后项引入滞后算子。若1-=t t x y ，定义算子“L ”，使得1 -==t t t x Lx y ， L 称为滞后算子。由此可知，k t t k x x L -=。对于式子（2.1），可利用滞后算子改写为： t t p p t t t y L y L Ly y εφφφ+++++=Λ221c 移项整理，可得： t t p p y L L L εφφφ+=----c )1(221Λ AR(p )的平稳性条件为方程012 21=----p p L L L φφφΛ的解均位于单位圆外。 3．AR 模型的统计性质（1）AR 模型的均值。假设AR(p )模型是平稳的，对AR(p )模型两边取期望可得： ) c (E )(Ε2211t p t p t t t y y y y εφφφ+++++=---Λ 根据平稳序列的定义知，μ=)(E t y ，由于随即干扰项为白噪声序列，所以0)(E =t ε，因此上式可化简为： 021)1(φμφφφ=----p Λ 所以，p φφφφμ----= Λ210 1

多元线性回归模型的各种检验方法

对多元线性回归模型的各种检验方法对于形如 u X X X Y k k +++++=ββββ 22110 （1）的回归模型，我们可能需要对其实施如下的检验中的一种或几种检验：一、对单个总体参数的假设检验：t 检验在这种检验中，我们需要对模型中的某个（总体）参数是否满足虚拟假设0 H ：j j a =β，做出具有统计意义（即带有一定的置信度）的检验，其中j a 为某个给定的已知数。特别是，当j a =0时，称为参数的（狭义意义上的）显著性检验。如果拒绝0H ，说明解释变量j X 对被解释变量Y 具有显著的线性影响，估计值j β?才敢使用；反之，说明解释变量j X 对被解释变量Y 不具有显著的线性影响，估计值j β?对我们就没有意义。具体检验方法如下：（1）给定虚拟假设 0H ：j j a =β；

（2）计算统计量 )?(?)?()(?j j j j j j Se a Se E t βββββ-=-= 的数值； 11?)?(++-==j j jj jj j C C Se 1T X)(X ，其中σβ （3）在给定的显著水平α下（α不能大于1.0即 10%，也即我们不能在置信度小于90%以下的前提下做结论），查出双尾t （1--k n ）分布的临界值2/αt ；（4）如果出现 2/αt t >的情况，检验结论为拒绝 0H ；反之，无法拒绝0H 。 t 检验方法的关键是统计量 )?(?j j j Se t βββ-=必须服从已知的t 分布函数。什么情况或条件下才会这样呢？这需要我们建立的模型满足如下的条件（或假定）：（1）随机抽样性。我们有一个含n 次观测的随机样(){}n i Y X X X i ik i i ,,2,1:,,,,21 =。这保证了误差u 自身的随机性，即无自相关性，

资料：向量自回归模型__详解

第十四章向量自回归模型本章导读：前一章介绍了时间序列回归，其基本知识为本章的学习奠定了基础。这一章将要介绍的是时间序列回归中最常用的向量自回归，它独有的建模优势赢得了人们的广泛喜爱。 14.1 VAR 模型的背景及数学表达式 VAR 模型主要应用于宏观经济学。在VAR 模型产生之初，很多研究者（例如Sims ，1980 和Litterman ，1976；1986）就认为，VAR 在预测方面要强于结构方程模型。VAR 模型产生的原因在于20世纪60年代一大堆的结构方程并不能让人得到理想的结果，而VAR 模型的预测却比结构方程更胜一筹，主要原因在于大型结构方程的方法论存在着更根本的问题，并且结构方程受到最具挑战性的批判来自卢卡斯批判，卢卡斯指出，结构方程组中的“决策规则”参数，在经济政策改变时无法保持稳定，即使这些规则本身也是正确的。因此宏观经济建模的方程组在范式上显然具有根本缺陷。VAR 模型的研究用微观化基础重新表述宏观经济模型的基本方程，与此同时，对经济变量之间的相互关系要求也并不是很高。我们知道经济理论往往是不能为经济变量之间的动态关系提供一个严格的定义，这使得在解释变量过程中出现一个问题，那就是内生变量究竟是出现在方程的哪边。这个问题使得估计和推理变得复杂和晦涩。为了解决这一问题，向量自回归的方法出现了，它是由sim 于1980年提出来的，自回归模型采用的是多方程联立的形式，它并不以经济理论为基础，在模型的每一个方程中，内生变量对模型的全部内生变量的滞后项进行回归，从而估计全部内生变量的动态关系。向量自回归通常用来预测相互联系的时间序列系统以及分析随机扰动项对变量系统的动态影响。向量自回归的原理在于把每个内生变量作为系统中所有内生变量滞后值的函数来构造模型，从而避开了结构建模方法中需要对系统每个内生变量关于所有内生变量滞后值的建模问题。一般的VAR(P)模型的数学表达式是。 11011{,}t t p t p t t q t q t y v A y A y B x B x B x t μ----=++???++++???++∈-∞+∞ （14.1）其中1t t Kt y y y =??????（）表示K ×1阶随机向量， 1A 到p A 表示K ×K 阶的参数矩阵， t x 表示M ×1阶外生变量向量， 1B 到q B 是K ×M 阶待估系数矩阵，并且假定t μ是白噪声序列；即， ()0,t E μ= '(),t t E μμ=∑并且'()0,t s E μμ=)t s ≠（。在实际应用过程之中，由于滞后期p 和q 足够大，因此它能够完整的反映所构造模型的全部动态关系信息。但这有一个严重的缺陷在于，如果滞后期越长，那么所要估计的参数就会变得越多，自由度就会减少。因此需要在自由度与滞后期之间找出一种均衡状态。一般的准则就是取许瓦咨准则（SC ）和池此信息准则(AIC)两者统计量最小时的滞后期，其统计量见式(14-2)与式（14-3）。 2/2/AIC l n k n =-+ （14.2）

自回归分布滞后模型

三、实验内容及要求（1）实验内容运用ADL模型研究1992年1月到1998年12月我国城镇居民月对数人均生活费支出yt和对数可支配收入xt之间的长期稳定关系。（2）实验要求在认真理解模型应用条件的基础上，通过实验掌握ADL模型的实际应用方法，并熟悉Eniews的具体操作过程。四、实验指导（1）数据录入打开Eviews软件，选择“File”菜单中的“New--Workfile”选项，在“Workfile structure type”栏选择“Dated-regular frequency”，在“Data specification”栏中“Frequency”中选择“Monthly”即月份数据，起始时间输入1992m1即1992年1月份，止于1998m12，点击ok，见图6-1，这样就建立了一个工作文件。图6-1 建立工作文件窗口

自回归移动平均模型

向量自回归模型讲义

第8章V AR模型与协整 1980年Sims提出向量自回归模型（vector autoregressive model）。这种模型采用多方程联立的形式，它不以经济理论为基础，在模型的每一个方程中，内生变量对模型的全部内生变量的滞后值进行回归，从而估计全部内生变量的动态关系。 8.1向量自回归（V AR）模型定义 8.1.1 模型定义 V AR模型是自回归模型的联立形式，所以称向量自回归模型。假设y1t，y2t之间存在关系，如果分别建立两个自回归模型 y1, t= f (y1, t-1, y1, t-2, …) y2, t= f (y2, t-1, y2, t-2, …) 则无法捕捉两个变量之间的关系。如果采用联立的形式，就可以建立起两个变量之间的关系。V AR模型的结构与两个参数有关。一个是所含变量个数N，一个是最大滞后阶数k。以两个变量y1t，y2t滞后1期的V AR模型为例，

y 1, t = c 1 + π11.1 y 1, t -1 + π12.1 y 2, t -1 + u 1 t y 2, t = c 2 + π21.1 y 1, t -1 + π22.1 y 2, t -1 + u 2 t (8.1) 其中u 1 t , u 2 t ~ IID (0, σ 2), Cov(u 1 t , u 2 t ) = 0。写成矩阵形式是， ??????t t y y 21=12c c ??????+??????1.221 .211.121.11ππππ??????--1,21,1t t y y +?? ? ???t t u u 21 (8.2) 设， Y t =??????t t y y 21, c =12c c ?????? , ∏1 =??????1.221.211.121.11ππππ, u t =??? ???t t u u 21, 则， Y t = c + ∏1 Y t -1 + u t (8.3) 那么，含有N 个变量滞后k 期的V AR 模型表示如下： Y t = c + ∏1 Y t -1 + ∏2 Y t -2 + … + ∏k Y t -k + u t , u t ~ IID (0, Ω) (8.4) 其中， Y t = (y 1, t y 2, t … y N , t )' c = (c 1 c 2 … c N )' ∏j = ???? ?? ????????j NN j N j N j N j j j N j j ..2.1.2.22.21.1.12.11πππππππππΛ M O M M ΛΛ, j = 1, 2, …, k u t = (u 1 t u 2,t … u N t )',

第八章--统计回归模型

第八章统计回归模型回归分析是研究一个变量Y 与其它若干变量X 之间相关关系的一种数学工具.它是在一组试验或观测数据的基础上，寻找被随机性掩盖了的变量之间的依存关系.粗略的讲，可以理解为用一种确定的函数关系去近似代替比较复杂的相关关系.这个函数称为回归函数. 回归分析所研究的主要问题是如何利用变量X 、Y 的观察值(样本)，对回归函数进行统计推断，包括对它进行估计及检验与它有关的假设等. 回归分析包含的内容广泛.此处将讨论多项式回归、多元线性回归、非线性回归以及逐步回归. 一、多项式回归 (1) 一元多项式回归一元多项式回归模型的一般形式为εβββ++++=m m x x y ...10. 如果从数据的散点图上发现y 与x 呈现较明显的二次(或高次)函数关系，则可以选用一元多项式回归. 1. 用函数polyfit 估计模型参数，其具体调用格式如下： p=polyfit(x,y,m) p 返回多项式系数的估计值；m 设定多项式的最高次数；x ，y 为对应数据点值. [p,S]=polyfit(x,y,m) S 是一个矩阵，用来估计预测误差. 2. 输出预估值与残差的计算用函数polyval 实现，其具体调用格式如下： Y=polyval(p,X) 求polyfit 所得的回归多项式在X 处的预测值Y . [Y ,DELTA]=polyval(p,X,S) p ，S 为polyfit 的输出，DELTA 为误差估计.在线性回归模型中，Y ±DELTA 以50%的概率包含函数在X 处的真值. 3. 模型预测的置信区间用polyconf 实现，其具体调用格式如下： [Y ,DELTA]=polyconf(p,X,S,alpha) 求polyfit 所得的回归多项式在X 处的预测值Y 及预测值的显著性为1-alpha 的置信区间Y±DELTA ，alpha 缺省时为0.05. 4. 交互式画图工具polytool ，其具体调用格式如下： polytool(x,y,m)； polytool(x,y,m,alpha)；用m 次多项式拟合x ，y 的值，默认值为1，alpha 为显著性水平，默认值为0.05. 例1 观测物体降落的距离s 与时间t 的关系，得到数据如下表，求s . 解根据数据的散点图，应拟合为一条二次曲线.选用二次模型，具体代码如下： %%%输入数据

向量自回归与ARCH、GARCH模型

向量自回归预测是计量经济分析的重要部分，宽泛的说，依据时间序列数据进行经济预测的方法有五种：（1）指数平滑法；（2）单一方程回归模型；（3）联立方程回归模型；（4）单整自回归移动平均模型；（5）向量自回归模型（V AR ，vector autoregression ）。一、V AR 的估计 V AR 方法论同时考虑几个内生变量，它看起来类似于联立方程模型。但是，在V AR 模型中，每一个内生变量都是由它的滞后或过去值以及模型中所有其他内生变量的滞后或过去值来解释。通常模型中没有任何外生变量。在联立方程模型中，我们把一些变量看作内生的，而另一些变量看作外生的或预定的，在估计这些模型之前，必须肯定方程组中的方程是可识别的，而为达到识别的目的，常常要假定某些预定变量仅出现在某些方程之中，这些决定往往是主观的，因此这种方法受到C.A.西姆斯（Christopher Sims ）的严厉批评，他认为如果在一组变量中有真实的联立性，这些变量就应该平等对待，而不应事先区分内生和外生变量，以此思路，其推出了V AR 模型。例我们想考虑中国的货币（M1）与利率（R ）的关系。如果通过格兰杰因果关系检验，我们无法拒绝两者之间有双向因果关系的假设，即M1 影响R ，而R 反过来又影响M1，这种情形是应用V AR 的理想情形。假定每个方程都含有M1 和R 的k 个滞后值作为回归元，每个方程都可以用OLS 去估计，实际模型如下： 11111k k t j t j j t j t j j M M R u αβγ--===+++∑∑

2111k k t j t j j t j t j j R M R u αθλ--=='=+++∑∑ 其中u 是随机误差项，在V AR 术语中称为脉冲值（impulses ）。在估计以上方程时，必须先决定最大滞后长度，这是一个经验问题，包括过多的滞后项将消耗自由度，而且会引入多重共线性的可能性，而包含过少的滞后值将导致设定误差，解决这个问题的方法之一就是使用赤池、施瓦茨或汉南—奎因准则中的某一个准则，并选择准则最低值的模型，因此，这个过程中试错法就不可避免。值得注意的是，向量自回归模型中同时引入同一变量的几个滞后项，可能因多重共线性而使每个估计系数在统计上都不显著，但基于F 检验它们可能是联合显著的。二、V AR 建模的一些问题 V AR 的倡导者强调此法有如下的优点：（1）方法简单，无需决定哪些变量是内生的，哪些变量是外生的，V AR 中的全部变量都是内生的。（2）估计简单：常用的OLS 法可以用于逐个估计每一个方程。（3）在许多案例中，此方法得到的预测优于用更复杂的联立方程模型得到的预测。但V AR 建模的批评者指出如下的一些问题： 1、不同于联立方程模型，V AR 利用较少的先验信息，所有是缺乏理论支撑的，因为在联立方程中排除或包含某些变量，对模型的识别起到关键性作用。 2、由于重点放到预测，V AR 模型不适合用于政策分析。 3、实际上，对V AR 建模最大的挑战在于选择适当滞后长度。假

自回归分布滞后模型(ADL)的运用实验指导

实验六自回归分布滞后模型（ADL ）的运用实验指导一、实验目的理解ADL 模型的原理与应用条件，学会运用ADL 模型来估计变量之间长期稳定关系。理解从经济理论上来说，两个经济变量之间的确有长期关系采用使用该模型进行估计。理解ADL 模型的优点：不管回归项是不是1阶单整或平稳都可以进行检验和估计。而进行标准的协整分析前，必须把变量分类成(0)I 和(1)I 。二、基本概念 Jorgenson(1966)提出的（,p q ）阶自回归分布滞后模型ADL(autoregressive distributed lag)：011111 i t t p t p t t q t q i t i i y y y ταφφεθεθεβ-----='=++++--+∑x ，其中t i -x 是滞后i 期的外生变量向量（维数与变量个数相同），且每个外生变量的最大滞后阶数为i τ，i β是参数向量。当不存在外生变量时，模型就退化为一般ARMA （,p q ）模型。如果模型中不含有移动平均项，可以采用OLS 方法估计参数，若模型中含有移动平均项，线性OLS 估计将是非一致性估计，应采用非线性最小二乘估计。三、实验内容及要求（1）实验内容运用ADL 模型研究1992年1月到1998年12月我国城镇居民月对数人均生活费支出yt 和对数可支配收入xt 之间的长期稳定关系。（2）实验要求在认真理解模型应用条件的基础上，通过实验掌握ADL 模型的实际应用方法，并熟悉Eniews 的具体操作过程。四、实验指导（1）数据录入打开Eviews 软件，选择“File”菜单中的“New --Workfile”选项，在“Workfile structure type ”栏选择“Dated-regular frequency ”，在“Data specification ”栏中“Frequency ”中选择“Monthly ”即月份数据，起始时间输入1992m1即1992年1月份，止于1998m12，点击ok ，见图6-1，这样就建立了一个工作文件。图6-1 建立工作文件窗口

自回归分布滞后模型

案例六自回归分布滞后模型（ADL ）的运用实验指导一、实验目的理解ADL 模型的原理与应用条件，学会运用ADL 模型来估计变量之间长期稳定关系。理解从经济理论上来说，两个经济变量之间的确有长期关系采用使用该模型进行估计。理解ADL 模型的优点：不管回归项是不是1阶单整或平稳都可以进行检验和估计。而进行标准的协整分析前，必须把变量分类成(0)I 和(1)I 。二、基本概念 Jorgenson(1966)提出的（,p q ）阶自回归分布滞后模型ADL(autoregressive distributed lag)：011111 i t t p t p t t q t q i t i i y y y ταφφεθεθεβ-----='=++++--+∑x ，其中t i -x 是滞后i 期的外生变量向量（维数与变量个数相同），且每个外生变量的最大滞后阶数为i τ，i β是参数向量。当不存在外生变量时，模型就退化为一般ARMA （,p q ）模型。如果模型中不含有移动平均项，可以采用OLS 方法估计参数，若模型中含有移动平均项，线性OLS 估计将是非一致性估计，应采用非线性最小二乘估计。三、实验内容及要求（1）实验内容运用ADL 模型研究1992年1月到1998年12月我国城镇居民月对数人均生活费支出yt 和对数可支配收入xt 之间的长期稳定关系。（2）实验要求在认真理解模型应用条件的基础上，通过实验掌握ADL 模型的实际应用方法，并熟悉Eniews 的具体操作过程。四、实验指导（1）数据录入打开Eviews 软件，选择“File”菜单中的“New --Workfile”选项，在“Workfile structure type ”栏选择“Dated-regular frequency ”，在“Data specification ”栏中“Frequency ”中选择“Monthly ”即月份数据，起始时间输入1992m1即1992年1月份，止于1998m12，点击ok ，见图6-1，这样就建立了一个工作文件。图6-1 建立工作文件窗口

多种类型地回归模型

数学建模第二次作业例一：（线性模型）针叶松数据该数据包含70棵针叶松的测量数据，其中y 表示体积（单位立方英尺），x 1为树的直径（单位：英寸），x 2为树的高度（单位：英尺）。 x 1 4.6 4.4 5.0 5.1 5.1 … 19.4 23.4 x 2 33 38 40 49 37 … 94 104 解答：（1）问题分析：首先根据这组数据做自变量与因变量之间的关系图，如图1.1 。由图可知y 随x 1、x 2的增加而增加，从而可大致判断y 与x 1，x 2呈线性关系。判断是线性回归模型后进行细节的量纲分析，得出具体模型，从而利用已知的线性模型，借助R 软件求解出估计量0β，1β，β2的值得出最终结果。图1.1 （2）模型基础设变量Y 与变量X 1,X 2,…,XP 间有线性关系 Y=εββββ+++++P P X X X (22110) 其中N ~ε(0,2σ),P βββ,...,,10和2σ是未知参数，p ≥2，称上述模型为多元线性回归模型，则模型可以表示为： n i x x y i ip p i i ,...,2,1,...110=++++=εβββ 其中() 2,0σεN i ∈，且独立分布即令

? ? ?? ????????=n y y y y 21，??????????????=p ββββ 10，??? ??? ? ???? ???=np n n p p x x x x x x x x x X ...1...1 (12) 1 222 2111211 ，? ??? ????????=n εε εε 21 则多元线性回归模型可表示为 εβ+=X Y , 其中Y 是由响应变量构成的n 维向量，X 是n ?（p+1）阶设计矩阵，β是p+1维向量，并且满足 E （ε）=0，Var （ε）=2σI n 与一元线性回归类似，求参数β的估计值β ?，就是求最小二乘函数 Q （β）= ()()ββX y X y T -- 达到最小的β的值。 β的最小二乘估计 () y X X X T T 1 ?-=β 从而得到经验回归方程 P P X X Y βββ ????11+++= （3）问题求解：由于体积与长度的量纲不一致，为了使等式两边量纲统一，首先利用excel 软件对数据进行预处理，即对y 进行三次开方的处理。其中，选择线的性模型为：i i i i x x y εβββ+++=221103，i=1,…,70 3 y 计算结果如下表1.1 0β=0.0329 1β=0.1745 2β=0.0142

自回归移动平均模型解析

第二章自回归移动平均模型一些金融时间序列的变动往往呈现出一定的平稳特征，由模型就是借助时间序列的随机性来描述平稳序列的相关性信息, 行建模和预测。第一节ARMA 模型的基本原理 ARMA 模型由三种基本的模型构成：自回归模型( AR, Auto-regressive Model )，移动平均模型(MA ，Moving Average Model )以及自回归移动平均模型 (ARMA ，Auto-regressive Moving Average Model )。 2.1.1自回归模型的基本原理 1. AR 模型的基本形式 AR 模型的一般形式如下：办乂「1办」? 2办上 ....... \%申；t 其中，c 为常数项，'1, 2^ \模型的系数，；t 为白噪声序列。我们称上述方程为 p 阶自回归模型，记为 AR(p )。 2. AR 模型的平稳性此处的平稳性是指宽平稳，即时间序列的均值，方差和自协方差均与时刻无关。即若时间序列｛%｝是平稳的，即 E(y t)=^, Var (y t 2 , Cov(y t , y —) = 。为了描述的方便，对式(2.1 )的滞后项引入滞后算子。若 y t 二x t j ，定义算子“ L ”， r . k 使得y t =Lx t =为4 L 称为滞后算子。由此可知， L 人=X t±。对于式子(2.1),可利用滞后算子改写为： y t =c 丄％ 2 L 2% p L P % t 移项整理，可得： (1- 丄- 2L 2 - - p L p )y t 二c ；t Box 和 Jenkins 创立的 ARMA 并由此对时间序列的变化进

自回归综合移动平均预测模型

自回归综合移动平均预测模型数据采集本文选取了2011年某省电力系统从1月1日开始之后80天的电力负荷观测，如表一。第n天负荷量第n天负荷量第n天负荷量第n天负荷量 1 2565957.38 21 2705368.6 41 2429907.99 61 2743833.56 2 2588923.0 3 22 2677964.55 42 2476962.26 62 2736933.52 3 2595037.39 23 2667444.01 43 2576255. 4 63 2773791.8 4 2621899.1 5 24 2659986.34 44 2614097.2 64 2748178.37 5 2605604.4 25 2646095.54 45 2680843.85 65 2737334.22 6 2597404.13 26 2652315.14 46 2775056.43 66 2720053.61 7 2363386.42 27 2641570.43 47 2728907.25 67 2700061.15 8 2620185.38 28 2584430.88 48 2611172.72 68 2709553.04 9 2615940.83 29 2474001.24 49 2601989.82 69 2681309.47 10 2615480.96 30 2396095.97 50 2668757.4 70 2683185.56 11 2612348.58 31 2288598.13 51 2677390.06 71 2661837.7 12 2610054.23 32 2166399.62 52 2695802.63 72 2644097.64 13 2610964.36 33 2062979.7 53 2689571.21 73 2685694.93 14 2637653.21 34 1997281.18 54 2654423.52 74 2702991.02 15 2633388.14 35 1925136.26 55 2642984.00 5 75 2687024.37 5 16 2640311.3 36 1970438.06 56 2712142.78 76 2680354.45 17 2678530.11 37 1976557.67 8 57 2754918.32 77 2682596.37 18 2687189.9 38 2050309.54 58 2758839.28 78 2695560.6 19 2694733.01 39 2154488.52 59 2817728.94 79 2674342.97 20 2709637.21 8 40 2384011.84 60 2759327.72 80 2685891.98 表1 数据处理利用spass绘制时间序列原始数据的散点图

(整理)自回归移动平均过程

A . 自回归移动平均过程(),ARMA p q 理论部分 1．基本概念 (),ARMA p q 表达式为： 112211.......t t t p t p t t q t q Y c Y Y Y φφφεθεθε-----=++++++++ （1）写成滞后算子的形式为： ()()2 1 2 1 1....1...p q p t q t L L L Y c L L φφφθθε----=++++ （2）两侧同时除以()2121....p p L L L φφφ----，从而得到 ()t t Y L μψε=+ （3）其中 ()() () 1 2 1 2 1...1....q q p p L L L L L L θθψφφφ+++= ---- ()12/1....p c μφφφ=---- j j ψ ∞ =<∞∑ 从而可以发现，(),ARMA p q 过程的平稳性完全取决于回归参数()12,,...,p φφφ而与移动平均参数无关。即(),ARMA p q 过程的平稳性条件为特征方程： 2121....0p p z z z φφφ----= 的根在单位圆外。（1）变形： ()()()112211.......t t t p t p t t q t q Y Y Y Y μφμφμφμεθεθε------=-+-++-++++ （4）两边同时乘以()t j Y μ--，求期望得到自协方差。当j q >时，结果方程的形式p 阶自协方差形式： 1122....j j j p j p γφγφγφγ---=+++ 1,2,.....j q q =++ （5）从而解为 1122....j j j j p p h h h γλλλ=+++ （6） j q ≤时的自协方差函数比较复杂，并且不具有应用意义。不过(),ARMA p q 过程

自回归移动平均程

————————————————————————————————作者：————————————————————————————————日期：