非平稳时间序列模型

关于非平稳时间序列模型引言：前面我们讨论的是平稳时间序列的建模和预测方法，即所讨论的时间序列都是宽平稳的。一个宽平稳的时间序列的均值和方差都是常数，并且它的协方差有时间上的不变性。但是许多经济领域产生的时间序列都是非平稳的，非平稳时间序列会出现各种情形，如它们具有非常数的均值μt，或非常数的二阶矩，如非常数方差σt2，或同时具有这两种情形的非平稳序列。(长期趋势、季节性变化)第2页,共127页，2024年2月25日，星期天例1①美国1961年1月至1985年12月16—19岁女性失业人数的月度序列如图所示：显然，均值水平是随时间改变的.第3页,共127页，2024年2月25日，星期天②美国1871年至1979年的年度烟草生产量序列如图所示：均值水平是随时间改变的，同时方差也随均值水平的增长而增长.第4页,共127页，2024年2月25日，星期天③某地1987年至1996年某商品月销售量序列如图所示：该序列的季节特征是明显的，季节周期为12.第5页,共127页，2024年2月25日，星期天※非平稳过程※

ARIMA模型5.1ARIMA模型※

ARIMA模型的建立※

疏系数模型※非平稳性的检验第6页,共127页，2024年2月25日，星期天一非平稳过程（一）平稳过程与非平稳过程的差异1、从统计属性看平稳时间序列具有如下特性：（1）具有常定均值，序列围绕在均值周围波动；（2）方差和自协方差具有时间不变性；（3）理论上，序列自相关函数随滞后阶数的增加而衰减.第7页,共127页，2024年2月25日，星期天非平稳时间序列不具有上述特性：（1）或者不具有常定的长期均值；（2）或者方差和自协方差不具有时间不变性；（3）理论上，序列自相关函数不随滞后阶数的增加而衰减.第8页,共127页，2024年2月25日，星期天考虑如下例子：第9页,共127页，2024年2月25日，星期天2、从图像特征看（1）平稳过程的时序图没有明显的趋势性与周期性：序列的振动是短暂的，经过一段时间以后，振动的影响会消失，序列将会回到其长期均值水平；在不同时刻或时段，序列偏离均值的程度基本相同.非平稳过程可观察出明显的趋势性与周期性.第10页,共127页，2024年2月25日，星期天

第11页,共127页，2024年2月25日，星期天第12页,共127页，2024年2月25日，星期天（2）平稳过程的ACF与PACF呈指数（或阻尼正弦波）衰减或截尾.非平稳过程的ACF一般呈线性缓慢衰减，PACF一般呈截尾.第13页,共127页，2024年2月25日，星期天第14页,共127页，2024年2月25日，星期天3、从建模要求看平稳序列具有许多优良性质，一般可满足建模的各种要求，诸如参数估计、模型检验等，传统方法均能获得良好效果.非平稳序列，因不满足若干统计分析方法的基本假定，传统方法不再适用.第15页,共127页，2024年2月25日，星期天（二）均值非平稳过程1、均值非平稳的表现（1）均值非平稳是指序列均值随时间的变化而变化，是时间的函数，从而导致序列呈现某种时间趋势.（2）时间趋势依其内在属性，分为确定性时间趋势和随机性时间趋势.（3）对均值非平稳进行分析的首要工作是：由单个样本实现来构造均值函数，以刻画相应的时间依赖现象.第16页,共127页，2024年2月25日，星期天

2、均值非平稳过程的描述（1）确定性趋势模型—刻画确定性时间趋势（2）随机趋势模型—刻画随机性时间趋势

确定性趋势模型当非平稳过程均值函数可由一个特定的时间趋势表示时，一个标准的回归模型曲线可用来描述这种现象。第17页,共127页，2024年2月25日，星期天☆思路将非平稳过程的均值函数用一个时间的确定性函数来描述.☆模型表达式第18页,共127页，2024年2月25日，星期天＊数字特征因此，称均值的这种趋势为确定性趋势.为平稳过程的方差。综上，具有确定性趋势的其均值为确定性函数，方差为常数.为平稳过程的方差。第19页,共127页，2024年2月25日，星期天第20页,共127页，2024年2月25日，星期天

此外，均值函数还可能是指数函数、正弦—余弦波函数等，这些模型都可以通过标准的回归分析处理。处理方法是先拟合出μt的具体形式，然后对残差序列yt={xt－μt}按平稳过程进行分析和建模。第21页,共127页，2024年2月25日，星期天☆

趋势平稳过程若一均值非平稳过程可由模型（1）刻画，则称此过程为趋势平稳过程.

＊趋势平稳过程由确定性时间趋势所主导；＊对于趋势平稳过程，应选用退势的方法获得平稳过程；＊趋势平稳过程的差分过程是过度差分过程；第22页,共127页，2024年2月25日，星期天＊对于趋势平稳过程，随机冲击只具有有限记忆能力，其影响会很快消失，由其引起的对趋势的偏离只是暂时的；（旋转）＊对于趋势平稳过程，只要正确估计出其确定性趋势，即可实现长期趋势与平稳波动部分的分离。第23页,共127页，2024年2月25日，星期天随机趋势模型随机趋势模型又称齐次非平ARMA模型。为理解齐次非平稳ARMA模型，可先对ARMA模型的性质作一回顾。第24页,共127页，2024年2月25日，星期天第25页,共127页，2024年2月25日，星期天第26页,共127页，2024年2月25日，星期天

可见我们所能分析处理的仅是一些特殊的非平稳序列，即齐次非平稳序列。由于齐次非平稳序列模型恰有d个特征根在单位圆上，即有d个单位根，因此齐次非平稳序列又称单位根过程。☆思路从ARMA

模型的参数不满足平稳性条件入手.第27页,共127页，2024年2月25日，星期天例2对于过程从其参数的不同取值范围讨论过程的属性.☆齐次非平稳过程（差分平稳过程）通过一次或多次差分即可转化为平稳过程的序列，差分次数即为齐次的阶数.例3考察过程有漂移项的随机游走过程.（随机游走）第28页,共127页，2024年2月25日，星期天（1）对过程进行一阶差分后，为平稳序列——称该过程为差分平稳过程；（2）辅助方程，令，得，有一单位根，该过程又称为单位根过程.（3）对不断向后迭代，可得第29页,共127页，2024年2月25日，星期天（4）自相关函数第30页,共127页，2024年2月25日，星期天随机趋势非平稳序列

第31页,共127页，2024年2月25日，星期天◆对于差分平稳过程，每个随机冲击都具有长记忆性，方差趋于无穷，从而其均值毫无意义.

◆服从趋势平稳的时间序列与服从差分平稳的时间序列在图形上非常相似.

◆区分趋势平稳与差分平稳的主要方法——单位根检验法.第32页,共127页，2024年2月25日，星期天第33页,共127页，2024年2月25日，星期天第34页,共127页，2024年2月25日，星期天退势平稳序列差分平稳序列第35页,共127页，2024年2月25日，星期天对数的中国国民收入序列，近似于随机趋势非平稳序列和退势平稳序列.第36页,共127页，2024年2月25日，星期天中国人口序列，近似于确定性趋势非平稳序列.第37页,共127页，2024年2月25日，星期天

平稳化方法确定性趋势的消除，可采取退势方法获得平稳过程。对于非确定趋势，由于它是一个慢慢的向上或向下漂移的过程，要判断这种序列的趋势是随机性还是确定性的十分困难，采取差分消除趋势，效果很好。（回忆查分运算、解释平稳化原因）第38页,共127页，2024年2月25日，星期天二、非平稳性的检验（一）、通过时间序列的趋势图来判断（二）、通过自相关函数(ACF)判断（三）、单位根检验第39页,共127页，2024年2月25日，星期天（一）通过时间序列的趋势图来判断这种方法通过观察时间序列的趋势图来判断时间序列是否存在趋势性或周期性。优点：简便、直观。对于那些明显为非平稳的时间序列，可以采用这种方法。缺点：对于一般的时间序列是否平稳，不易用这种方法判断出来。第40页,共127页，2024年2月25日，星期天（二）通过自相关函数(ACF)判断

平稳时间序列的自相关函数(ACF)要么是截尾的，要么是拖尾的。因此我们可以根据这个特性来判断时间序列是否为平稳序列。

若时间序列具有上升或下降的趋势，那么对于所有短期的滞后来说，自相关系数大且为正，而且随着时滞k的增加而缓慢地下降。（三）单位根检验(Unitroottest)第41页,共127页，2024年2月25日，星期天单位根检验定义通过检验特征根是在单位圆内还是单位圆上（外），来检验序列的平稳性方法DF检验ADF检验PP检验第42页,共127页，2024年2月25日，星期天DF检验DF检验是Dickey和Fuller（1976）提出的单位根检验方法。DF检验有三种形式：1、2、3、第43页,共127页，2024年2月25日，星期天第一种形式

或

原假设相当于认为序列有一个单位根，备则假设认为序列是一个平稳的一阶自回归序列。第44页,共127页，2024年2月25日，星期天第二种形式

或

原假设相当于认为序列是一随机游走序列，而备则假设认为序列是一个带有漂移项平稳序列。第45页,共127页，2024年2月25日，星期天第三种形式

或

原假设相当于认为序列是一个带有漂移项的随机游走序列，而备则假设认为序列是一个退势平稳序列。第46页,共127页，2024年2月25日，星期天ADF检验ADF检验亦称增广（Augmented）DF检验，是Dickey和Fuller提出的改进DF检验方法。DF检验有三种形式：1、2、3、第47页,共127页，2024年2月25日，星期天关于ADF（DF）检验的两点说明1、当被检验序列接近含有单位根但实为平稳过程时，在有限样本，特别是小样本条件下的单位根检验结果容易接受原假设，识别为单位根过程，即检验功效降低。2、应当注意，当被检验过程含有未发现的突变点时，常导致单位根检验易于接受原假设。第48页,共127页，2024年2月25日，星期天三ARIMA模型（一）一般ARIMA模型1、使用场合差分平稳序列拟合2、模型结构第49页,共127页，2024年2月25日，星期天在ARIMA(p,dq)模型中，若p=0，则该模型也称为求和阶数为(d,q)的滑动平均模型，简记为IMA(d,q)；若q=0，则该模型也称为求和阶数为(p,d)的自回归模型，简记为ARI(p,d)。第50页,共127页，2024年2月25日，星期天在ARIMA(p,d,q)模型的一般形式中，还包含了一个θ0项，它在当d=0和d≠0时所起的作用是非常不同的。当d=0时，原过程是平稳的当d≥1时，θ0被称为确定趋势项。在一般的讨论中，常将θ0项略去。第51页,共127页，2024年2月25日，星期天3、ARIMA模型的性质平稳性：ARIMA(p,d,q)模型共有p+d个自回归辅助方程的根，其中p个在单位圆外，d个在单位圆上.所以当时ARIMA(p,d,q)模型非平稳.第52页,共127页，2024年2月25日，星期天ARIMA模型的方差齐性时，原序列方差非齐性1阶差分后，差分后序列方差齐性第53页,共127页，2024年2月25日，星期天（二）特殊ARIMA模型1、ARIMA(0,1,1)模型3、ARIMA(1,1,1)模型2、ARIMA(1,1,0)模型4、ARIMA(0,1,0)模型第54页,共127页，2024年2月25日，星期天（三）单整序列★如果一个时间序列经过一次差分变成平稳的，就称原序列是一阶单整（integratedof1）序列，记为I(1)；★

一般地，如果一个时间序列经过d次差分后变成平稳序列，则称原序列是d

阶单整（integratedofd）序列，记为I(d)；★

I(0)代表一平稳时间序列；第55页,共127页，2024年2月25日，星期天★

无论经过多少次差分，都不能变为平稳的时间序列.称为非单整的（non-integrated）；★

I(0)过程与I(1)过程的特性有本质差别.第56页,共127页，2024年2月25日，星期天四ARIMA模型的建立

ARIMA模型的建立①判断序列的非平稳性；②识别差分阶数；③

对差分序列建立ARMA模型；④对原序列建立ARIMA模型.第57页,共127页，2024年2月25日，星期天ARIMA模型建模步骤获得观察值序列平稳性检验差分运算YN白噪声检验Y分析结束N拟合ARMA模型第58页,共127页，2024年2月25日，星期天差分阶数的判定

※数据背景

※

数据图

※ACF、PACF识别法

※差分序列的平稳性检验法第59页,共127页，2024年2月25日，星期天

注★差分阶数不宜过高，否则会导致SACF产生明显的震荡起伏(差分后可考察数据动荡范围)；★

由低阶开始，初步估计出d，拟合模型并检验，接受模型，则d适合；否则，用更高阶d对原数据进行ARIMA拟合，直至确定出适当的d；★

现实中，各经济序列一般通过低阶差分(d=1,2)即可达到平稳(B-J)；第60页,共127页，2024年2月25日，星期天★（李子奈）现实经济生活中:1)只有少数经济指标的时间序列表现为平稳的，如利率等;2)大多数指标的时间序列是非平稳的，如一些价格指数常常是2阶单整的，以不变价格表示的消费额、收入等常表现为1阶单整；3)大多数非平稳的时间序列一般可通过一次或多次差分的形式变为平稳的.第61页,共127页，2024年2月25日，星期天五疏系数模型ARIMA(p,d,q)模型是指d阶差分后自相关最高阶数为p，移动平均最高阶数为q的模型，通常它包含p+q个独立的未知系数：如果该模型中有部分自回归系数或部分移动平均系数为零，即原模型中有部分系数省缺了，那么该模型称为疏系数模型.第62页,共127页，2024年2月25日，星期天如果只是自回归部分有缺省系数，那么该疏系数模型可以简记为为非零自回归系数的阶数如果只是移动平均部分有缺省系数，那么该疏系数模型可以简记为为非零移动平均系数的阶数如果自相关和移动平滑部分都有缺省，可以简记为第63页,共127页，2024年2月25日，星期天5.2季节模型※季节时间序列的特征※季节时间序列模型※季节模型的建立第64页,共127页，2024年2月25日，星期天（一）季节时间序列1、一个时间序列，若经过s个时间间隔后呈现出相似的特征，称该序列为季节时间序列，周期为s.一

季节时间序列的特征2、季节时间序列按周期的重新排列列一个矩阵式二维表，将每一周期内相同周期点的值列在同一列上.第65页,共127页，2024年2月25日，星期天

周期点周期1234….s1X1X2X3X4…Xs2Xs+1Xs+2Xs+3Xs+4…X2s….…nX(n-1)s+1X(n-1)s+2X(n-1)s+3X(n-1)s+4….Xns第66页,共127页，2024年2月25日，星期天（二）季节时间序列的特征

重要特征表现为周期性：在一个序列中，如果经过S个时间间隔后观测点呈现出相似性——该序列具有以S为周期的周期特性。第67页,共127页，2024年2月25日，星期天二季节时间序列模型（一）随机季节模型1、随机季节模型：对季节时间序列中，不同周期的同一周期点之间的相关性的拟合。2、（1）设周期为s.Xt、Xt-s、Xt-2s….等可能适合三类模型中的任何一种.前提条件是它们是平稳序列.若不平稳,进行季节差分.第68页,共127页，2024年2月25日，星期天（2）D阶季节差分

sXt=Xt-Xt-s=（1-Bs)Xt

sDXt=（1-Bs)dXt

s2Xt=(1-Bs)2Xt=(1-2Bs+B2s)Xt

Xt=Xt-Xt-1

sXt=Xt-Xt-s

aD:a:相减的时期D:差分的阶数第69页,共127页，2024年2月25日，星期天设

sDXt=Wt

，则sDXt-s=Wt-s

若Wt适合AR(1)以D=1为例，若Wt适合MA(1)

若Wt适合ARMA(1,1)

第70页,共127页，2024年2月25日，星期天更一般的情形，季节性的SARIMA为其中分别称为：k阶季节自回归多项式m阶季节移动平均多项式

第71页,共127页，2024年2月25日，星期天3、（1）模型将序列不同周期上的相同周期点之间的关系表示出来，但是没有反映同一周期内不同周期点之间的关系.（2）序列可能还存在长期趋势，相同周期的不同周期点之间可能也有一定的相关性，所以，模型可能有一定的拟合不足。第72页,共127页，2024年2月25日，星期天使用场合序列的季节效应、长期趋势效应和随机波动之间有着复杂地相互关联性，简单的季节模型不能充分地提取其中的相关关系.构造原理短期相关性用低阶ARIMA(p,d,q)模型提取季节相关性用以周期步长S为单位的ARIMA(k,D,m)模型提取假设短期相关和季节效应之间具有乘积关系（二）乘积季节模型第73页,共127页，2024年2月25日，星期天

1、乘积季节模型的一般形式

可能是平稳的，也可能是非平稳的，不妨设一般情况，

适合ARIMA（p，d，q）第74页,共127页，2024年2月25日，星期天若

适合，而

又适合在前式两边同乘得：第75页,共127页，2024年2月25日，星期天其中：（1）式称为乘积季节模型，记为第76页,共127页，2024年2月25日，星期天常见的乘积季节模型（s=12）1、(1-B)(1-B12)Xt=(1-1B)(1-12B12)at它是由两个模型组成的。（1）(1-B12)Xt=(1-12B12)et（2）et-et-1=(1-B)et=at-

1at-1=(1-1B)at在（1）两端同乘（1-B）得：第77页,共127页，2024年2月25日，星期天(1-B)(1-B12)Xt=(1-12B12)(1-B)et

=(1-12B12)(1-1B)at(Xt-Xt-12)–(Xt-1-Xt-13)=(at-12at-12)-1(at-1-12at-13)2、(1-B12)Xt=(1-1B)(1-12B12)at(1)(1-B12)Xt=(1-12B12)et

Xt、Xt-12、Xt-24….是非平稳的，有趋势，差分后平稳，适合MA(1)模型.(2)et是平稳序列，适合MA(1)，第78页,共127页，2024年2月25日，星期天et=at-

1at-1=(1-1B)at代入（1）得：(1-B12)Xt=(1-12B12)et=(1-12B12)(1-1B)at=(at-12at-12)-1(at-1-12at-12)

第79页,共127页，2024年2月25日，星期天3、(1-1B)(1-B12)Xt=(1-12B12)at(1)(1-B12)Xt=(1-12B12)et(2)et是平稳序列，适合AR(1)，et=1et-1+at，即(1-1B)et=at(1)两边同乘(1-1B)得：(1-1B)(1-B12)Xt

=(1-1B)(1-12B12)et

=(1-12B12)at(Xt-Xt-12)-1(Xt-1-Xt-13)=at-12at-12第80页,共127页，2024年2月25日，星期天

与ARMA模型类似，季节模型的识别、定阶、参数估计、适应性检验基本上是以随机序列的样本自相关与偏自相关为依据的.三

季节模型的建立第81页,共127页，2024年2月25日，星期天

季节模型的建立①判明序列的周期性；②识别差分的阶数；③识别季节差分的阶数；④对差分序列建立ARMA模型；⑤对原序列建立季节模型.第82页,共127页，2024年2月25日，星期天

季节模型建模要点①模型识别要点：

原始序列图是判定季节特征的有力工具；

周期的确定更倾向于依赖数据的实际背景；

若SACF与SPACF既不拖尾也不截尾，且不呈线性衰减；而是在相应于周期的整数倍点上，出现绝对值相当大的峰值并呈现振荡变化，则可判定序列适合季节模型.第83页,共127页，2024年2月25日，星期天②阶数判定要点：

差分与季节差分阶数d、D的选取，可采用试探的方法，一般宜较低阶（如1、2、3阶）.对于某一组d、D，计算差分后序列的SACF与SPACF，若呈现较好的截尾或拖尾性，则d、D适宜.此时若增大d、D，相应SACF与SPACF会呈现离散增大及不稳定状态；

通常D不会超过1阶，特别对S=12的月份数据（B-J）；

季节模型应慎重使用，特别序列长度不够理想时（B-J）.第84页,共127页，2024年2月25日，星期天

季节差分后序列ACF、PACF特征（1）若季节差分后序列适合MA模型:S=12Xt-Xt-12=(1-

12B12)et=(1-

1B)(1-

12B12)at=at-

1at-1-12at-12+1

12at-12-1季节差分后，适应MA(13)，其中

i=0（i=2,3,…,11）,ACF截尾（k=1,11,12,13不为零，其余显著为零），PACF拖尾.第85页,共127页，2024年2月25日，星期天（2）季节差分后适应AR模型:(1-1B)(1-B12)Xt=at(1-1B)(Xt

–Xt-12)=atXt-Xt-12=1Xt-1-

1Xt-13+atACF拖尾，PACF截尾.第86页,共127页，2024年2月25日，星期天例11962—1975年奶牛月产奶量（P244）例21997.1—2003.8到北京海外旅游人数第87页,共127页，2024年2月25日，星期天5.3残差自回归模型※模型结构※残差自相关检验第88页,共127页，2024年2月25日，星期天一模型结构1、构造思想首先通过确定性因素分解方法提取序列中主要的确定性信息然后对残差序列拟合自回归模型，以便充分提取相关信息

第89页,共127页，2024年2月25日，星期天2、Auto-Regressive模型结构第90页,共127页，2024年2月25日，星期天3、对趋势效应的常用拟合方法自变量为时间t的幂函数自变量为历史观察值第91页,共127页，2024年2月25日，星期天4、对季节效应的常用拟合方法给定季节指数建立季节自回归模型第92页,共127页，2024年2月25日，星期天例1使用Auto-Regressive模型分析1952年－1988年中国农业实际国民收入指数序列。时序图显示该序列有显著的线性递增趋势，但没有季节效应，所以考虑建立如下结构的Auto-Regressive模型第93页,共127页，2024年2月25日，星期天趋势拟合方法一：变量为时间t的幂函数方法二：变量为一阶延迟序列值第94页,共127页，2024年2月25日，星期天趋势拟合效果图第95页,共127页，2024年2月25日，星期天二、残差自相关检验1、检验原理回归模型拟合充分，残差的性质回归模型拟合得不充分，残差的性质第96页,共127页，2024年2月25日，星期天2、Durbin-Waston检验（DW检验）假设条件原假设：残差序列不存在一阶自相关性备择假设：残差序列存在一阶自相关性第97页,共127页，2024年2月25日，星期天DW统计量构造统计量DW统计量和自相关系数的关系(大样本下)第98页,共127页，2024年2月25日，星期天DW统计量的判定结果正相关相关性待定不相关相关性待定负相关042第99页,共127页，2024年2月25日，星期天例1续检验第一个确定性趋势模型残差序列的自相关性。第100页,共127页，2024年2月25日，星期天例1续检验第二个确定性趋势模型残差序列的自相关性。第101页,共127页，2024年2月25日，星期天Durbinh检验DW统计量的缺陷当回归因子包含延迟因变量时，残差序列的DW统计量是一个有偏统计量。在这种场合下使用DW统计量容易产生残差序列正自相关性不显著的误判Durbinh检验第102页,共127页，2024年2月25日，星期天残差序列拟合确定自回归模型的阶数参数估计模型检验第103页,共127页，2024年2月25日，星期天例1续拟合三个模型1、ARIMA(0,1,1)模型2、ARIMA(1,1,0)模型3、确定性趋势模型第104页,共127页，2024年2月25日，星期天残差序列自相关图第105页,共127页，2024年2月25日，星期天残差序列偏自相关图第106页,共127页，2024年2月25日，星期天模型拟合定阶AR(2)参数估计方法极大似然估计最终拟合模型口径第107页,共127页，2024年2月25日，星期天例1第二个Auto－Regressive模型的拟合结果第108页,共127页，2024年2月25日，星期天三个拟合模型的比较模型AICSBCARIMA(0,1,1)模型：6.8702426.914229ARIMA(1,1,0)模型：6.93566.9801Auto－Regressive模型一：6.893758

6.982635

第109页,共127页，2024年2月25日，星期天四、条件异方差模型ARCH模型GARC