Файл: Учебное пособие для вузов Вологда Волнц ран 2021 удк 330. 43 Ббк 65в6 В24.pdf

Пример. Объем продаж мороженного имеет выраженную сезонность,
что связано с погодными условиями. Число постояльцев курортного оте- ля также может иметь выраженную сезонность, что также связано с по- годными условиями. Однако в финансовых данных (доходности и т.д.)
как правило сезонность не наблюдается.
Для учета сезонности и периодичности в модель регрессии вводят фиктивные переменные.
Замечание. Следует отметить, что часто статистические данные публи- куются с поправкой на сезонность (seasonally adjusted), так что учиты- вать ее не нужно. Например, квартальные данные U.S. GDP публику- ются с исключением сезонности.
45

Глава 2
Нестационарные временные ряды
2.1.
Ряды с единичным корнем
2.1.1.
Случайное блуждание
Обсуждение нестационарных временных рядов и методов их иссле- дования начнём с классического примера.
Рассмотрим модель AR(1)
x t
= φx t−1
+ u t
,
u t
∼ WN(0, σ
2
u
).
При
|φ| < 1 ряд x t
будет стационарным рядом с Ex t
= 0 и Var(x t
) =
σ
2
u
/(1
− φ
2
).
Если
|φ| > 1, то |x t
| → +∞ при t → +∞, что экономически неинте- ресно.
А в случае φ = 1 ряд x t
называется случайным блужданием (random walk)
x t
= x t−1
+ u t
,
u t
∼ WN(0, σ
2
u
).
46

Для случайного блуждания x
t
= u t
+ x t−1
= u t
+ u t−1
+ x t−2
=
· · · =
t
X
s=1
u s
+ x
0
Определение.
P
t s=1
u s
называется стохастическим трендом (u s
– бе- лый шум).
Особенность названия происходит от того, что локально ряд часто похож на детерминированный тренд (локально наблюдается тенденция к росту или к убыванию).
Далее, если блуждание “выходит” из нуля (x
0
= 0)
x t
=
t
X
i=1
u i
,
u i
∼ WN(0, σ
2
u
),
то
1. Ex t
= 0;
2. Var(x t
) = tσ
2
u
, т.е. разброс растёт пропорционально
√
t;
3. cov(x t
, x s
) = min
{t, s}σ
2
u и corr(x t
, x s
) =
min
{t, s}
√
ts
Отсюда можно сделать вывод, что случайное блуждание нестацио- нарно и есть сумма всех прошлых шоков.
2.1.2.
Случайное блуждание со сносом
Рассмотрим модель AR(1)
x t
= µ + φx t−1
+ u t
,
u t
∼ WN(0, σ
2
u
).
Если
|φ| < 1, то x t
– стационарный ряд с Ex t
= µ/(1
− φ) и Var(x t
) =
σ
2
u
/(1
− φ
2
).
47

При φ = 1 ряд x t
называется случайным блужданием со сносом
(random walk with drift)
x t
= µ + x t−1
+ u t
u t
,
∼ WN(0, σ
2
u
).
Для случайного блуждания со сносом, считая x
0
= 0, получаем x
t
= µ + u t
+ x t−1
= 2µ + u t
+ u t−1
+ x t−2
=
3µ + u t
+ u t−1
+ u t−2
+ x t−3
=
· · · = µt +
t
X
s=1
u s
Таким образом, случайное блуждание со сносом есть сумма линей- ного тренда и стохастического тренда.
0 10 20 30 40 50
-10
-5 0
5 10 15 20 25
Index x
Рисунок 2.1. Несколько реализаций случайных блужданий.
48

Замечание. По-другому этот процесс x t
можно представлять как слу- чайное блуждание относительно линейного тренда x
t
= µt + w t
,
w t
= w t−1
+ u t
,
u t
∼ WN .
Теперь рассмотрим более сложную модель x
t
= β
0
+ β
1
t + φx t−1
+ u t
,
u t
∼ WN .
Если
|φ| < 1, то модель задаёт TS-ряд с линейным трендом.
При φ = 1 получаем x
t
= β
0
+ β
1
t + x t−1
+ u t
Перепишем в другом виде, считая x
0
= 0:
x t
= β
0
+ β
1
t + x t−1
=
β
0
+ β
1
t + u t
+ β
0
+ β
1
(t
− 1) + u t−1
+ x t−2
=
β
0
+ β
1
t + u t
+ β
0
+ β
1
(t
− 1) + u t−1
+
β
0
+ β
1
(t
− 2) + u t−2
+ x t−3
=
· · ·
= β
0
t + β
1
t
X
j=1
j +
t
X
j=1
u j
= β
0
t + β
1
t(t + 1)
2
+
t
X
j=1
u j
=

β
0
+
β
1 2

t +
β
1 2
t
2
+
t
X
j=1
u j
Откуда следует, что модель x
t
= β
0
+ β
1
t + x t−1
+ u t
есть сумма квадратичного и стохастического тренда.
Также x t
можно представить как случайное блуждание относитель- но квадратичного тренда x
t
= γ
1
t + γ
2
t
2
+ w t
,
w t
= w t−1
+ u t
,
u t
∼ WN(0, σ
2
).
49

2.1.3.
Дифференцирование ряда
Для того, чтобы перейти к стационарному ряду часто применяют операцию дифференцирования.
Определение. Операция дифференцирования или первая конечная раз- ность ряда обозначается как
∆x t
= x t
− x t−1
= (1
− L)x t
,
где L – лаговый оператор.
Идея состоит в том, чтобы вместо исходного ряда рассматривать его приращение за один период.
Пример. В финансах часто рассматривают следующее приращение
∆ ln x t
= ln x t
− ln x t−1
= ln x
t x
t−1
,
то есть процентное изменение за один период или “логарифмическую доходность”.
Аналогично можно ввести дифференцирование и более высокого по- рядка.
Дифференцирование второго порядка:
∆
2
x t
= ∆(∆x t
) = x t
− 2x t−1
+ x t−2
Дифференцирование произвольного порядка:
∆
k x
t
= ∆(∆
k−1
x t
).
Используя лаговый оператор можно формально записать
∆
2
x t
= (1
− L)
2
x t
= (1
− 2L + L
2
)x t
и в общем случае
∆
k x
t
= (1
− L)
k x
t
Дифференцирование ряда позволяет перейти к стационарному ряду относительно приращений. Для примера продифференцируем TS-ряды.
50

• Линейный тренд (v t
– стационарный ряд)
x t
= β
0
+ β
1
t + v t
Тогда
∆x t
= β
1
+ v t
− v t−1
,
и, в частности, получаем
E(∆x t
) = β
1
• Квадратичный тренд (v t
– стационарный ряд)
x t
= β
0
+ β
1
t + β
2
t
2
+ v t
Тогда
∆x t
= β
1
+ 2β
2
t + v t
− v t−1
,
∆
2
x t
= 2β
2
+ v t
− 2v t−1
+ v t−2 2.1.4.
DS-ряды
Определение. Ряд x t
называется интегрированным порядка k, если
1. x t
не TS-ряд и нестационарный;
2. k – минимальный порядок такой, что ∆
k x
t
– стационарный или
TS-ряд.
Обозначение: x t
∼ I(k).
Замечание. Если x t
– стационарный ряд, то формально x t
∼ I(0).
Определение. Ряд x t
называется DS-рядом
1
, если x t
∼ I(k) для неко- торого k.
1
Difference Stationary.
51

Запишем случайное блуждание как DS-ряд. Пусть x t
– случайное блуждание без сноса, тогда x
t
= x t−1
+ u t
⇒ ∆x t
= x t
− x t−1
= u t
∼ WN(0, σ
2
).
Следовательно, x t
∼ I(1) при этом, конечно, x t
не является TS-рядом.
Аналогично для случайного блуждания со сносом имеем x
t
= µ + x t−1
+ u t
⇒ ∆x t
= x t
− x t−1
= µ + u t
∼ WN(µ, σ
2
).
Следовательно, x t
∼ I(1).
Пример. Пусть x
t
= 2x t−1
− x t−2
+ u t
,
u t
∼ WN(0, σ
2
).
Перепишем в виде x
t
− x t−1
= x t−1
− x t−2
+ u t
⇒ ∆x t
= ∆x t−1
+ u t
Следовательно, ∆x t
– случайное блуждание.
Далее
∆
2
x t
= ∆x t
− ∆x t−1
= u t
∼ WN .
Следовательно, x t
∼ I(2).
2.1.5.
Модель ARIMA
Для нестационарных рядов, которые можно представить стационар- ными относительно приращений, введём следующий класс моделей.
Определение. x t
∼ ARIMA(p, k, q)
2
, если
1. x t
∼ I(k);
2. ∆
k x
t
∼ ARMA(p, q)
3 2
Autoregression Integrated Moving Avarage.
3
Которая, конечно, стационарная.
52

Формально будем считать ARMA(p, q) = ARIMA(p, 0, q).
Пример (Случайное блуждание). Пусть x
t
= x t−1
+ u t
,
u t
∼ WN(0, σ
2
).
Тогда x t
∼ I(1) и ∆x t
= u t
. Следовательно x
t
∼ ARIMA(0, 1, 0).
Аналогично для случайного блуждания со сносом x
t
= µ + x t−1
+ u t
,
u t
∼ WN(0, σ
2
).
Тогда x t
∼ I(1) и ∆x t
= µ + u t
. Следовательно x
t
∼ ARIMA(0, 1, 0).
Пусть x t
∼ ARIMA(p, k, q). Это означает, что ∆
k x
t является стаци- онарной ARM A(p, q), и может быть представлена в виде
(1
− φ
1
L
− · · · − φ
p
L
p
)∆
k x
t
= µ + (1 + θ
1
L +
· · · + θ
q
L
q
)u t
и все корни авторегрессионного многочлена
φ(z) = 1
− φ
1
z
− · · · − φ
p z
p по модулю больше 1 (условие стационарности).
Тогда, используя ∆
k x
t
= (1
− L)
k x
t
, получаем
φ(L)(1
− L)
k x
t
= µ + θ(L)u t
,
где θ(z) = 1 + θ
1
z +
· · · + θ
q z
q
Введём многочлен
γ(z) = φ(z)(1
− z)
k
= 1
− γ
1
z
− · · · − γ
p+k z
k+p
Он имеет единичный корень кратности k, а остальные p корней по мо- дулю больше 1.
53

Тогда для ряда x t
∼ ARIMA(p, k, q)
γ(L)x t
= µ + θ(L)u t
⇒ x t
= µ +
k+p
X
j=1
γ
j x
t−j
+ u t
+
q
X
s=1
θ
s u
t−s
Таким образом, модель ARIMA(p, k, q) можно рассматривать как нестационарную ARMA(p+k, q), авторегрессионный многочлен которой имеет единичный корень кратности k, а остальные p корней по моду- лю больше единицы. Отсюда происходит и название, так называемых,
рядов с единичным корнем.
Утверждение. Для прогнозирования ARIMA-рядов используем алго- ритм прогнозирования для ARMA-рядов.
Пусть Ω
T
– “информация” в момент времени T , то есть значения ряда и внешних шоков до момента T включительно.
Пример. Для случайного блуждания x t
= x t−1
+ u t
, u t
∼ WN имеем x
T +1
= u
T +1
+ x
T
⇒ ˆx
T +1
|Ω
T
= x
T
,
x
T +2
= u
T +2
+ u
T +1
+ x
T
⇒ ˆx
T +2
|Ω
T
= x
T
,
Следовательно, наилучший прогноз – это текущее значение.
Ошибка прогноза на k шагов:
k
P
s=1
u
T +s и среднеквадратичная ошибка прогноза
E(ˆ
x
T +k
− x
T +k
)
2
= kσ
2
u
Пример. Для случайного блуждания со сносом x t
= µ + x t−1
+ u t
, u t
∼
WN получим x
T +1
= µ + u
T +1
+ x
T
⇒ ˆx
T +1
|Ω
T
= µ + x
T
,
x
T +2
= µ + u
T +2
+ µ + u
T +1
+ x
T
⇒ ˆx
T +2
|Ω
T
= 2µ + x
T
,
x
T +3
= 3µ + u
T +3
+ u
T +2
+ u
T +1
+ x
T
⇒ ˆx
T +3
|Ω
T
= 3µ + x
T
,
· · ·
54

Следовательно, наилучший прогноз на k шагов
ˆ
x
T +k
|Ω
T
= kµ + x
T
Этот прогноз можно рассматривать как локальный тренд. Средне- квадратичная ошибка прогноза
E(ˆ
x
T +k
− x
T +k
)
2
= kσ
2
u
2.1.6.
Оценка и статистические свойства
Перейдём теперь к практической реализации оценивания ARIMA- моделей.
В таких случаях всегда начинают с предварительного анализа ря- да на стационарность (возможно относительно тренда) или, напротив,
на единичный корень. Необходимо это потому, что стационарность или наличие единичного корня влияют на
1. выбор модели динамики для подгонки под данные;
2. методы оценивания и инференции;
3. прогнозирование;
4. подходы к построению регрессий (для TS- и DS-рядов можно по- пасть на “ложную регрессию”);
5. подходы к оцениваю и тестированию регрессий.
2.1.7.
Тесты “единичного корня”
Важной прикладной задачей является отнесение временного ряда к одному из классов: стационарный, TS- или DS-ряд. Для этого исполь- зуются различные тесты на различение рядов. Для этого будем исполь- зовать так называемые тесты единичного корня (unit root tests).
Таких тестов много, но, как правило, тестируется нулевая гипотеза о единичном корне против альтернативы о TS-/стационарности. Все базовые тесты реализованы в специальных программах.
55

Стандартным и часто используемым тестом на единичный корень является расширенный тест Дики-Фуллера ( ADF-test)
4
У теста имеется три варианта реализации:
1. единичный корень против стационарности для ряда с нулевым средним;
2. единичный корень против стационарности в общем случае;
3. единичный корень против стационарности относительно линейно- го тренда.
Замечание. Это тест на единичный корень кратности один!
1. Рассмотрим ADF тест №1 без константы. Пусть x t
– ряд с нулевым средним (Ex t
= 0).
Для заданного p, которое выберем позже, тестируем
H
0
: x t
∼ ARIMA(p − 1, 1, 0) vs H
1
: x t
∼ ARMA(p, 0).
Другими словами, для модели x
t
= γ
1
x t−1
+
· · · + γ
p x
t−p
+ u t
,
u t
∼ WN(0, σ
2
u
)
(2.1)
тестируем гипотезу о том, что авторегрессионный многочлен
γ(z) = 1
− γ
1
z
− · · · − γ
p z
p имеет единичный корень кратности 1 (остальные корни по моду- лю больше 1).
Очевидно, z = 1 корень γ(z)
⇐⇒
P
p j=1
γ
j
= 1. Преобразуем уравнение.
4
ADF = Augmented Dickey-Fuller
56

Перепишем (2.1)
∆x t
= ϕx t−1
+ θ
1
∆x t−1
+
· · · + θ
p−1
∆x t−p+1
+ u t
(2.2)
ϕ = γ
1
+
· · · + γ
p
− 1,
θ
1
=
−γ
2
− · · · − γ
p
,
θ
2
=
−γ
3
− · · · − γ
p
,
θ
p−1
=
−γ
p
Тогда наличие единичного корня означает ϕ = 0, а стационарность
ϕ < 0.
Идея теста состоит в том, что для преобразованного уравнения
(2.2) тестируем гипотезу
H
0
: ϕ = 0 vs H
1
: ϕ < 0.
К сожалению, обычная t-статистика t =
ˆ
ϕ
OLS
s. e.(ϕ)
при справедливости H
0
не имеет распределения Стьюдента!
Приведём алгоритм теста:
(a) Оцениваем (OLS) преобразованное уравнение (2.2);
(b) Тестовая статистика:
ADF
t
= DF
τ
=
ˆ
ϕ
OLS
s. e.(ϕ)
;
(c) Критическое значение: τ
cr
– специальное критическое значе- ние теста Дики-Фуллера без константы.
(d) Вывод: отвергаем H
0
(гипотезу единичного корня) при
ADF
t
<
−τ
cr
< 0.
57

2. Теперь рассмотрим ADF тест №2 с константой. Этот случай явля- ется общим, то есть Ex t
≡ a и допускается a 6= 0. Тогда x
t
= a + z t
,
Ez t
≡ 0.
Для заданного p тестируем
H
0
: z t
∼ ARIMA(p − 1, 1, 0) vs H
1
: z t
∼ ARMA(p, 0)
или, другими словами, для модели x
t
= µ + γ
1
x t−1
+
· · · + γ
p x
t−p
+ u t
,
u t
∼ WN(0, σ
2
u
)
(2.3)
тестируем, что авторегрессионный многочлен γ(z) имеет единич- ный корень кратности один (остальные корни по модулю больше
1) и µ = 0.
Аналогично предыдущему преобразуем уравнение (2.3)
∆x t
= µ + ϕx t−1
+ θ
1
∆x t−1
+
· · · + θ
p−1
∆x t−p+1
+ u t
(2.4)
Тогда гипотеза единичного корня означает, что µ = 0 и ϕ = 0, а стационарность будет при ϕ < 0.
Можем записать следующий алгоритм:
(a) Оцениваем (OLS) преобразованное уравнение (2.4)
(b) Тестовая статистика:
ADF
t
= DF
τ
=
ˆ
ϕ
OLS
s. e.(ϕ)
(c) Критическое значение: τ
cr
– специальное критическое значе- ние теста Дики-Фуллера с константой.
(d) Вывод: отвергаем H
0
(гипотезу единичного корня) при
ADF
t
<
−τ
cr
< 0.
58

3. Теперь перейдём к ADF тесту №3 с трендом. Пусть x t
– ряд с линейным трендом. Тогда x
t
= β
0
+ β
1
t + z t
,
Ez t
≡ 0.
Для заданного p тестируем
H
0
: z t
∼ ARIMA(p − 1, 1, 0) vs H
1
: z t
∼ ARMA(p, 0)
Можем переформулировать задачу так: для модели x
t
= µ + βt + γ
1
x t−1
+
· · · + γ
p x
t−p
+ u t
(2.5)
тестируем, что авторегрессионный многочлен γ(z) имеет единич- ный корень кратности одни (остальные корни по модулю больше
1) и β = 0.
Аналогично предыдущему преобразуем уравнение (2.5)
∆x t
= µ + βt + ϕx t−1
+ θ
1
∆x t−1
+
· · · + θ
p−1
∆x t−p+1
+ u t
(2.6)
Тогда гипотеза единичного корня означает, что β = 0 и ϕ = 0, а стационарность будет при ϕ < 0.
Алгоритм теста можно записать так:
(a) Оцениваем с помощью МНК преобразованное уравнение.
(b) Тестовая статистика:
ADF
t
= DF
τ
=
ˆ
ϕ
OLS
s. e.(ϕ)
(c) Критическое значение: τ
cr
– специальное критическое значе- ние теста Дики-Фуллера с линейным трендом.
(d) Вывод: отвергаем H
0
(гипотезу единичного корня) при
ADF
t
<
−τ
cr
< 0.
59

Можно предложить и другой подход к тестированию. Для преобра- зованной регрессии x
t
= φx t−1
+



0
const trend


 +
p−1
X
j=1
γ
j
∆x t−j
+ error используем тестовые статистики
5
ADF
t
=
ˆ
φ
− 1
s. e.(φ)
,
ADF
n
=
n( ˆ
φ
− 1)
1
− ˆγ
1
− · · · − ˆγ
p
Стоит отметить, что ADF
n
= n( ˆ
φ
− 1) в случае p = 0.
Критические значения для ADF
t такие же, как и раньше. А для критических значений ADF
n теста имеются отдельные таблицы.
Статистическое правило, как и раньше, заключается в том, что мы отвергаем гипотезу единичного корня, когда тестовая статистика мень- ше критического значения (меньше 0).
Теоретически все тесты выглядят достаточно просто и лаконично,
но при практическом применении возникают некоторые особенности.
Три основных практических вопроса: