Економетрія - Навчальний посібник (Наконечний С.І., Терещенко Т.О., Романюк Т.П.)

8.3. оцінка параметрів моделі з автокорельованими залишками

8.3.1. Метод Ейткена

Нехай в економетричній моделі

yt = a0 + a1xt + ut ,

ut = ut + et ,

де et — нормально розподілені випадкові залишки. Тоді, щоб усунути автокореляцію залишків ut, треба перетворити основну модель так, щоб вона мала залишки et. Оскільки et = ut – rut – 1, то для такого перетворення треба записати модель для попереднього періоду

yt – 1 = a0 + a1xt – 1 + ut – 1,

помножити ліву і праву частину її на  та відняти від моделі для періоду t.

У результаті дістанемо таку економетричну модель:

yt – yt–1 = a0(1 – ) + a1(xt – xt–1) + (ut – ut–1)

Звідси очевидно, що коли вихідні дані перетворені, а саме yt – yt–1, xt –   –xt–1, то для оцінювання параметрів можна застосувати 1МНК. Причому для перетворення можна використати перші різниці yt – yt–1 і xt – xt–1, коли  наближається до одиниці. Якщо  близьке до нуля, то справджується обернене твердження. Зауважимо, що коли  = 1, у перетвореній моделі відсутній вільний член (як виняток може бути ситуація, коли вихідна модель містить лінійний часовий тренд). Якщо залишки вихідної моделі характеризувались додатною автокореляцією, використання перших різниць спричинюється до від’ємної автокореляції.

Параметр r наближено можна знайти на основі залишків, якщо обчислити циклічний коефіцієнт кореляції r. На практиці, як правило, r » r, але r коригується на величину зміщення.

Усі ці міркування покладені в основу методів оцінки параметрів економетричної моделі з автокорельованими залишками.

Для оцінювання параметрів економетричної моделі, що має автокореляцію залишків, можна застосувати узагальнений метод найменших квадратів (метод Ейткена), який базується на скоригованій вихідній інформації з урахуванням коваріації залишків.

У розд. 7 було розглянуто метод Ейткена і доведено, що система рівнянь для оцінки параметрів моделі на основі методу Ейткена запишеться так:

                                (8.18)

або

                                (8.19)

— вектор оцінок параметрів економетричної моделі;

— матриця незалежних змінних;

— матриця, транспонована до матриці X;

— матриця, обернена до матриці кореляції залишків;

— матриця, обернена до матриці V, де , а  — залишкова дисперсія;

Y — вектор залежних змінних.

Звідси

 

або

 

Отже, щоб оцінити параметри моделі на основі методу Ейткена, треба сформувати матрицю S або V.

Матриця S має вигляд

                                (8.21)

У цій симетричній матриці  виражає коефіцієнт автокореляції s-го порядку для залишків . Очевидно, що коефіцієнт автокореляції нульового порядку дорівнює 1.

Оскільки коваріація залишків  при s > 2 часто наближається до нуля, то матриця, обернена до матриці S, матиме такий вигляд:

                                (8.22)

Таку матрицю іноді пропонується використовувати при оцінюванні параметрів моделі з автокорельованими залишками за методом Ейткена.

Покажемо, як використовується циклічний коефіцієнт кореляції для обчислення r.

,

або

де ut — величина залишків у період t; ut–1 — величина залишків у період t – 1; n — число спостережень.

Якщо , то .

Зауважимо, що параметр r (або ) має зміщення. Тому, використовуючи такий параметр для формування матриці S, необхідно скоригувати його на величину зміщення

 

де  — величина зміщення (m — кількість незалежних змінних), або

Матриця , де  — залишкова дисперсія, що визначається за формулою

де — вектор, транспонований до вектора залишків u; n – m – 1 — число ступенів свободи.

Дисперсія залишків з урахуванням зміщення обчислюється так:

Величину l можна обчислити методом 1МНК з допомогою авторегресійного рівняння xt = l xt–1 + et. У такому разі

 ,

де xt взято як відхилення від свого середнього значення.

При реалізації алгоритму Ейткена для оцінки параметрів моделі застосовують такі п’ять кроків.

Крок 1. Оцінка параметрів моделі за методом 1МНК.

Крок 2. Дослідження залишків на наявність автокореляції.

Крок 3. Формування матриці коваріації залишків V або S.

Крок 4. Обернення матриці V або S.

Крок 5. Оцінка параметрів методом Ейткена, тобто згідно з (8.18), (8.19).

Приклад 8.1. З допомогою двох взаємопов’язаних часових рядів про роздрібний товарообіг та доходи населення побудувати економетричну модель, що характеризує залежність роздрібного товарообігу від доходу. Вихідні дані наведено в табл. 8.1.

Таблиця 8.1

Рік

1

2

3

4

5

6

7

8

9

10

Роздрібний товарообіг

24,0

25,0

25,7

27,0

28,8

30,8

33,8

38,1

43,4

45,5

Дохід

27,1

28,2

29,3

31,3

34,0

36,0

38,7

43,2

50,0

52,1

Розв’язання.

1. Ідентифікуємо змінні моделі:

 Yt — роздрібний товарообіг у період t, залежна змінна;

 Xt — дохід у період  t, пояснювальна змінна;

звідси

Yt = f(Xt , ut),

де ut — стохастична складова, залишки.

2. Специфікуємо економетричну модель у лінійній формі:

Yt = a0 + a1Xt + ut ;

ut=Yt – .

3. Визначимо оцінки параметрів моделі ,  за методом найменших квадратів, припускаючи що залишки ut не корельовані:

 

де  — матриця, транспонована до X.

   

  

Економетрична модель має вигляд

4. Знайдемо розрахункові значення роздрібного товарообігу на основі моделі  і визначимо залишки ut (табл. 8.2).

Таблиця 8.2

Рік

Yt

 

ut

 

ut — ut–1

(ut — ut–1)2

ut ut–1

1

24,0

23,612

0,388

0,150

-

-

-

2

25,0

24,564

0,436

0,190

0,049

0,0024

0,1691

3

25,7

25,515

0,485

0,034

-0,252

0,0632

0,0806

4

27,0

27,245

-0,245

0,060

-0,430

0,1848

-0,045

5

28,8

29,581

-0,779

0,609

-0,535

0,2866

0,1913

6

30,8

31,310

-0,510

0,261

0,270

0,0729

0,3984

7

33,8

33,646

0,154

0,023

0,665

0,4417

-0,0787

8

38,1

37,971

0,129

0,017

-0,025

0,0006

0,0199

9

43,4

43,420

-0,020

0,0002

-0,149

0,0222

-0,003

10

45,5

45,236

0,264

0,070

0,284

0,0804

-0,005

S

322,1

 

 

1,4152

 

1,1550

0,7276

Знайдемо оцінку критерію Дарбіна — Уотсона:

Порівняємо значення критерію DW з табличним для a = 0,05 і n = 10. Критичні значення критерію DW у цьому разі такі:

 DW1 = 0,879 — нижня межа;

 DW2 = 1,320 — верхня межа.

Оскільки критерій DWфакт < DW1, то можна стверджувати, що залишки ut мають додатну автокореляцію.

Наявність чи відсутність автокореляції залишків можна також визначити згідно з критерієм фон Неймана.

Критерій фон Неймана . Це значення порівнюється з табличним;  при n = 10 і рівні значущості  = 0,05. Оскільки , то існує додатна автокореляція залишків.

6. Використаємо метод Ейткена для оцінювання параметрів економетричної моделі з автокорельованими залишками. Оператор оцінювання запишеться так:

або

де  — матриця, обернена до матриці S;  — матриця, обернена до матриці V.

Матриця S — матриця коваріацій залишків, яка має вигляд

 

.

7. Щоб сформувати матрицю S або V, необхідно визначити величину r, яка характеризує взаємозв’язок між послідовними членами ряду залишків. Нехай залишки описуються автокореляційною моделлю першого степеня ut = rut + et ,

Отже, матриця S матиме вигляд

1) ;

2)

3)

4)

5)

Отже, економетрична модель має вигляд:

                                (1)

8. Знайдемо розрахункові значення  на основі побудованої економетричної моделі та визначимо залишки (табл. 8.3).

Таблиця 8.3

Pік

Yt

 

vt

 

vt — vt–1

(vt — vt–1)2

vtvt–1

1

24,0

23,784

0,216

0,0468

-

-

-

2

25,0

24,731

0,269

0,0724

0,0526

0,0028

0,0528

3

25,7

25,678

0,022

0,0005

-0,2774

0,0612

0,0058

4

27,0

27,401

-0,401

0,1608

-0,4226

0,1786

-0,0086

5

28,8

29,727

-0,927

0,8586

-0,5255

0,2762

0,3716

6

30,8

31,449

-0,649

0,4215

0,2774

0,0769

0,6016

7

33,8

33,775

0,025

0,0006

0,6745

0,4549

-0,0164

8

38,1

38,081

0,019

0,0004

-0,0066

0,00004

0,0005

9

43,4

43,508

-0,108

0,0116

-0,1262

0,0159

0,0020

10

45,5

45,316

0,184

0,0937

0,2912

0,0848

0,9908

 

 

 

 

1,6069

 

1,1514

0,9908

9. Обчислимо критерій Дарбіна — Уотсона і фон Неймана:

 

Порівнявши його з критичним значенням при n = 10 і a = 0,05, коли DWфакт < DW1, доходимо висновку, що ми не звільнились від автокореляції залишків. Це означає, що вихідна гіпотеза, коли залишки описуються авторегресійною схемою першого порядку, не виконується. Якщо залишки описуються авторегресійною схемою вищого порядку, то доцільно виконати оцінку параметрів моделі методом Кочрена — Оркатта або Дарбіна, які будуть розглянуті далі.

10. Визначаємо оцінку параметрів моделі, скориставшись оберненою матрицею S–1, яка має вигляд:

.

Підставивши r = 0,77, дістанемо:

Вектор оцінок параметрів моделі:

.

Отже,   і економетрична модель подається у вигляді

                                (2)

Порівнявши обидві економетричні моделі (1) і (2), побачимо, що при оцінюванні параметрів методом Ейткена доцільніше користуватись матрицею, коли коваріація залишків для  відсутня. У такому разі побудова моделі спрощується, а точність оцінок не зменшується.

8.3.2. Метод перетворення вихідної інформації

Випадок, коли залишки задовольняють авторегресійну модель першого порядку, допускає альтернативний підхід до пошуку оцінок параметрів моделі за допомогою двокрокової процедури:

1) перетворення вихідної інформації при застосуванні для цього параметра r;

2) застосування 1МНК для оцінки параметрів на основі перетворених даних.

Для цього треба знайти матрицю перетворення T, щоб модель

                                (8.23)

мала скалярну дисперсійну матрицю

Розглянемо матрицю T1 розміром n ´ n:

                                (8.24)

Безпосереднім множенням легко переконатись, що

 

А це означає, що можна застосувати 1МНК до перетворених даних  і , які мають вигляд

Іноді для перетворення вихідної інформації використовується матриця  розміром (n – 1) ´ n, яка отримується з матриці  внаслідок викреслювання першого рядка:

Неважко показати, що застосування 1МНК до даних  і  дає таку саму оцінку параметрів моделі, як і метод Ейткена, а для даних  і  — забезпечує порівняно добру апроксимацію.

У загальному випадку, коли ми не маємо інформації ні про порядок авторегресійної моделі, ні про значення параметрів у ній, а через це не можемо застосувати ні метод Ейткена, ні метод перетворення вихідної інформації, в економетричній літературі пропонуються наближені методи Кочрена — Оркатта і Дарбіна.

Приклад 8.3. Згідно з даними, які наведено в табл. 8.1 (приклад 8.2), необхідно оцінити параметри економетричної моделі, яка має автокорельовані залишки, методом перетворення вихідної інформації.

Роз’язання.

1. Сформуємо матрицю T1 для перетворення вихідних даних:

.

2. Перетворимо змінні Yt, Xt на основі матриці T1:

               

3. Для перетворених даних скористаємося оператором 1МНК:

 .

Позначимо , . тоді маємо

3.1.

3.2.

3.3.

3.4.

Звідси   економетрична модель:

                                                                (3)

Оцінки параметрів моделі, які визначені згідно з методом перетворення вихідної інформації, не відрізняються від оцінок, здобутих методом Ейткена при різних матрицях коваріацій залишків. Це означає, що обидва методи є альтернативними, коли залишки — стаціонарні марковські процеси.

Дещо відрізняються одна від одної оцінки параметрів моделі, якщо для перетворенння вихідних даних використовується матриця Т2. Так, вектор оцінок

Звідси     економетрична модель:

                                                (4)

8.3.3. Метод Кочрена — Оркатта

Нехай задано економетричну модель

                                                (8.25)

 

Перетворивши вихідну інформацію за допомогою , дістанемо:

                                (8.26)

У цій моделі залишки  мають скалярну дисперсійну матрицю.

Сума квадратів залишків на основі (8.26) визначатиметься співвідно­шенням

                                (8.27)

Безпосередня мінімізація функції (8.27) приводить до системи нелінійних рівнянь, тому аналітичний вираз оцінок параметрів ,  і  дістати важко.

Метод наближеного пошуку параметрів ,  і , які мінімізують суму квадратів (8.27), дає ітеративний метод, запропонований Кочреном і Оркаттом і названий на їхню честь.

Опишемо його алгоритм.

Крок 1. Довільно вибирають значення параметра , наприклад  Підставивши його в (8.27), обчислюють  і .

Крок 2. Поклавши  і , підставимо їх у (8.27) і обчислимо

Крок 3. Підставивши в співвідношення (8.27) значення , знайдемо  і .

Крок 4. Використаємо  і  для мінімізації суми квадратів залишків (8.27) за невідомим параметром . Процедура триває доти, доки наступні значення параметрів ,  і  не будуть відрізнятись менш як на задану величину.

Цей ітеративний метод, як і інші подібні процедури, має дві проблеми:

а) збіжності;

б) характеру знайденого мінімуму — локальний чи глобальний.

Проведені дослідження за цими двома проблемами показали, що в результаті застосування методу Кочрена — Оркатта завжди знаходимо глобальний оптимум і алгоритм забезпечує порівняно добру збіжність.

Часто пропонується альтернативний підхід до використання цього ітеративного методу.

На відміну від попереднього, у ньому подальші ітерації припиняються тоді, коли на основі критерію Дарбіна — Уотсона робиться висновок про відсутність автокореляції залишків.

Розглянемо алгоритм

Крок 1. Приймається гіпотеза  і мінімізується на основі 1МНК сума квадратів: . Отже, так само й далі обчислюються параметри для моделі (8.25).

Крок 2. Знаходяться залишки і на основі критерію Дарбіна — Уотсона перевіряється нульова гіпотеза відносно автокореляції залишків. Якщо гіпотеза відхиляється, то переходять до кроку 3.

Крок 3. На даному кроці мінімізується сума квадратів відхилень:

де  і  — оцінки параметрів, знайдені на першому кроці 1МНК. У результаті параметр  визначається як коефіцієнт регресії залишків, знайдених 1МНК, на їх лагові змінні, які стосуються минулого періоду.

Крок 4. Використовуючи значення оцінки параметра , визначають оцінки параметрів  і  на основі 1МНК, який застосовується до перетворених даних  і .

Крок 5. Визначаються залишки і перевіряються на наявність автокореляції. Якщо гіпотеза про наявність автокореляції відхиляється, то ітератив­ний процес припиняється. У противному разі переходимо до кроку 3, де використовуються знайдені оцінки параметрів  і .

Коли ітеративний процес припиняється, то виконується перевірка значущості параметрів з допомогою останньої економетричної моделі. У такому разі звичайні формули дадуть обгрунтовані оцінки дисперсій залишків.

8.3.4. Метод Дарбіна

Дарбін запропонував просту двокрокову процедуру, яка також дає оцінки параметрів, вони асимптотично мають той самий вектор середніх і ту саму матрицю дисперсій, що й оцінки методу найменших квадратів.

Крок 1. Підставимо значення залишків, яке підпорядковане авторегресійній моделі першого порядку  до економетричної моделі . Тоді дістанемо , де .

Звідси

де  має скалярну матрицю дисперсій.

Згідно з 1МНК визначаються параметри цієї моделі, куди входить і коефіцієнт . У результаті обчислень маємо .

Крок 2. Значення  використовується для перетворення змінних  і , а 1МНК застосовується до перетворених даних. Коефіцієнт при  є оцінкою параметра , а вільний член, поділений на , оцінює параметр .

Метод Дарбіна дуже просто поширюється на випадок кількох незалежних змінних і для автокореляції вищих порядків.

Нехай задано модель

                                (8.28)

де .

Підставивши значення  в (8.28), дістанемо:

Застосувавши 1МНК, обчислимо параметри цієї моделі. Коефіцієнти  і  використаємо для перетворення даних:

  

Знову застосуємо 1МНК для цих перетворених даних і знайдемо оцінки параметрів моделі ,

Описаний щойно ітеративний метод Кочрена — Оркатта і розглянута двокрокова процедура Дарбіна за наявності автокореляції залишків асимптотично ефективіший, ніж 1МНК.

Але при цьому постають два важливі запитання:

1) Чи будуть ці методи ефективнішими, ніж 1МНК для малих вибіркових сукупностей?

2) якою — однаковою чи різною — буде ефективність застосування методів Кочрена — Оркатта і Дарбіна для малих вибірок?

Числовий аналіз, виконаний Гриліхесом і Рао з [1] за допомогою методу Монте-Карло, дав відповідь на ці запитання.

Висновок 1. 1МНК дає менш ефективні оцінки порівняно з іншими методами, якщо сукупність спостережень n = 20 одиниць, а  > 0,3.

Висновок 2. Якщо  < 0,3, то зниження ефективності оцінок 1МНК порівняно зі складнішими процедурами невелике.

Висновок 3. Метод Дарбіна забезпечує найкращу оцінку для ширшого кола параметрів порівняно з іншими методами.

Висновок 4. Нелінійний метод оцінювання параметрів не дає відчутних переваг порівняно з двокроковою процедурою Дарбіна.