Економетрія - Навчальний посібник (Наконечний С.І., Терещенко Т.О., Романюк Т.П.)

6.7. обчислення t-критеріїв

7. Метод головних компонентів використовується для оцінювання параметрів моделей великого розміру, а також моделей, до яких входять мультиколінеарні змінні.

Ідея методу полягає в тому, щоб перетворити множину змінних Х на нову множину попарно некорельованих змінних, серед яких перша відповідає максимально можливій дисперсії, друга — максимально можливій дисперсії в підпросторі, який є ортогональним до першого, і т.д.

8. Головні компоненти Zj обчислюються як добутки матриці нормалізованих пояснювальних змінних на власні вектори матриці ()aj : Zj = Xaj. Звідси сума елементів вектора дорівнює .

9. Щоб знайти головні компоненти Zj, необхідно максимізувати вектор  за таких умов:

1) ,     k = j;

2) ,   k ¹ j.

Перша умова нормалізує вектор aj, щоб він не став дуже великим, а друга умова забезпечує відсутність кореляції між Zj і Zk, бо коваріація між ними подається у вигляді  і дорівнює нулю лише тоді, коли ajak = 0. Для розв’язування цієї задачі будується функція Лагранжа:

.

З огляду на те, що  і , маємо рівняння , розв’язавши яке, знайдемо всі власні вектори матриці ()aj.

10. Головні компоненти Zj = Xaj попарно некорельовані, а їх дисперсії визначаються так:

Співвідношення  характеризують пропорційний внесок кожного з векторів до загальної варіації змінних Х, а оскільки ці компоненти ортогональні, сума всіх внесків дорівнює одиниці.

11. Алгоритм головних компонентів складається з восьми кроків.

11.1 Нормалізація всіх пояснювальних змінних:

11.2. Обчислення кореляційної матриці

11.3. Знаходження характеристичних чисел матриці r з рівняння:

де lj — характеристичні числа; E — одинична матриця.

11.4. Власні (характеристичні) числа lj упорядковуються за абсолютними значеннями.

11.5. Знаходження власних векторів aj розв’язуванням системи рівнянь:

 (r – lE)a = 0.

11.6. Обчислення головних компонентів векторів Zj:

Головні компоненти мають задовольняти умови:

;

11.7. Визначення параметрів моделі з головними компонентами

,   

11.8. Знаходження параметрів вихідної моделі:

,    

6.6. Запитання та завдання для самостійної роботи

1. Що означає мультиколінеарність змінних?

2. ознаки мультиколінеарності.

3. Як впливає наявність мультиколінеарність змінних на оцінку параметрів моделі?

4. Які статистичні критерії використовуються для виявлення мультиколінеарністі?

5. Дайте коротку характеристику алгоритму Фаррара — Глобера.

6. На чому грунтується метод головних компонентів? Коли він застосовується?

7. Як обчислити головні компоненти і які умови вони задовольняють?

8. Як оцінюються параметри моделі на основі головних компонентів?

9. Покажіть, як можна оцінити параметри моделі , скориставшись параметрами моделі .

10. Для трьох пояснювальних змінних обчислено матрицю:

.

Знайдіть характеристичні числа  цієї матриці.

11. З допомогою матриці   обчисліть власні вектори :

де  елементи   нормалізовані.

12. Обчисліть головні компоненти матриці

яка складаєься з трьох власних векторів.

Матрицю стандартизованих змінних  візьміть із прикладу 6.1.

13. Обчисліть F-критерій для визначення мультиколінеарності трьох пояснювальних змінних, якщо задано матрицю

Сукупність спостережень  n = 20.

14. Використовуючи елементи матриці C із завдання 13, обчисліть коефі­цієнти детермінації змінних. Що вони характеризують?

15. Використовуючи матрицю C із завдання 13, обчисліть t-критерій для оцінювання попарної мультиколінеарності змінних.

16. Дано модель , де Х — матриця пояснювальних змінних. Скориставшись параметрами моделі , де Z — головні компоненти, параметри даної моделі можна оцінити так:

де a — матриця, що складається з m власних векторів.

6.7. Основні терміни і поняття

Мультиколінеарність

Детермінант кореляційної матриці

Стандартизація (нормалізація)  змінних

Критерій —“хі”-квадрат

Ступені свободи

Метод головних компонентів

Ортогональні змінні

Характеристичні числа

Характеристичні (власні)  вектори

Функція Лагранжа

Множники Лагранжа

Головні компоненти

Алгоритм Феррара — Глобера