Обобщенный метод наименьших квадратов. Суть метода Главных Компонент.

Если нарушена гомоскедастичность и установлена автокорреляция ошибок, то обычный метод наименьших квадратов (OLD – Ordinary Least Squares) рекомендуется использовать обобщенный метод ( GLS- Generalized Least Squares). Данные при этом преобразуются, что позволяет вычислять несмещенные оценки, которые имеют меньшие дисперсии.

Суть метода заключается в том, что подбираются коэффициенты К_i, такие, что σ ²_ei =σ ² · К_i,

где σ ²_ei – дисперсия погрешности при i–ом значении фактора;

σ ² – постоянная дисперсия погрешности при соблюдении гомоскедастичности остатков;

К_i– весовой коэффициент, меняющийся с изменением значения фактора.

Уравнение парной регрессии при этом принимает вид

у_i/ = a₀/ + a₁х_i/ +e_i.

Уравнение с преобразованными переменными по отношению к стандартной регрессии представляет взвешенную регрессию, где переменные у и х взяты с весовыми коэффициентами 1/ . Аналогичный подход применяют и для множественной регрессии, уравнение с преобразованными переменными принимает вид

у/ =a₀/ +a₁х₁/ +a₂х₂/ +…+a_mх_m/ +e. (2.1)

Концепция, принятая для весового коэффициента К, определяет параметры такой модели. Довольно часто в эконометрических исследованиях рассматривается гипотеза, что ошибкиe_i пропорциональны значениям переменной. Пусть, например, издержки производства (у), объем продукции (х₁), численность работников (х₂), основные производственные фонды (х₃), тогда уравнение у =a₀ +a₁х₁ +a₂х₂ + a₃х₃ +e моделирует издержки производства с объемными показателями. Предполагая, что σ ²_ei пропорционально квадрату численности работников (т.е. = х₂), получаем в качестве результативной переменной у/х₂ – затраты на одного сотрудника, а факторами становятся производительность труда (х₁/х₂) и фондовооруженность труда (х₃/х₂). Соответственно преобразованная модель примет вид

у/ х₂ =a₃ +a₁х₁/ х₂ +a₂х₃/ х₂ +e,

где вычисленные параметры a₃, a₁, a₂ не совпадают численно с аналогичными параметрами первоначальной модели. Помимо этого, меняется экономическое содержание коэффициентов регрессии: являясь первоначально показателями силы связи, характеризующими среднее изменение издержек производства после изменения абсолютного значения соответствующей переменной на единицу, они теперь фиксируют изменение затрат на работника в среднем в зависимости от изменения производительности труда на единицу; и в зависимости от изменения фондовооруженности труда на единицу.

Если же предположить, что в первоначальной модели дисперсия ошибок прямо пропорциональна квадрату объема производства, получается уравнение регрессии

у/ х₁ =a₁ +a₂х₂/ х₁ +a₃х₃/ х₁ +e,

где у/ х₁ – затраты на единицу объема производства, х₂/х₁ – трудоемкость продукции, х₃/х₁ –фондоемкость производства.

Переход от абсолютных величин к относительным существенно снижает изменчивость фактора и уменьшает дисперсию ошибки.

Метод Главных Компонент (Principal Components Analysis, PCA) обеспечивает уменьшение размерности данных, обеспечивая при этом потерю наименьшего количества информации. Предложен К. Пирсоном в 1901 г. Он используется для:

1) уменьшения объемов хранимой информации;

2) упрощения моделей и их интерпретации;

3)наглядного представления данных.

Метод обеспечивает максимально возможную информативность и минимум искажения структуры исходных данных. При использовании данного метода вычисляются собственные вектора и собственные значения ковариационной матрицы, полученной из исходной информации. Метод главных компонент иногда называется преобразование Кархунена-Лоэва или преобразование Хотеллинга. Уменьшение размерности исходных данных может производиться и другими способами– это многомерное шкалирование, метод независимых компонент, а также другие нелинейные обобщения: поиск лучшей проекции, метод многообразий и главных кривых, самоорганизующиеся карты Кохонена, нейросетевые методы «узкого горла» и др.

Анализ главных компонент заключается в следующем:

- аппроксимация данных, использующая линейные многообразия меньшей размерности;

- нахождение подпространств меньшей размерности, в которых ортогональная проекция обеспечивает максимальное среднеквадратичное отклонение данных от их среднего значения;

- нахождение подпространств меньшей размерности, в которых ортогональная проекция обеспечивает максимизацию среднеквадратичного расстояния между точками;

- построение для данной случайной величины такого ортогонального преобразования координат, что в результате коэффициенты корреляции между отдельными переменными обратятся в ноль. Подробнее о методе главных компонент см. [9, 10].

 

⇐ Предыдущая234567891011Следующая ⇒

Поделиться:

Популярное:

1. В чем состоит суть логистической системы с фиксированным размером заказа?
2. В этой книге два главных героя - музыка и слово
3. В этом – суть построения закона и основ всех законов совершенства.
4. ВВЕДЕНИЕ В СУТЬ ТЕХНИЧЕСКОГО АНАЛИЗА
5. Верховная божественная личность сказал: «Да, Я поведаю тебе о Своих блистательных проявлениях, о Арджуна, но не о всех, а лишь о главных, ибо Мое могущество беспредельно.
6. Выбор типа здания и компоновка главных канализационных насосных станций
7. ГЛАВА 13 Трансмиссия как Суть
8. Глава 3. Предпосылки метода наименьших квадратов
9. Глава 3. Суть тайных обществ
10. Два главных открытия исторической лингвистики
11. И так развитие бытия в совершенном образе пребывания осуществляется в потенциальном конструировании или добавлении к основе частей и компонентов, являющих собой Суть преобразо-вательных моментов.
12. Кант: суть коперниканского переворота в философии