Архитектура Аудит Военная наука Иностранные языки Медицина Металлургия Метрология Образование Политология Производство Психология Стандартизация Технологии |
ГЛАВА IV. ПОСТРОЕНИЕ МОДЕЛЕЙ В УСЛОВИЯХ МУЛЬТИКОЛЛИНЕАРНОСТИ НЕЗАВИСИМЫХ ПЕРЕМЕННЫХСтр 1 из 12Следующая ⇒
ГЛАВА IV. ПОСТРОЕНИЕ МОДЕЛЕЙ В УСЛОВИЯХ МУЛЬТИКОЛЛИНЕАРНОСТИ НЕЗАВИСИМЫХ ПЕРЕМЕННЫХ В данной главе будут рассмотрены некоторые приемы и методы оценки коэффициентов эконометрической модели в условиях сильной корреляционной зависимости (мультиколлинеарности) между объясняющими переменными. Как было отмечено в разделе 2.1, существование сильной линейной зависимости между переменными, входящими в правую часть эконометрической модели и характеризующейся близостью значений коэффициентов парной корреляции ряда столбцов матрицы Х к единице, вызывает целый ряд проблем при оценке коэффициентов этой модели. Во-первых, это явление делает матрицу X ¢ X плохо обусловленной (ее детерминант становится близким, а в пределе равным нулю), и в этом случае МНК и ММП как методы оценки коэффициентов модели не могут быть использованы*. Во-вторых, плохая обусловленность матрицы X ¢ X своим следствием, как правило, имеет ухудшение точности оценок коэффициентов модели, рост их дисперсий. В-третьих, оценки коэффициентов модели становятся чрезвычайно чувствительными к незначительным изменениям исходных данных (значений элементов вектора у и матрицы X ), а также к ошибкам округлений числовых данных расчетов, неизбежным при обращении матрицы X ¢ X. Иными словами, незначительные изменения в исходных данных или округления результатов промежуточных расчетов вызывают резкие скачки в значениях оценок. Это говорит о неустойчивости оценок параметров моделей по отношению к исходным данным, о низкой обоснованности построенного варианта эконометрической модели, о ее неадекватности описываемому ею процессу. Вместе с тем, на практике решать проблему мультиколлинеарности путем исключения части взаимосвязанных между собой независимых переменных часто бывает нецелесообразно, поскольку, например, их взаимосвязь может отражать явление ложной корреляции, а не вытекать из содержания отображаемых ими явлений. При этом каждая из этих переменных может быть чрезвычайно важна для выражения закономерностей развития независимой переменной. Невозможность использования «классических» подходов при построении эконометрических моделей в условиях плохой обратимости матрицы ( X ¢ X ) обусловливает необходимость применения при оценке их параметров специальных процедур и методов, которые позволяют снизить отрицательное влияние высокой корреляции между объясняющими переменными на точность и достоверность получаемых оценок. Метод главных компонент Метод главных компонент является одним из самых эффективных вычислительных средств, позволяющих оценить коэффициенты эконометрической модели при плохой обусловленности матрицы ( X ¢ X ), вызванной сильной корреляционной зависимостью между некоторыми объясняющими переменными. Однако, как это будет показано далее в этом разделе, использование данного метода обычно ведет к потере части информации, содержащейся в матрице X, что, в свою очередь, является причиной того, что построенная на его основе модель может не вполне адекватно отражать закономерности рассматриваемых явлений. Вместе с тем, вычислительные преимущества метода главных компонент достаточно очевидны, что обусловливает его популярность в эконометрических исследованиях самого широкого круга процессов, особенно в ситуациях, когда число независимых переменных достаточно велико и даже не слишком значительные корреляции между ними делают матрицу X ¢ X плохо обусловленной. Основная идея метода главных компонент состоит в замене объясняющих переменных xi, i=1, 2,..., n на новые переменные zj, j=1, 2,..., k; k£ n, которые, с одной стороны, свободны от недостатков, вызванных корреляционной зависимостью, а, с другой, – содержат в себе максимально возможную долю информации “старых” переменных xi. Обычно метод главных компонент работает с центрированными переменными (см. раздел 1.1, выражение (1.13)). С учетом этого эконометрическая модель с центрированными переменными определяется выражением (1.10), в котором свободный коэффициент a0 отсутствует, т. е.
где, напоминаем, центрированные переменные определяются как и их математические ожидания равны нулю, т. е. i=1, 2,..., n. Таким образом, матрица определяется следующимвыражением: =
Выражение является мерой изменчивости переменной xi относительно ее среднего значения на интервале (1, Т). Аналогично, выражение определяет взаимную изменчивость переменных xi и xr на рассматриваемом интервале. Несложно заметить, что, если разделить эти изменчивости на Т–1, то получим дисперсию переменной xi и ковариацию переменных xi и xr соответственно. Таким образом, сумма диагональных элементов матрицы в данном случае содержит в себе всю информацию относительно изменчивости включен ных в исходную модель переменных xi. Эта сумма называется следом матрицы и обычно обозначается как tr( ). Главные компоненты (новые переменные zjt) формируются как линейные комбинации “старых центрированных переменных” с учетом введения для них двух следующих принципиальных ограничений. 1. Полная совокупность главных компонент должна содержать в себе всю изменчивость переменных xi, i=1, 2,..., n. 2. Главные компоненты должны быть ортогональны между собой, т. е. для любой пары компонент j и r, j¹ r должно выполняться соотношение
Запишем линейное представление главных компонент через центрированные переменные в следующем виде:
Заметим, что поскольку то для всех j=1, 2,..., k. С учетом этого выражение (4.20) можно интерпретировать в том смысле, что взаимная изменчивость переменных zj и zr равна нулю. В матричной форме выражение (4.21) запишем следующим образом: z 1= b 1, (4.22)
где z 1=(z11,..., z1T)¢ – вектор-столбец значений z1t первой компоненты в моменты t; b 1=(b11,..., b1n)¢ – вектор-столбец коэффициентов линейной зависимости, выражающей связь первой компоненты со значениями центрированных переменных в моменты t=1, 2,..., Т; – матрица центрированных переменных , i=1, 2,..., n, в которой столбец, состоящий из единиц, отсутствует. С учетом выражения (4.22) сумма квадратов элементов z1t, т. е. , характеризующая изменчивость первой главной компоненты, выражается следующим образом:
( z 1¢, z 1)= b 1¢ b 1. (4.23)
Определим неизвестный вектор коэффициентов b 1 таким образом, чтобы первая главная компонента вобрала в себя максимальную долю изменчивости, содержащейся в матрице , но при условии, что сами значения коэффициентов не будут влиять на эту характеристику. Это можно сделать введя нормирующее ограничение на элементы вектора b 1, которое выражается следующим соотношением
( b 1¢, b 1)=b112+b122+...+b1n2=1. (4.24)
Очевидно, что при выполнении условия (4.24) уровень изменчивости ( z 1¢, z 1) не сможет превзойти изменчивость всей матрицы . Задача максимизации квадратичной формы (4.23) при условии (4.24) может быть решена на основе метода множителей Лагранжа, согласно которому искомое решение, т. е. вектор b 1, является значением аргумента, максимизирующим следующий функционал:
f 1= b 1¢ b 1 –m1( b 1¢ b 1 –1), (4.25)
где m 1 – множитель Лагранжа. Исходя из условия оптимума ¶ji /¶ b i=0, дифференцируя правую часть (4.25) по вектору b 1 с учетом очевидного условия ¶mi /¶ b i =0, получим
( )× b 1=m1 b 1. (4.26)
Из равенства (4.26) следует, что m1 – максимальное собственное число (перронов корень), положительно определенной матрицы ( ), а b 1 – соответствующий ему собственный вектор, координаты которого должны удовлетворять соотношению (4.24). Аналогичным образом значения второй главной компоненты в моменты t=1, 2,..., Т определим как линейную комбинацию независимых переменных , i=1, 2,..., n, что может быть выражено равенством:
z 2= b 2, (4.27)
где z 2=(z21, z22,..., z2T)¢; b 2=(b21, b22,..., b2n)¢. Неизвестные коэффициенты-компоненты вектора b 2 определим из (4.27) с учетом трех отмеченных выше условий. Компонента z 2 должна вобрать в себя максимальную долю изменчивости матрицы , оставшейся после компоненты z 1, вектора z 1 и z 2 должны быть ортогональны друг другу, а координаты вектора b 2 должны быть нормированы согласно соотношению типа (4.24). Сочетание этих условий соответствует постановке задачи максимизации квадратичной формы
b 2¢ b 2®max (4.28)
при ограничениях
( b 2¢, b 1)=0. (4.30)
При этом отметим, что вид функционала (4.28) вытекает из определения изменчивости компоненты z 2 как скалярного произведения ( z 2¢, z 2)= b 2¢ b 2, выражение (4.29) является аналогом условия (4.24), а равенство (4.30) является следствием условия ортогональности компонент z 1 и z 2 . В самом деле, условие ортогональности z 1 и z 2 можно представить с учетом свойства (4.26) в следующем виде:
0=( z 2¢, z 1)= b 2¢ b 1 =m1( b 2¢, b 1). (4.31)
Из (4.31) непосредственно следует ограничение (4.30). Оптимизационная задача (4.28)–(4.30) также решается с помощью метода множителей Лагранжа как задача безусловной максимизации следующей квадратичной формы:
f2= b 2¢ b 2 –m2( b 2¢ b 2–1)–h 1( b 2¢ b 1 –0), (4.32)
где m2 и h1 – множители Лагранжа. Условие максимума (4.32) приводит к следующему выражению: ¶j 2 /¶ b 2=2 b 2–2m2 b 2–h1 b 1=0. (4.33)
Несложно показать, что множитель h1=0. Для этого умножим равенство (4.33) слева на b 1¢. В результате
2 b 1¢ b 2 –2m 2( b 1¢ b 2)–h1( b 1¢ b 1)=0. (4.34)
Поскольку
b 1¢ = b 1=m1 b 1, ( b 1¢, b 2)=0 и ( b 1¢, b 1)=1,
то из условия (4.34) непосредственно следует, что h 1= 0. В этом случае выражение (4.33) можно представить в виде аналогичном (4.26): b 2=m2 b 2. (4.35)
Из (4.35) следует, что множитель Лагранжа m 2 является вторым по величине собственным корнем матрицы ( ) и положительным числом (поскольку у положительно определенной матрицы все собственные числа положительные). Этому собственному числу соответствует собственный вектор b 2, координаты которого удовлетворяют условию (4.29). Продолжение процесса формирования главных компонент как линейных комбинаций независимых переменных приводит к следующему результату. Коэффициенты этих линейных комбинаций являются нормированными собственными векторами b 1, b 2,..., b n матрицы , которым соответствуют собственные числа m 1, m 2,..., m n, удовлетворяющие соотношению m1> m 2 ³ m3 ³...³ m n. (4.36)
Объединим вектора-столбцы b i, i=1, 2,..., n в матрицу следующего вида: В =( b 1, b 2,..., b n). (4.37)
Тогда матрица значений главных компонент Z в общем случае, имеющая размер n´ Т определяется согласно следующему выражению: Z = В, (4.38)
матрица Z ¢ Z (аналог матрицы ) с учетом свойств ортогональности компонент и нормированности векторов b i, i=1, 2,..., n имеет следующий вид: Z ¢ Z = В ¢ В = . (4.39)
Заметим, что tr Z ¢ Z, т. е. является следом матрицы Z ¢ Z и определяет общую изменчивость главных компонент. Можно формально показать, что tr( Z ¢ Z )=tr( ), (4.40)
т. е. изменчивость переменных , i=1, 2,..., n равна изменчивости главных компонент zj, j=1, 2,..., k. При доказательстве равенства (4.40) будем использовать два результата теории матриц. Первый из них относится к свойствам матрицы В. Из условий типа (4.26), (4.29) и (4.30), определяющих свойства нормированности векторов b i, i=1, 2,..., n; и их ортогональности, следует, что В ¢ В = Е. (4.41)
Таким образом, В ¢ = В –1 и для таких матриц справедливым является следующее равенство: ВВ ¢ = Е. (4.42)
Из последнего результата вытекают определенные свойства следов матриц, которые могут быть сформулированы следующим образом: для произвольной матрицы А имеет место равенство следов матриц А ¢ А и АА ¢, т. е. tr( А ¢ А )=tr( АА ¢ ). (4.43)
Как частный случай равенства (4.43) можно рассматривать следующий результат: скалярное произведение вектора-строки х ¢ на вектор-столбец х равно следу матрицы, полученной путем умножения вектора-столбца х на вектор-строку х ¢. Иными словами,
( х ¢ х )= =tr( хх ¢ ), (4.44)
где хi – координаты вектора х. С учетом свойств (4.42) и (4.44) имеем tr( Z ¢ Z )= = tr( В ¢ В )=tr( В ¢ В )=tr( )= = . (4.45)
Таким образом, отношение можно интерпретировать как вклад (долю) компоненты zj в общую изменчивость независимых факторов , i=1, 2,..., n. Иными словами, справедливым является следующее равенство:
(4.46)
Условие (4.46) является ключевым при решении вопроса о том, сколько главных компонент целесообразно включить в эконометрическую модель. Как уже было отмечено выше, в том случае, когда матрица ( ) является плохо обусловленной, но ее определитель отличен от нуля, ½ ½ ¹ 0, теоретически общее число главных компонент совпадает с числом объясняющих переменных п. Однако информативная ценность главных компонент различна. Компоненты с большими номерами, как правило, определяют лишь незначительную долю общей изменчивости переменных и их обычно не включают в эконометрическую модель. Решение о том, на какой компоненте целесообразно остановиться может быть принято на основе анализа кумулятивной переменной I(mr), определяемой как I(mr) = . (4.47) Если I(mr) определяет достаточную долю изменчивости переменных и эта доля для компоненты с номером r+1 рассматривается как относительно небольшая (на практике – менее процента от общей изменчивости), то компоненты с номерами r+1, r+2,..., k в модель обычно не включают (см. рис. 4.1), ограничиваясь первыми r номерами из них. На рис. 4.1 изображен вариант изменения кумулятивной изменчивости главных компонент. Из графика непосредственно видно, что первые четыре компоненты определяют около 95% общей изменчивости переменных , так что доля 5-й и последующих компонент явно незначительна. В этом случае в модель целесообразно включить лишь первые четыре компоненты. В том случае, если ½ ½ = 0, матрица имеет ранг r< n, у нас имеется лишь r отличных от нуля собственных чисел, которым соответствуют r главных компонент, определяющих суммарную изменчивость переменных , i=1, 2,..., n. Тогда число включаемых в модель компонент не превосходит числа r. В исследованиях реальных процессов число главных компонент обычно существенно меньше количества независимых переменных.
I(mr)
1 0, 9 0, 8 0, 7 0, 6 0, 5
1 2 3 4 5 6 7 8 9 10 k Рис.4.1. График изменения кумулятивной Вопросы к главе IV 1. Опишите процедуру оценки параметров экономерической модели с помощью рекуррентных методов? 2. В чем метода главных компонент? 3. Каковы проблемы использования моделей с главными компонентами? 4. В чем суть метода Ширли Алмон? Упражнения к главе IV Задание 4.1 Для линейного двухфакторного уравнения регрессии
yt =a0+ a1 х1t + a2 х2t +et (t=1,..., Т)
имеется следующая таблица данных:
Требуется: 1. Определить коэффициент корреляции r12и матрицу ( X *¢ X *)–1. 2. Провести следующее преобразование факторов: u1t = х1t и u2t= х1t – х2t и определить коэффициент корреляции r12(u), также матрицу ( U *¢ U *)-1. 3. Показать, что с точки зрения прогнозирования исходное и преобразованное уравнение эквивалентны, т. е. для каждой пары значений экзогенных переменных (х10, х20) дают одинаковые точечные и интервальные прогнозы математического ожидания.
Задание 4.2 Имеется линейное двухфакторное уравнение регрессии
yt =a0+ a1 х1t + a2 х2t +et (t=1,..., Т). Требуется: 1. Рассмотреть в общем виде трендовое выравнивание как метод устранения коллинеарности. 2. Показать, что при трендовом выравнивании оценки параметров регрессии остаются неизменными.
Задание 4.3 Для линейного трехфакторного уравнения регрессии
yt =a0+ a1 х1t + a2 х2t + a3 х3t +et (t=1,..., Т),
имеются следующие данные:
Требуется: 1. Определить корреляционную матрицу R и содержащийся в этих данных размер коллинеарности как det(R). 2. Рассчитать размер коллинеарности, в случае если из уравнения выводится переменная х2. 3. Учесть дополнительную внешнюю информацию, что a1=1, 5a2 и определить размер коллинеарности в этом случае. 4. Построить точечный прогноз математического ожидания целевой переменной у0 для значений экзогенных переменных (х10, х20, х30)¢ =(8, 0; 16, 0; 6, 0)¢ а) при использовании исходного уравнения; б) при отбрасывании из уравнения экзогенной переменной х2; в) при использовании внешней информации из п.3.
Задание 4.4 Для линейного трехфакторного уравнения регрессии
yt =a0+ a1 х1t + a2 х2t + a3 х3t +et (t=1,..., Т),
имеются данные из задания 4.3. Требуется: 1. Определить гребневые оценки параметров для гребневой константы, равной 0, 5 и 0, 8. 2. Построить точечный прогноз математического ожидания целевой переменной у0 для значений экзогенных переменных (х10, х20, х30)¢ =(8, 0; 16, 0; 6, 0)¢ по обоим оцененным уравнениям. Задание 4.5 Для линейного трехфакторного уравнения регрессии
yt =a0+ a1 х1t + a2 х2t + a3 х3t +et (t=1,..., Т),
имеются данные из задания 4.3. Требуется: 1. Оценить уравнение с помощью метода главных компонент, если известно, что первые две главные компоненты учитывают 98, 97% изменчивости матрицы факторов и формируются следующим образом:
2. Построить точечный прогноз математического ожидания целевой переменной у0 для значений экзогенных переменных (х10, х20, х30)¢ =(8, 0; 16, 0; 6, 0)¢ Задание 4.6 Для линейного уравнения с лаговыми независимыми переменными yt =a0 хt + a1 хt–1 + a2 хt–2 +... +et (t=1,..., Т)
имеются следующие данные (см. табл. 4.1). Таблица 4.1
Требуется: 1. Оценить параметры уравнения с помощью метода Ш. Алмон, если максимальный лаг равен 5, а порядок аппроксимирующего многочлена – 3. 2. Построить ретроспективный точечный прогноз целевой переменной yt. Вопросы к главе V 1. Какие проблемы возникают при построении моделей с лаговыми переменными? 2. Что представляет собой модель Койка? 3. Перечислите основные подходы к оценке коэффициентов эконометрической модели, содержащей лаговые зависимые переменные? 4. Каковы особенности использования инструментальных переменных в оценках параметров моделей? Упражнения к главе V Задание 5.1 Имеется модель с лаговыми эндогенными переменными. Требуется: 1. Представить модель в общем виде в матричной форме записи у = Х × a + e
и пояснить специфику матрицы Х. 2. Выяснить, какими свойствами должен обладать вектор оценок параметров a
Исходить из гомоскедастичности и отсутствия автокорреляции ошибок. 3. Дать 3 модели с лаговыми переменными, объясняющие потребление домашних хозяйств. В качестве экзогенной переменной использовать доход.
Задание 5.2 Имеется модель Койка
как частный случай модели с распределенными лагами. Требуется: 1. Показать, что это уравнение является моделью с лаговыми эндогенными переменными. 2. Показать распределение лагов для g=0, 5 и g=0, 8. 3. Определить средний лаг.
Задание 5.3 Имеется следующая модель с распределенными лагами:
где et ~(0, s2). Требуется: 1. Определить коэффициенты реакции yt на xt–j–1 для первых трех периодов. 2. Определить веса отдельных хt–j-1для j=0,..., 2 в распределении лагов. 3. Преобразовать модель в уравнение с конечным числом переменных.
Задание 5.4 Связь между ВНП и денежной массой исследуется с помощью следующей модели:
Установлено, что et не коррелированны и гомоскедастичны. Получены оценки a=0, 3 и b=0, 7. Требуется: 1. Представить исходную модель в виде геометрической модели с распределенными лагами. 2. Определить реакцию дохода в году t0+3, если денежная масса в году t0 увеличилась на 1 единицу.
Стационарные временные ряды Широкий круг социально-экономических, технических и естественнонаучных процессов часто представляется набором последовательных значений показателя у1, у2,..., уt,..., уТ, зафиксированных в равноотстоящие друг от друга моменты времени t=1, 2,... Т, так что интервал (t, t+1) является постоянным. Этот набор значений уt, t=1, 2,... обычно называется временным рядом (временной серией). Такой ряд представляет собой дискретный временной процесс. Изменения значений уt во времени в реальной жизни обычно происходят под воздействием каких-либо причин, факторов. Однако в силу их многочисленности, сложности измерения, неразработанности теоретических предположений относительно взаимосвязей с переменной у и т. п. обосновать и построить “подходящую” для описания процесса уt, t=1, 2,... многофакторную эконометрическую модель классического типа не всегда представляется возможным. В результате в отношении ряда уt часто выдвигается предположение, что совокупное влияние этих факторов формирует как бы внутренние закономерности в развитии процесса уt, что дает возможность применить для его описания эконометрическую модель из специфического класса моделей временных рядов. Модели временных рядов активно применяются в исследованиях динамики значительного числа реальных процессов различной природы. Они часто используются в исследованиях динамики пассажиропотоков, складских запасов, спроса на различные виды продукции, миграционных процессов в человеческом и биологических сообществах, в радиотехнике, анализе химических процессов, моделировании природных событий: динамики числа солнечных пятен, природных катастроф и многих других процессов. Самое широкое применение модели временных рядов нашли в исследованиях финансовых рынков, в анализе динамики финансовых показателей, прогнозировании цен на различные товары, курсов акций, соотношений курсов валют и т. п. Пожалуй, общим для всех моделей временных рядов является предположение о том, что текущее значение процесса yt в значительной степени предопределено его предысторией, т. е. величина показателя yt генерируется значениями yt–1, yt–2,... согласно характерным для этого временного ряда закономерностям. Математически это допущение может быть выражено следующим общим уравнением:
где, как и ранее, et представляет собой ошибку модели в момент t. Функция f как раз и выражает характер взаимосвязей, сложившихся в рассматриваемом временном ряду уt, t=1, 2,... При удачном подборе этой функции правая “детерминированная” часть выражения (6.1) будет в некотором смысле “близка” к реальным значениям этого ряда. Как и ранее “степень близости” обычно устанавливается по характеристикам и свойствам ряда ошибки et, t=1, 2,... Здесь имеется в виду прежде всего минимальная дисперсия, соответствие белому шуму и т. п. Для широкого круга процессов функция f имеет линейный вид. Например, Вопросы построения линейных моделей временных рядов и анализа их основных свойств и будут рассмотрены в данной главе. Линейные модели временных рядов применяются, как правило, для описания стационарных процессов. При этом обычно имеются в виду стационарные процессы второго порядка. Напомним, что стационарный процесс п-го порядка характеризуется постоянными значениями всех своих моментов порядк< Популярное:
|
Последнее изменение этой страницы: 2016-03-25; Просмотров: 1286; Нарушение авторского права страницы