Особенности оценки параметров нелинейных моделей

⇐ ПредыдущаяСтр 11 из 16Следующая ⇒

Нелинейная модель, а точнее нелинеаризуемая форма основного уравнения эконометрической модели, создает существенные трудности при оценке значений ее параметров. Кроме того, некоторые проблемы в этом случае возникают и при определении характеристик качества построенных вариантов модели, включая и показатели точности найденных значений их параметров. В основном появление этих (и некоторых других) проблем обусловлено невозможностью получения решения задачи оценивания параметров в аналитическом виде, как это имело место а случае линейных эконометрических моделей.

Поясним происхождение этих проблем на примере двухфакторной нелинейной модели следующего вида:

Попытаемся использовать при определении оценок a₀, a₁, a₂ ее параметров a₀, a₁, a₂ метод наименьших квадратов при условии, что значения переменных у_t, х_1t и х_2t, t=1, 2,..., Т известны. Сумма квадратов ненаблюдаемых значений ошибки е_t, t=1, 2,..., Т; в данном случае может быть представлена в следующем виде:

В соответствии с выбранным критерием искомые значения оценок a₀, a₁, a₂ должны удовлетворять условию минимума функции S², что приводит к появлению трех уравнений: Учитывая, что S² определено выражением (11.2), представим эти уравнения в виде следующей системы (аналога системы нормальных уравнений):

Несложно заметить, что уравнения системы (11.3) являются нелинейными относительно неизвестных значений a₀, a₁ и a₂. При этом нелинейность в данном случае усугубляется необходимостью суммирования сложных функций, выраженных отношениями и квадратами зависимой и независимой переменных модели. Решение системы (11.3) можно получить, только используя достаточно сложные итеративные процедуры нахождения ее корней. При этом следует заметить, что для другой формы эконометрической зависимости, отличной от выражения (11.1) будет получена и другая, отличная от вида (11.3) система нелинейных уравнений. Для ее решения возможно придется применять и другую процедуру, учитывающую специфические особенности формы ее уравнений.

Процедура решения таких систем еще более усложняется, если в левой части эконометрической модели стоит не просто переменная у_t, а некоторая ее функция g(у_t, b ), зависящая от некоторого набора параметров b₁, b₂, ..., b_k. Примером такой функции является степенная g(у_t, b )= В этом случае заметим, что сумма квадратов ошибки эконометрической модели

при произвольно выбранных значениях оценок ее параметров b_k, k=0, 1..., a_j, j=0, 1... может быть представлена в следующем виде:

где f_t( a, x )=f_t(a₀, a₁,..., x_1t,..., x_nt* ) – нелинейныйотносительно коэффициентов a_j и возможно независимых переменных функционал, j=0, 1,..., i=1, 2,..., n; e_t – ошибка модели; a =(a₀, a₁,...); b =(b₀, b₁,...) – векторы оценок параметров модели (11.4); x – вектор значений независимых переменных, соответствующих значению у_t.

В этом случае система нормальных уравнений, решениями которой являются “оптимальные” по МНК оценки, должна включать в себя и уравнения типа:

Аналогичные проблемы возникают и при получении оценок параметров нелинейных эконометрических моделей с использованием метода максимального правдоподобия. Заметим, что при использовании этого метода предполагаются известными тип закона распределения ошибки модели e_tи возможно некоторые его параметры (как правило, математическое ожидание равное нулю).

Как это было отмечено в главе II, обычно на практике закон распределения ошибки предполагается нормальным. В этом случае при обычном для нелинейных моделей предположении относительно независимости разновременных значений ошибки функция плотности наблюдаемой зависимой переменной у_t в момент времени t может быть представлена в следующем виде:

где выражение

является якобианом преобразования; s²=s_e² – дисперсия ошибки модели (11.4).

Как было отмечено в разделе 2.5, оптимальные оценки a параметров a модели (11.4) должны обеспечивать максимум логарифма функции правдоподобия, который в данном случае имеет следующий вид:

Уравнения максимального правдоподобия относительно неизвестных оценок параметров модели (11.4) и ее дисперсии s² в данном случае имеют следующий вид:

Анализируя вид уравнений системы (11.9), можно сделать два вывода.

Во-первых, система уравнений максимального правдоподобия нелинейной эконометрической модели, содержащей в левой части нелинейную функцию зависимой переменной g(у_t, b ), отлична от соответствующей системы уравнений максимального правдоподобия модели, в новой части которой находятся просто значения зависимой переменной у_t. Это отличие обусловлено необходимостью учета якобиана в первом уравнении системы (11.9).

В этом несложно убедиться, рассмотрев систему нормальных уравнений для критерия минимума выражения (11.5). Она в общем случае будет иметь следующий вид:

В том случае, когда в левой части нелинейной эконометрической модели стоят наблюдаемые непреобразованные значения у_t, т. е. g(у_t, b )=у_t, то очевидно, что первые группы уравнений в системах (11.9) и (11.10) отсутствуют, а вторые – совпадают, с учетом того, что e_t =у_t –f_t( a, x ).

Второй вывод свидетельствует о том, что выражение для оценки дисперсии нелинейной эконометрической модели при любой ее левой части совпадает с аналогичным выражением (2. ), полученным для линейного его варианта. Как непосредственно вытекает из последнего уравнения системы (11.9), оценка дисперсии нелинейной модели определяется следующим выражением:

где е_t – оценка ошибки e_t, полученная при оптимальных оценках параметров модели a_j, b_k, k=0, 1,... j=0, 1,...

Сопоставим методы максимального правдоподобия и МНК. Заметим, что в методе максимального правдоподобия важное значение имеет выбор обоснованного (правильного) закона распределения ошибки эконометрической модели. Несоответствие исходной гипотезы относительно типа ее закона распределения и реалий может значительно снизить качество оценок параметров нелинейной эконометрической модели, полученных с использованием ММП. В этой связи МНК использует менее строгие исходные предпосылки относительно распределения ошибки модели e_t, и многие из желательных свойств оценок (состоятельность, эффективность и несмещенность), полученные с использованием этого метода, как правило, сохраняются (хотя бы приблизительно) и для нелинейных моделей при любом законе распределения ошибки.

Вместе с тем, как было показано ранее, и в случае МНК возникает проблема решения нелинейных (нормальных) уравнений, относительно неизвестных значений параметров модели. Эта проблема усложняется при более сложном характере ошибки e (наличии автокорреляционных связей, гетероскедастичности). Кроме того, численные итеративные процедуры получения решений часто не являются универсальными. Их необходимо корректировать с учетом вида нормальных уравнений, в свою очередь, зависящего (см. выражение (11.3)) от предполагаемой формы эконометрического уравнения f_t( a, x ).

В этой связи на практике, по-видимому, проще определять искомые значения оценок параметров нелинейных эконометрических моделей, используя достаточно общие для всех их возможных вариантов подходы, основанные на использовании итеративных процедур поиска минимума непосредственно рассматриваемой целевой функции, выраженной в виде суммы квадратов ошибки S².

В дальнейшем, в целях упрощения изложения без ограничения общности будем полагать, что левая часть нелинейной эконометрической модели содержит только непреобразованные значения у_t, т. е. g(у_t, b )=у_t.

Для произвольного (j-го) варианта эконометрической модели, характеризующегося заданной формой основного функционала f_t( a ^j, x ), с известными значениями его параметров, представленными вектором a ^j=(a₀^j, a₁^j,..., a_п^j), сумма квадратов его ошибки с учетом выражения (11.4) может быть представлена в следующем виде:

где е_jt – значение ошибки в момент времени t, соответствующее выбранному j-му набору ее параметров, рассматриваемому как оценка “теоретической” ошибки e_t.

В некоторых исследованиях вместо выражения (11.12) предпочтительнее рассматривать взвешенную сумму квадратов ошибки, определяемую следующим образом:

где р_t – весовой коэффициент, учитывающий значимость информации в момент t для оценки коэффициентов модели (см. выражения (3.44), (3.45) раздел 3.2); q_t=р_t²– весовой коэффициент, учитывающий значимость квадрата невзвешенной ошибки модели.

В некоторых случаях значения коэффициентов q_tи р_tмогут отражать характер гетероскедастичности ошибки рассматриваемой модели (раздел 3.2).

В качестве оптимальных оценок параметров a₀, a₁,..., a_п модели (11.4) в соответствии с критерием минимума суммы наименьших квадратов ошибки должны быть выбраны значения a₀, a₁,..., a_п, обеспечивающие минимум выражения (11.12) (или (11.13)) по всему множеству наборов таких значений, т. е.

В дальнейшем, без ограничения общности, рассмотрим особенности построения нелинейных эконометрических моделей с использованием выражения (11.12).

При решении задачи минимизации выражения (11.12) на практике необходимо учитывать ряд обстоятельств.

Во-первых, априорно (т. е. до проведения каких-либо расчетов) функция S²( a ^j) не может быть представлена в аналитической форме записи (например, как многочлен некоторой степени по своим аргументам).

Во-вторых, можно предположить, что эта функция является непрерывной по этим аргументам.

В-третьих, в некоторой области существования минимума она может рассматриваться как выпуклая функция от своих аргументов. В общем случае может допускаться несколько таких непересекающихся областей, на каждой из которых эта функция достигает локального минимума.

При таких, достаточно естественных, условиях задача оценивания параметров нелинейной эконометрической модели является задачей минимизации нелинейного функционала (11.12) в пространстве параметров a ^jпри известных значениях зависимой и независимых переменных у_t и х_it соответственно, t=1, 2,..., Т; i=0, 1,..., n. Для решения такой задачи в предположении о детерминированности исходных данных могут быть использованы хорошо известные методы, в основе которых лежат итеративные процедуры поиска минимума нелинейной функции. В общем случае их можно разделить на две большие группы: методы без производных и методы с производными. К первой группе относится, например, метод прямого поиска, ко второй – метод Гаусса-Зайделя, градиентные методы, метод Макуардта.

В основе приведенной классификации методов лежит достаточно простой признак. Если для реализации метода не требуется рассчитывать значения производных каких-либо функций, то этот метод относится к группе методов без производных. В противном случае, т. е. когда при реализации метода расчет производных необходим, то он относится к группе методов с производными.

При этом заметим, что производные обычно используются при формировании итерационной процедуры поиска минимума функции суммы квадратов ошибки модели по своим аргументам a₀, a₁,..., a_п, основанной на линейной аппроксимации либо формы (функционала) эконометрической модели, либо самой целевой функции, т. е. суммы квадратов ошибки. Вследствие этого методы с производными, в свою очередь, обычно разделяются на две подгруппы. Первую из них составляют методы, предполагающие линеаризацию уравнения модели, а вторую – методы, предполагающие линеаризацию целевой функции. К первой группе, например, относится метод Гаусса-Зайделя, ко второй – градиентные методы, метод Макуардта.

Рассмотрим особенности некоторых из перечисленных методов более подробно.

Метод прямого поиска

Использование метода прямого поиска при нелинейном оценивании имеет определенные как преимущества, так и недостатки по сравнению с другими методами. Его преимущества обусловлены достаточно несложной логической схемой расчетов и их относительной простотой. Его недостатком является небольшая скорость расчетов, что требует для получения результатов относительно много времени, особенно, когда количество оцениваемых параметров модели велико. Однако этот недостаток становится не слишком существенным при использовании компьютеров с высоким быстродействием.

Процесс получения оценок параметров эконометрической модели согласно методу прямого поиска реализуется на основе определенного алгоритма, логика которого состоит в следующем.

1. На первом этапе выбираются начальные оценки параметров эконометрической модели a_i⁽⁰⁾, i=0, 1,..., n; и их приращения Da_i. Для заданных значений параметров рассчитывается значение суммы квадратов ошибок S₀²=S²( a ⁽⁰⁾). Затем каждое исходное значение a_i⁽⁰⁾ заменяется на следующий его вариант

a_i⁽¹⁾= a_i⁽⁰⁾+ Da_i. (11.15)

Для i=0, 1,..., n; последовательно рассчитываются значения S₀²(a_i⁽¹⁾). Если при этом S₀²(a_i⁽¹⁾)< S₀², то значение a_i⁽¹⁾ принимается в качестве нового значения приближения к исходной оценке i-го параметра модели, в противном случае, т. е. когда S₀²(a_i⁽¹⁾)> S₀², то в качестве такого приближения выбирается значение a_i⁽¹⁾=a_i⁽⁰⁾–Da_i. Если оказывается, что и в том, и в другом случае сумма квадратов ошибки увеличивается, то в качестве оценки параметра a_iэконометрической модели используется исходное значение a_i⁽⁰⁾.

Таким образом, на первом шаге метода прямого поиска определяется направление движения к вектору “оптимальных” оценок a параметров модели по каждой координате. Значения приближений a_i⁽²⁾ на втором шаге уже определяются по одной из двух формул a_i⁽¹⁾=a_i⁽⁰⁾±Da_i, и если S₂²(a_i⁽²⁾)< S₁², то движение в выбранном направлении продолжается, в противном случае, т. е. когда S₂²³ S₁², в качестве оценки i-го параметра модели выбирается значение a_i⁽¹⁾. Заметим, что S₁² представляет в данном случае сумму квадратов ошибки модели, определенную согласно выражению (11.12) при векторе оценок ее параметров a_i⁽¹⁾.

Процесс определения “оптимальных” оценок параметров эконометрической модели составляет определенное количество шагов до тех пор, пока изменения значений отдельных параметров в любом направлении (уменьшения или увеличения) не будут приводить к росту полученного на предыдущем этапе значения суммы квадратов ошибки S_j². Здесь j индекс характеризует номер предпоследнего этапа расчетов. Однако при этом следует иметь в виду, что найденное таким образом решение, представляющее собой вектор оценок j-го шага расчетов еще нельзя рассматривать в качестве окончательного, т. е. оптимального варианта искомых оценок.

Данный вывод является следствием двух обстоятельств. Во-первых, точность оценки, определяемой по положению точки оптимума, зависит от длины шага расчетов Da_i. С одной стороны, если длину шага выбрать достаточно небольшой, то, очевидно, что искомые оценки будут определяться с большей точностью (однако и в этом случае исследователь не застрахован от ошибки приближения). С другой стороны, при небольшой длине шага значительно увеличивается время расчетов.

Выход из создавшегося положения на практике обычно видят в использовании в расчетах шагов разной длины. Сначала, применяя большие шаги, ищут приблизительную область существования оптимальных оценок параметров, центром которой выбирается решение полученное на j-м этапе a ^j. Затем длина шага существенно уменьшается и это решение с помощью той же процедуры уточняется.

На практике можно использовать процедуры расчетов с несколькими вариантами длин шагов, уменьшающимися в порядке их следования. При этом длину последнего шага теоретически можно выбирать бесконечно малой. На практике естественно ограничиваются некоторой конечной величиной шага и решение о прекращении дальнейших уточняющих положение оптимума шагов принимается, если значение суммы квадратов ошибки изменяется в пределах заданного интервала точности. Иными словами, если для j+1-го шага (уточняющего) выполняется условие |S_j²–S_j₊₁²|£ J, где J³ 0 – величина, определяющая точность расчетов, то процедура расчетов прекращается и в качестве решения выбирается полученный на j-м (или на j+1-м) шаге вектор оценок a ^j( a ^j⁺¹).

Во-вторых, описанная выше процедура может привести к локальному минимуму S². Иными словами, функция S²( a, x ) может иметь несколько минимумов по своим параметрам, каждый из которых находится в определенной области их значений. При этом априорно, вообще говоря, количество локальных минимумов у суммы квадратов ошибки установить не представляется возможным.

Исследователя естественно интересует положение “глобального” минимума, в качестве которого может быть рассмотрен наименьший из некоторого набора локальных. В такой ситуации необходимо попытаться определить все возможные локальные минимумы в некоторой допустимой достаточно широкой области существования оценок параметров эконометрической модели и выбрать среди них наименьший по величине. Эта область может быть ограничена, исходя из некоторых содержательных предпосылок относительно их предельных (минимальных и максимальных) допустимых значений параметров модели.

Данная задача решается с помощью того же метода прямого поиска путем задания различных вариантов начальных значений параметров a ⁰, находящихся на разных участках допустимой области их существования. При этом может сложиться ситуация, когда при всех вариантах начальных значений получают одно и то же решение. Это является определенной гарантией существования одного минимума в рассматриваемой области. В противном случае, когда разные начальные значения параметров a ⁰приводят к различным минимумам функции S²( a, x ), из них необходимо выбрать наименьший и в качестве решения задачи оценки параметров эконометрической модели – выбрать соответствующие ему значения параметров a₀, a₁,..., a_п.

Несложно заметить, что допустимая область существования оценок параметров эконометрической модели может быть определена в виде системы неравенств следующего вида:

a_i_*£ a_i£ a_i^*, (11.16)

где a_i_*и a_i^* – нижняя и верхняя границы соответственно допустимой области существования значений параметра a_iмодели.

⇐ Предыдущая 6 7 8 9 101112 13 14 15 Следующая ⇒