Оценка общего качества уравнения множественной регрессии

 

Значимость уравнения множественной регрессии в целом, так же как и в парной регрессии, оценивается с помощью -критерия Фишера:

, (2.16)

где – коэффициент детерминации; – количество объясняющих переменных X (в линейной регрессии совпадает с числом включенных в модель факторов); n – число наблюдений.

Частные -критерии F_xi, к примеру в случае m=2, оценивают статистическую значимость присутствия факторов х₁ и х­₂ в уравнении множественной регрессии, целесообразность включения в уравнение одного фактора после другого, т.е. F_x1 оценивает целесообразность включения в уравнение фактора x₁ после того, как в него был включен фактор x₂. Соответственно F_x2 указывает на целесообразность включения в модель фактора х₂ после фактора х₁. Необходимость такой оценки связана с тем, что не каждый фактор, вошедший в модель, может существенно увеличивать долю объясненной вариации результативного признака. Кроме того, при наличии в модели нескольких факторов они могут вводиться в модель в разной последовательности. Ввиду корреляции между факторами значимость одного и того же фактора может быть разной в зависимости от последовательности его введения в модель.

Частный -критерий построен на сравнении прироста факторной дисперсии, обусловленного влиянием дополнительно включенного фактора, с остаточной дисперсией на одну степень свободы по регрессионной модели в целом. В общем виде для фактора частный -критерий определится как

, (2.17)

где – коэффициент множественной детерминации для модели с полным набором факторов, – тот же показатель, но без включения в модель фактора , – число наблюдений, – число параметров в модели (без свободного члена).

Фактическое значение частного -критерия сравнивается с табличным при уровне значимости и числе степеней свободы: 1 и . Если фактическое значение превышает , то дополнительное включение фактора в модель статистически оправданно и коэффициент чистой регрессии при факторе статистически значим. Если же фактическое значение меньше табличного, то дополнительное включение в модель фактора не увеличивает существенно долю объясненной вариации признака , следовательно, нецелесообразно его включение в модель; коэффициент регрессии при данном факторе в этом случае статистически незначим.

Для двухфакторного уравнения частные -критерии имеют вид:

, . (2.17а)

С помощью частного -критерия можно проверить значимость всех коэффициентов регрессии в предположении, что каждый соответствующий фактор вводился в уравнение множественной регрессии последним.

 

Решение типовых задач

Задача 2.6.1.

Рассмотрим в качестве примера множественной регрессии двухфакторную линейную модель. Исходные данные представлены в таблице 2.6.1.

Таблица 2.6.1

№ группы	Расходы на питание (y)	Душевой доход (x1)	Размер семьи (x2)
			1, 5
			2, 1
			2, 4
			2, 7
			3, 2
			3, 4
			3, 6
			3, 7
			3, 7

 

Необходимо:

1. по МНК определить параметры множественной линейной регрессии ;

2. оценить статистическую значимость найденных эмпирических коэффициентов регрессии b­₁, b₂;

3. сравнить влияние факторов на результат при помощи средних коэффициентов эластичности;

4. построить 95-% доверительные интервалы для найденных коэффициентов;

5. вычислить коэффициент детерминации R² и оценить его статистическую значимость при α = 0, 05;

6. Проверить качество построенного уравнения регрессии с помощью F-статистики Фишера.

7. Оценить целесообразность включения в уравнение одного фактора после другого с помощью частных F-статистик Фишера.

Решение:

Определим по МНК коэффициенты уравнения регрессии. Для этого нам необходимо рассчитать следующую таблицу:

 

Для вычисления коэффициентов уравнения регрессии необходимо определить значения 6-ти сумм:

1. = =

2. = =

3. = =

4. = =

5. = =

6. = =

Подставим полученные значения 6-ти сумм в формулы для расчета коэффициентов уравнения регрессии (m=2):

или

= =0, 072;

= =343, 293;

= = -190, 63.

Таким образом, мы получили эмпирические значения параметров множественной линейной регрессии, которая имеет следующий вид:

= - 190, 63+0, 072x₁+343, 293x₂

Рассмотрим матричный вид определения вектора оценок коэффициентов регрессии

а. Определим вектор оценок коэффициентов регрессии. Согласно методу наименьших квадратов, вектор получается из выражения:

B = (X^TX)^-1X^TY

 

Матрица X Матрица Y

		1, 5
		2, 1
		2, 4
		2, 7
		3, 2
		3, 4
		3, 6
		3, 7
		3, 7

 

Матрица X^T

1, 5	2, 1	2, 4	2, 7	3, 2	3, 4	3, 6	3, 7		3, 7

 

б. Умножаем матрицы, (X^TX)

в. Умножаем матрицы, (X^TY)

г. Находим определитель det (X^TX)^T = 7865492387

д. Находим обратную матрицу (X^TX)^-1

е. Вектор оценок коэффициентов регрессии равен:

B = (X^TX)^-1X^TY

Таким образом, мы получили уравнение регрессии: y = -190, 6301 + 0, 072x₁ + 343, 293x₂

2. оценим статистическую значимость найденных эмпирических коэффициентов регрессии b­₁, b₂ с помощью t-статистики Стьюдента. Для этого сначала необходимо определить стандартные ошибки коэффициентов корреляции:

= =2207, 582

или

= =0, 0000169

 

= =719, 75304

 

Определим значения t-статистик для каждого из коэффициентов:

=17, 5

=12, 7

Сравним полученные расчетные значения t-статистики Стьюдента с соответствующим критическим значением (см. таблица Распределение Стъюдента):

= = = =2, 365

Так как , мы делаем вывод о том, что оба коэффициента сильно значимы для построенной модели.

3. Рассчитаем средние коэффициенты эластичности для коэффициентов, входящих в уравнение множественной регрессии по следующей формуле:

Таким образом, в случае изменения фактора X­­₁ (доход семьи) на 1% зависимая переменная Y (расходы на питание) изменится на 0, 326%, а если фактор X₂ (количество человек в семье) изменится на 1%, то значение параметра Y изменится на 0, 826%. Следовательно, большей чувствительностью модель обладает по фактору количество человек в семье.

 

4. Построим 95-% доверительные интервалы для найденных коэффициентов:

Таким образом, если по другим выборкам мы получим значение коэффициентов, принадлежащие этим интервалам, то мы можем утверждать, что уравнение регрессии покажет такое же поведение для Y как определенное по выборке.

5. Определим коэффициент детерминации R² и оценим его статистическую значимость при α = 0, 05

= = 0, 995

Следовательно, учтенные в модели факторы на 99, 5% определяют поведение зависимой переменной Y.

6. Проверим качество построенного уравнения регрессии с помощью F-статистики Фишера:

= = 696, 5

Сравним полученные расчетные значения F-статистики Фишера с соответствующим табличным значением (см. таблица Распределение Фишера):

= = = = 19, 4

Следовательно, так как , мы делаем вывод о том, что модель имеет хороший уровень качества.

6. Оценим целесообразность включения в уравнение одного фактора после другого с помощью частных F-статистик Фишера

=

=

В нашем случае = 160, 2173; = 300, 0869; = 23, 68 (для числа степеней свободы 7 и 1 соответственно и уровня значимости 0, 05)

Сравнивая значения и (300, 0869 > 23, 68), делаем вывод о том, что включение в модель фактора X₂ после фактора X₁ улучшает модель.

Сравнение и (160, 2173 > 23, 86) также показывает, что включение в модель дополнительного фактора X₁ после того, как фактор X₂ уже включен в уравнение улучшает модель, но не на столько как в первом случае. Поэтому приходим к выводу о целесообразности включения фактора X₂ после X₁ и что оба фактора одинаково значимы для построенной модели.

 

Рассмотрим решение задачи с помощью Excel

Ехсеl позволяет при построении уравнения линейной регрессии большую часть работы сделать очень быстро. Важно понять, как интерпретировать полученные результаты. Воспользуемся надстройкой Пакет анализа.

Сервис — Анализ данных — Регрессия — ОК. Появляется диалоговое окно, которое нужно заполнить. В графе Входной интервал Y: указывается ссылка на ячейки, содержащие значения результативного признака у. В графе Входной интервал Х: указывается ссылка на ячейки, содержащие значения факторов х₁,..., х_m (m≤ 16). Если первые из ячеек содержат пояснительный текст, то рядом со словом Метки нужно поставить «галочку» Уровень надежности (доверительная вероятность) по умолчанию предполагается равным 95%. Если исследователя это значение не устраивает, то рядом со словами Уровень надежности нужно поставить «галочку» и указать требуемое значение. Поставив «галочку» рядом со словом константа-ноль, исследователь получит b₀ =0 по умолчанию. Если нужны значения остатков е_i и их график, то нужно поставить «галочки» рядом со словами Остатки и График остатков. ОК. Появляется итоговое окно.

Если число в графе Значимость F превышает 1 — Уровень надежности, то принимается гипотеза R² = 0. Иначе принимается гипотеза R² ≠ 0.

Р-значение — это значения уровней значимости, соответствующие вычисленным t-статистикам. Р-значение = СТЬЮДРАСП (t -статистика; n-m-1) (статистическая функция мастера функций ƒ _x). Если Р-значение превышает 1 — Уровень надежности, то соответствующая переменная статистически незначима и ее можно исключить из модели.

Нижние 95% и Верхние 95% — это нижние и верхние границы 95-процентных доверительных интервалов для коэффициентов теоретического уравнения линейной регрессии. Если исследователь согласился с принятым по умолчанию значением доверительной вероятности 95%, то последние два столбца будут дублировать два предыдущих столбца. Если исследователь вводил свое значение доверительной вероятности p, то последние два столбца содержат значения соответственно нижней и верхней границы p-процентных доверительных интервалов.

 

Таким образом, при определении зависимости расходов на питание (Y) от размера дохода (X₁) и от количества человек в семье (X₂) было обнаружено, что при неизменном значении параметра количество человек в семье и изменения на 1 у.е. размера дохода семьи, расходы на питание вырастут на 0, 07 у.е. В то же время, если не измениться доход семьи, а количество человек станет на одного больше, то расходы в семье вырастут на 343, 29 у.е.

Поскольку > нулевая гипотеза отклоняется, то есть можно сделать вывод о статистической значимости уравнения в целом. Все выше обозначенные выводы позволяют сделать, что двухфакторная модель зависимости расходов на питание от душевого дохода и размера семьи является статистически значимой, надежной и может использоваться для прогнозов.

 

Упражнения и задачи

 

Задача 2.7.1

По 10-ти предприятиям изучается зависимость объема выпуска продукции от численности персонала и расхода материалов. Даны:

Коэффициент детерминации: ?

Множественный коэффициент корреляции: 0, 80

Уравнение регрессии: y =? +0, 48x₁ +70x₂ +1, 2x₃

Стандартные ошибки параметров (S): 2 0, 06? 0, 24

t-критерий для параметров 1, 5? 4?

Восстановить пропущенные характеристики оценки значимости уравнения.

 

Задача 2.7.2.

Проверить гипотезу H₀ о статистической незначимости уравнения регрессии, если индекс корреляции r_xy=0, 4, число измерений 10, число параметров 3. (По критерию Фишера).

 

Задача 2.7.3.

По 20-ти предприятиям концерна изучается зависимость прибыли y от выработки продукции на одного работника x₁ и индекса цен x₂. Полученные данные:

, , ,

, , ,

, ,

Найдите уравнение множественной регрессии в стандартизированном натуральном масштабе.

 

 

Задача 2.7.4.

По 20 наблюдениям получены следующие результаты:

; ; ;

; ; ;

; ; ; .

a) Оцените коэффициенты линейной регрессии

b) Определите стандартные ошибки коэффициентов;

c) Вычислите и ;

d) Оцените 95%-е доверительные интервалы для коэффициентов b₁ и b₂;

e) Оцените статистическую значимость коэффициентов регрессии и детерминации при уровне значимости a=0, 05;

f) Сделайте выводы по модели.

 

Задача 2.7.5.

Для оценки коэффициентов уравнения регрессии вычисления проведены в матричной форме при n = 30.

;

;

a) Определите эмпирические коэффициенты регрессии;

b) Оцените их дисперсию и ковариацию cov(b₁, b₂)

c) С доверительной вероятностью g = 0, 95 оценить значимость коэффициентов регрессии и для значимых коэффициентов определить доверительные интервалы, оценить значимость уравнения регрессии.

 

 

Задача 2.7.6

Вычислить эластичность в общем виде и в точке x = 1 для функции:

y = 3x² + 2/x

где x₁ = x², x₂ = 1/x

 

Задача 2.7.7.

Предполагается, что объем предложения товара у линейно зависит от цены товара Х₁ и зарплаты со­трудников X₂: у=β ₀+β ₁X₁+β ₂X₂. Статистические данные собраны за 14 месяцев.

x1

x2

y

 

 

Найти:

1. Оценить по МНК коэффициенты теоретического уравнения множественной регрессии ;

2. Дайте сравнительную оценку силы связи факторов с результатом с помощью средних (общих) коэффициентов эластичности;

3. Оценить статистическую значимость параметров регрессионной модели с помощью t-критерия; нулевую гипотезу о значимости уравнения и показателей тесноты связи проверьте с помощью F-критерия;

4. Рассчитайте доверительный интервал прогноза для уровня значимости 5% (α = 0, 05);

 

Автокорреляция

 

⇐ Предыдущая12345678910Следующая ⇒

Поделиться:

Популярное:

1. A. Оценка будущей стоимости денежного потока с позиции текущего момента времени
2. F. Оценка будущей стоимости денежного потока с позиции текущего момента времени
3. G) определение путей эффективного вложения капитала, оценка степени рационального его использования
4. I. Самооценка и уровень притязаний
5. Агрономическая оценка ПЗВ в метровом слое почвы
6. Агроэкологическая оценка земель конкретного хозяйства и распределение их по группам пригодности для возделывания сельскохозяйственных культур
7. Агроэкологическая оценка севооборотов
8. Акустический метод контроля качества опорно-стержневых изоляторов. Хроматограф.
9. Анализ и оценка движения денежных средств
10. Анализ и оценка инвестиций в реальные активы на основе дисконтированного потока денежных средств. Чистая приведенная стоимость (NPV) проекта.
11. Анализ и оценка ликвидности и платежеспособности
12. Анализ и оценка потенциального банкротства