Метод наименьших квадратов (МНК).

Оценка параметров регрессии a₀ и a₁ производится по наблюденным значениям зависимой и объясняющей переменным (x_i, y_i), i=1, 2, …, n, где n – число пар наблюдений (объем выборки). Рассматриваются n уравнений у_i=a₀+a₁х_i+e_i, где уклонения e_i является следствием реализации случайной составляющей, и выбирают такие значения a₀ и a₁, которые минимизируют сумму квадратов этих уклонений, т.е. ищется минимум

Q=å _ie_i²= å _i(у_i – a₀ – a₁х_i)² (5)

по отношению к параметрам a₀ и a₁. Заметим, что указанный метод наименьших квадратов (МНК)может быть применен к любой кривой регрессии f(x). “Наилучшая” по МНК прямая линия всегда существует, но даже наилучшая не всегда является достаточно хорошей. Если в действительности зависимость у= f(x) является, например, квадратичной, то ее не сможет адекватно описать никакая линейная функция, хотя среди всех линейных функций обязательно найдется “наилучшая”.

Для отыскания минимума берутся частные производные Q по искомым параметрам (в данном случае по a₀ и a₁) и приравниваются к нулю. После выполнения элементарных преобразований получают так называемую систему нормальных уравнений, из которой и находятся искомые параметры. Для парной линейной регрессии получаем

a₁=( – × )/( – ( )²), (6)

a₀= –a₁ × =(( ) × – × )/( – ( )²),

где =å x_iy_i/n, =å x_i/n, =å y_i/n, =å х_i²/n.

Коэффициент a₁ называется коэффициентом регрессии и обозначается r_yx. Из (2) и (6) следует, что

r_yx = r_yx s_y /s_х. (7)

Если выборка имеет достаточно большой объем и хорошо представляет генеральную совокупность (репрезентативна), то заключение о тесноте линейной зависимости между признаками, полученными по данным выборки, в известной степени может быть распространено и на генеральную совокупность, т.е. можно выдвинуть гипотезу об имеющейся линейной связи во всей генеральной совокупности вида у=a₀+a₁х.

Свойства оценок МНК.

Оценки, сделанные с помощью МНК, обладают следующими свойствами:

– оценки являются несмещенными, т.е. математическое ожидание оценки каждого параметра равно его истинному значению. Это вытекает из того, что Мe=0, и говорит об отсутствии систематической ошибки в определении положения линии регрессии;

– оценки состоятельны, так как дисперсия оценок параметров при возрастании числа наблюдений стремится к нулю. Иначе говоря, надежность оценки при увеличении выборки растет;

– оценки эффективны, они имеют наименьшую дисперсию по сравнению с любыми другими оценками данного параметра (при линейной аппроксимации). В англоязычной литературе они называются BLUE (Best Linear Unbiased Estimators – наилучшие линейные несмещенные оценки).

Регрессия по эмпирическим (выборочным) данным и теоретическая регрессия.

Пример 1. Исследуем зависимость розничного товарооборота (млрд. руб.) магазинов от среднесписочного числа работников. В табл.1 во втором и третьем столбцах приведены значения соответственно объемов розничного товарооборота(у) и среднесписочного числа работников(х), а в следующих столбцах – значения необходимых расчетных величин.

Таблица 1

номер	у	х	(х – )2	(у – )2	х2	ху	ŷ	ε	ε 2
	0, 5			0, 49		36, 5	0, 43	0, 07	0, 0049
	0, 7			0, 25		59, 5	0, 661	0, 039	0, 0015
	0, 9			0, 09		91, 8	0, 998	-0, 098	0, 0096
	1, 1			0, 01		126, 5	1, 239	-0, 139	0, 0193
	1, 4			0, 04		170, 8	1, 373	0, 027	0, 0007
	1, 4			0, 04		176, 4	1, 45	-0, 05	0, 0025
	1, 7			0, 25		227, 8	1, 604	0, 096	0, 0092
	1, 9			0, 49		279, 3	1, 854	0, 046	0, 0021
сумма	9, 6			1, 66		1168, 6	9, 592	0, 001	0, 0479
средн.	1, 2		544, 5	0, 2075	13313, 5	146, 075	1, 199	0, 0001	0, 0060

 

В соответствии с (6)

a₁=( – × )/( – ( )²) =(146, 075 – 113× 1, 2)/544, 5=0, 01924;

a₀=(( ) × – × )/( –( )²)=(13313, 5× 1, 2–113× 146, 075)/544, 5= -0, 974.

Таким образом, получено уравнение регрессии

ŷ = – 0, 974 + 0, 01924х.

Экономическая интерпретация параметров линейного уравнения регрессии.

Коэффициент регрессии a₁=0, 01924 показывает, что увеличение среднесписочной численности на одного человека приводит к увеличению объема товарооборота в среднем на 19, 24 млн. руб. Это своего рода эмпирический норматив приростной эффективности использования работников данной группы магазинов. Если увеличение численности на одного работника приводит к меньшему росту объема товарооборота, то прием его на работу необоснован.

Выборочный коэффициент корреляции можно определить, используя равенство (7).

r_yx = 0, 01924√ 544, 5/0, 2075= 0, 9856,

что свидетельствует о наличии тесной линейной связи между численностью работников и розничным товарооборотом.

⇐ Предыдущая12345678910Следующая ⇒

Поделиться:

Популярное:

1. Глава 3. Предпосылки метода наименьших квадратов
2. Линейная модель парной регрессии. Метод наименьших квадратов (МНК). Свойство оценок МНК.
3. Метод наименьших квадратов (МНК). Свойства оценок на основе МНК
4. Метод наименьших квадратов используется для оценивания . . .
5. Обобщенный метод наименьших квадратов. (ОМНК).
6. Обобщенный метод наименьших квадратов. Метод Главных Компонент.
7. Обобщенный метод наименьших квадратов. Суть метода Главных Компонент.
8. Понятие о множественной регрессии. Классическая линейная модель множественной регрессии (КЛММР). Определение параметров уравнения множественной регрессии методом наименьших квадратов.
9. Разбивка сетки квадратов выполняется с помощью: (выбрать правильный ответ)
10. С.) «МЕТОД НАИМЕНЬШИХ КВАДРАТОВ»
11. Тема № 8. Обобщенный метод наименьших квадратов (ОМНК)