Метод наименьших квадратов

Коэффициенты, определяемые на основе метода наименьших квадратов, являются решением системы уравнений:

                                                                                          (1.1)

где

;  ;  ; .    (1.2)

 

Коэффициенты уравнений (1.3), (1.4) получаем, решив систему (1.5).

;                                          (1.3),

где  — выборочное значение корреляционного момента (ковариация), определенного по формуле: ,                                                                              (1.4)

– выборочное значение дисперсии величины , определяемой по формуле:

                                                                                            (1.5)

Оценка параметров нелинейной регрессии

2.1. Регрессии, нелинейные относительно включенных в анализ объясняющих переменных, но линейные по оцениваемым параметрам.

· равносторонняя гипербола: .                                             (2.1)

· полулогарифмическая: .                                                      (2.2)

 

При оценке параметров регрессий (1.1), (1.2) используется метод замены переменных. Суть его состоит в замене нелинейных объясняющих переменных, в результате чего нелинейные функции регрессии сводятся к линейным. К новой, преобразованной функции регрессии может быть применен обычный метод наименьших квадратов (МНК), рассмотренный в лабораторной работе №1.

 

 

Таблица 1. Возможные замены переменных

	Вид модели	Линеаризующие преобразования	Ограничения	Обратная замена переменных
1
2

 

2.2. Регрессии, нелинейные относительно оцениваемых параметров, но линейных относительно включенных в анализ объясняющих переменных.

· логарифмическая модель (степенная):                              (2.3)

· показательная: ;                                                                   (2.4)

 

Оценка параметров регрессий (1.3), (1.4), (1,5) выполняется по следующему алгоритму:

1. уравнения приводятся к линейному виду с помощью логарифмирования и последующей замены переменных;

2. оцениваются параметры преобразованного уравнения с использованием метода наименьших квадратов;

3. выполняется обратная замена переменных и записывается исходное уравнение.

 

Таблица 2. Возможные замены переменных

	Вид модели	Линеаризующие преобразования	Ограничения	Обратная замена переменных
1
2

ИССЛЕДОВАНИЕ УРАВНЕНИЯ ЛИНЕЙНОЙ РЕГРЕССИИ

Оценка тесноты связи

Линейный коэффициент корреляции. При линейной регрессии в качестве показателя тесноты связи выступает линейный коэффициент корреляции. Его значение находится в границах .

,                                                                                           (3.1)

где , , .                             (3.2)

Коэффициент детерминации. Он характеризует долю дисперсии результативного признака y, объясняемую регрессией, в общей дисперсии результативного признака.

                                                                         (3.3)

где ,

, ,                            (3.4)

C редняя ошибка аппроксимации. Средняя ошибка аппроксимации – среднее относительное отклонение расчетных значений от фактических .

                                                                       (3.5)

Построенное уравнение регрессии считается удовлетворительным, если значение  не превышает 8–10 %.

Чем выше показатель детерминации или чем ниже средняя ошибка аппроксимации, тем лучше модель описывает исходные данные.

 

⇐ Предыдущая12

Поделиться: