Задача регрессии. Метод наименьших квадратов.

 

Ищем функцию регрессии в виде (1.1). Оценки коэффициентов находим с помощью МНК, при этом наименьшими будут оценки, обеспечивающие минимум квадратов отклонений оценочной функции регрессии от экспериментальных значений температуры; суммирование ведут по всем экспериментальным точкам, т.е. минимум величины S:

                                  (2.1)

В нашем случае необходимым т достаточным условием минимума S будут:

Где k = 0, 1, 2.          (2, 2)

 

Из уравнений (2.1) и (2.2) получаем:

                                  (2.3)

Сумма

Система (2.3) примет вид:

                                  (2.4)

В результате вычислений получаем S_k и V_j. Обозначим матрицу коэффициентов уравнения (2.4) через “p”:

Методом Гаусса решаем систему (2.4) и найдём обратную матрицу p^-1. В результате получаем:

Подставляя в (2.1) найденные значения оценок коэффициентов а_к, находим минимальное значение суммы S:

                         S_min=0.7597

При построении доверительных интервалов для оценок коэффициентов определяем предварительно точечные оценки.

Предполагается, что экспериментальные значения x_i измерены с пренебрежимо малыми ошибками, а случайные ошибки измерения величины U_i независимы и распределены по нормальному закону с постоянной дисперсией s², которая неизвестна. Для имеющихся измерений температуры U_i неизвестная дисперсия оценивается по формуле:

Где r – число степеней свободы системы, равное разности между количеством экспериментальных точек и количеством вычисляемых оценок коэффициентов, т.е. r = 3.

Оценка корреляционной матрицы имеет вид:

 

Оценки дисперсий параметров оценок коэффициентов найдём по формулам:

 Где S_k – минор соответствующего диагонального элемента матрицы нормальной системы;

D - главный определитель нормальной системы.

В нашем случае:

S₀=3.5438 10^-22

S₁=-8.9667 10^-14

S₂=6.3247 10^-7

Откуда:

Найденные оценки коэффициентов распределены по нормальному закону, т.к. линейно зависят от линейно распределённых экспериментальных данных Ui.

Известно, что эти оценки несмещённые и эффективные. Тогда случайные величины:

 Имеют распределения Стьюдента, а r = 3.

Выбираем доверительную вероятность b=0, 9 и по таблице Стьюдента находим критическое значение g_b  равное 2, 35, удовлетворяющее равенству:

Доверительные интервалы для коэффициентов:

                                  (2.4*)

В нашем случае примут вид:

 

Проверка статистической гипотезы об адекватности модели задачи регрессии.

 

Имеется выборка объёма n экспериментальных значений (x_i; U_i). Предполагаем, что ошибки измерения x_i пренебрежимо малы, а случайные ошибки измерения температур U_i подчинены нормальному закону с постоянной дисперсией s². Мы выбрали функцию регрессии в виде:

Выясним, нельзя ли было ограничиться многочленом второго порядка, т.е. функцией вида:

                                  (2.5)

C помощью МНК можно найти оценки этих функций и несмещённый оценки дисперсии отдельного измерения Ui для этих случаев:

Где r₁ = 4 (количество точек – 6, параметра – 2).

Нормальная система уравнений для определения новых оценок коэффициентов функции (2.5)с помощью МНК имеет вид:

                                  (2.7)

Решая эту систему методом Гаусса, получим:

                                                                        (2.8)

Чем лучше функция регрессии описывает эксперимент, тем меньше для неё должна быть оценка дисперсии отдельного измерения Ui, т.к. при плохом выборе функции в дисперсию войдут связанные с этим выбором дополнительные погрешности. Поэтому для того, чтобы сделать выбор между функциями U(x) и U(1)(x) нужно проверить значимость различия между соответствующими оценками дисперсии, т.е. проверить гипотезу:

Н0 – альтернативная гипотеза

 

Т.е. проверить, значимо ли уменьшение дисперсии при увеличении степени многочлена.

В качестве статического критерия рассмотрим случайную величину, равную:

                                  (2.9)

имеющую распределение Фишера с(r; r₁) степенями свободы. Выбираем уровень распределения Фишера, находим критическое значение F^*_a, удовлетворяющее равенству: p(F> F^*_a)=a

В нашем случае F=349.02, а F^*_a=10, 13.

Если бы выполнилось практически невозможное соотношение F> F_a, имевшее вероятность 0, 01, то гипотезу Н₀ пришлось бы отклонить. Но в нашем случае можно ограничиться многочленом

, коэффициенты в котором неодинаковы.

 

12Следующая ⇒

Поделиться: