Достаточные статистики. Критерий факторизации

Теорема Колмагорова – Блекуэлла.

Рассмотрим случайный вектор =(х₁,х₂,…,хn), плотность распределения которого зависит от параметра ϴ, то есть записать р( , ϴ )

Теорема. Пусть t( ) достаточная статистика семестрва распределения р( , ϴ ) , а ( ) – несмещенная оценка параметра ϴ с конечной дисперсией, тогда =М( /t) t= t( ) будет несмещенной оценкой параметра ϴ, причем  ( ) D( ).

Док-во: Заметим, что  действительно является оценкой, т.к. не зависит от ϴ, поскольку t( )-достаточная статистика.

Покажем , что  несмещенная оценка ϴ

М( )=М(М(ϴ/t))

По условию  - несмещенная оценка, а это значит, что М( )=ϴ. Таким образом М( )=М(М( /t))=М( )=ϴ тогда получим, что  - оценка несмещенности.

D( )

При фиксированном t следует

, , тогда имеем  так как . Теорема доказана.

40. Метод наибольшего правдоподобия.

Суть: Для получения оценки произвольного параметра  нужно найти такое значение , при котором вероятность реализации случайного вектора (х₁,х₂,…,х_n)(то есть вероятность выборки ) была минимальной.

А) Случай непрерывной случайной величины(СВ).

Пусть случайный эксперимент описывается непрерывной СВ Х, плотность распределения которой содержит неизвестный параметр ϴ, тогда случайный вектор (х₁,х₂,…,х_n) с независимыми составляющими х_i распределенными по тому же закону, что Х имеет следующую плотность распределения вероятности:

L(х₁,х₂,…,х_n;ϴ)=p(x₁;ϴ)p(x₂;ϴ)…p(x_n;ϴ)

Опр. Плотность L(х₁,х₂,…,х_n;ϴ) рассмотренная как функция параметра ϴ называется функцией правдоподобия.

Рассмотрим вероятность попадания выборки в n-мерный параллелепипед с центром в (х₁,х₂,…,х_n) и с длинами ребер ∆х₁,∆х₂,…,∆х_n тогда вероятность эта:

L(х₁,х₂,…,х_n;ϴ) ∆х₁,∆х₂,…,∆х_n                  (*)

Дальше находим значение параметра ϴ при котором вероятность (*) принимает максимальное значение. Искомая точка максимума является точкой максимума функции правдоподобия L(х₁,х₂,…,х_n;ϴ) (х_i - фиксированые).

Опр. Величина = (х₁,х₂,…,х_n) являющаяся точкой максимума функции правдоподобия, называется оценкой наибольшего правдоподобия параметра ϴ.

Б) Случай дискрктной случайной величины (СВ)

Пусть эксперимент описывается дискретной СВ Х, распределение вероятностей которой зависит от некоторого параметра ϴ.

Р(Х=z_j)=p(z_j,ϴ) (j=1,2,…,n,…)

Вероятность того, что независимые составляющие случайного вектора (х₁,х₂,…,х_n) распределенные по тому же закону, что Х принимают значения (х₁,х₂,…,х_n) будет следующей

 

Если нужно найти оценки наибольшего правдоподобия параметров ϴ₁,ϴ₂,….,ϴ_n, то решают систему уравнений:

_{, ,…………………}

Вместо (***) часто решают

 

 

 

Метод моментов

Пусть эксперимент описывается случайной величиной Х и пусть получается выборка (х₁,х₂,…,х_n).

Опр. Начальным статистическим моментом к-того порядка называется величина:

  (*)

Замечание. -среднее выборочное

Опр. Центральным статистическим моментом к-того порядка называется величина:

  (**)- выборочная дисперсия

Суть Статистические моменты (*) и (**) применяются в качестве оценок для соответствующих теоретических моментов распределения случайной величины Х зависящих от неизвестных параметров.

Пусть непрерывная СВ Х и р(х,ϴ₁,ϴ₂,…,ϴ_m)-плотность распределения, ϴ₁,ϴ₂,…,ϴ_m – независимые параметры плотности.

Определим с помощью этой плотности m каких-либо теоретических моментов случайной величины Х. Например первые m начальных моментов. Запишем для них формулу:

=

По выборке найдем значение соответствующих статистических моментов:

Приравнивая теорет.моменты  и  получим:

=   k=1,…,m

Решение этой системы  будут оценками этих параметров
42. Распределение….

Распределение Стьюдента.

Пусть Х₁,Х₂,…,Х_n нормально распределенные случайные величины, m=0, σ=1.

Тогда СВ  – соотношение Стьюдента. А ее распределение – распределение Стьюдента с ν=n степенями свободы.

Замечание. СВ Т часто записывают  где .
График плотности:

Внешне напоминает график плотности нормального стандартного распределения. При больших ν график  центрирован нормальной кривой (т.е. m=0, σ=1). Составлена таблица . Построим график: S1+S2=α (α-заданный ) уровень вероятности, - квантили распределения Стьюдента.
44. Теоремы о случайной величине, имеющей распределение Стьюдента.

Теорема 1. Пусть Х₁,Х₂,…,Х_n независимые СВ распределенные нормально с одинаковымм мат.ожиданиями m и одинаковыми диспериями , тогда  имеет распределение Стьюдента с ν=n-1 степенями свободы.

Доказательство.  ,  - нормально распределенная случайная величина с параметрами 0 и 1. Из того, что все Х_i – нормально распределены =>, что  - нормально распределенная.

.  СВ  имеет 𝜒² – распределение с ν=n-1 степенями свободы.

  à распределена по Стьюденту с ν=n-1 степенью свободы. Теорема доказана.

Теорема 2. Пусть  и  – средние арифметические и дисперсии в выборках, состоящих из n1 и n2 соответственно независимых наблюдений. Выборки отобраны из нормальных генеральных совокупностей с одинаковыми средне квадратич. отклонениями. Тогда при взаимной независимости обеих выборок, случайная величина Т:

 à распределена по закону Стьюдента с ν=  степенями свободы.

⇐ Предыдущая12345678Следующая ⇒

Поделиться: