СЛУЧАЙНЫЕ ФУНКЦИИ (СЛУЧАЙНЫЕ ПРОЦЕССЫ)

СЛУЧАЙНЫЕ ФУНКЦИИ (СЛУЧАЙНЫЕ ПРОЦЕССЫ)

Случайная функция неслучайного аргумента называется случайной функцией. В случае если аргументом является время, то случайная функция называется случайным процессом.

При каждом значении аргумента значение функции – это случайная величина (такая случайная величина называется сечением случайной функции).

Если в каждый момент времени взять одно из возможных значений случайной функции, то получим реализацию случайной функции.

Для моментов и значений функция распределения . На практике используется не более, чем двумерная функция распределения. Как правило – одномерная .

Классификация случайных процессов.

Случайные процессы по времени делятся на:

· С дискретным временем

· С непрерывным временем

Случайная величина в каждый момент времени может быть как дискретной так и непрерывной.

Характеристики случайного процесса:

Будем считать, что все реализации случайного процесса относятся к одному и тому же вероятностному пространству.

Функция математического ожидания для случайной функции :

;

Функция дисперсии для случайной функции :

;

Корреляционная (автокорреляционная) функция случайного процесса

Свойства корреляционных функций.

(симметрична относительно времени)

Взаимная корреляционна функция:

- случайные процессы

Вводят взаимную корреляционную функцию. .

Свойства взаимной корреляционной функции:

1. ;

2. .

Функция математического ожидания и корреляционная (автокорреляционная) функция полностью определяют случайный процесс.

Действия над случайными процессами.

Алгебраическая сумма случайных процессов ;

Найдем автокорреляционную функцию для этого процесса.

Понятие о линейном операторе

Оператор L называется линейным, если

С=соnst

Применение линейных операторов к случайным процессам

Пусть тогда

;
;
;
.

Умножение случайной функции на неслучайную:

;
.

Сложение случайной величины с неслучайной функцией:

;
.

Стационарные случайные процессы (ССП)

Стационарным процессом в широком смысле называется процесс с постоянным математическим ожиданием: и корреляционной функцией, значение которой не зависит от времени, а зависит только от интервала наблюдения .

Если случайный процесс имеет постоянной одну из характеристик, то он называется стационарным относительно этой характеристики.

Рассмотрим корреляционную функцию стационарного случайного процесса

;

; ;

Свойства случайных стационарных процессов (относительно корреляционной функции).

;
т.е корреляционная функция симметрична
; ;
Обозначим - нормированная функция.

(нормированная корреляционная функция называется стандартом).

Реально, в случае, если =0, 2; то принимают, что корреляционная функция »0, а называется в этом случае интервалом корреляции. Остальная группа свойств относится к преобразованиям случайных стационарных процессов.

Преобразования стационарных случайных процессов.

Сумма двух стационарных случайных процессов – это стационарный случайный процесс.
Случайный стационарный процесс умноженный на неслучайную функцию - нестационарный случайный процесс.
Производная ССП – ССП;
Интеграл от ССП – не ССП.

Примеры:

- - стационарная функция

- пример нестационарной функции:

Некоторые виды графиков корреляционных функций ССП:

Для ССП корреляционная функция имеет max в точке t = 0. И этот max = .

Так как максимум не в точке t = 0, то это не график корреляционной функци ССП.

Пример

Корреляционная функция некоторого случайного процесса имеет вид:

;

Определить стационарность процесса .

исходная функция стационарно относится к корреляционной функции и не стационарно к математическому ожиданию.

Найти характеристики для

Найдем характеристики СП ;

; ;

Затем для СП ;

;

Корреляционная теория ССП.

Понятие о «белом шуме»

Исследуем ССП с функцией ; ;

При a®¥

;

- Процесс с такой спектральной плотностью называется белым шумом.

где ;

В каждый момент времени дисперсия равна ¥ и равномерно распределена по всем частотам. Слово «Белый» взято из оптики, «шум» - впервые процесс рассматривали в радиотехнике.

Выводы:

Рассмотрим класс случайных функций заданных на вероятностном пространстве:

Случайная функция полностью определяется многомерным законом распределения.
Введено понятие математического ожидания и корреляционной функции случайного процесса, а также взаимной корреляционной функции для двух процессов. Эти характеристики полностью определяют случайный процесс.
Рассмотрены основные понятия спектрального анализа ССП. Записаны необходимые и достаточные условия эргодичности случайного процесса.
Рассмотрены частные случаи ССП (один из них «белый шум»).

Примеры наиболее распространенных корреляционных функций:

1. .

;

2. ;

;

Аналогично

;

3. ;

;

4. - для разрывной функции.

ЦЕПИ МАРКОВА

Пусть случайный процесс X (t) может принимать конечное (L < ) множество значений

{q_l, l= } = С. Конкретное значениеq_l; Î С, которое принял процесс X (t) в момент t, определяет его состояние при данном значении аргумента. Таким образом,

в рассматриваемом случае процесс X (t) имеет конечное множество возможных состояний.

Естественно, что с течением времени процесс X (t) будет случайным образом изменять свое состояние. Допустим, что такое изменение возможно не при любом t, а лишь в некоторые дискретные моменты времени t₀< t₁< t₂< …, когда процесс X (t) скачком изменяет свое состояние. Иначе говоря, в моменты времени t_t имеют место переходы X(t₀) ®X(t₁) ®..., причем X(t)Î C, i= 0, 1, 2, …

Два указанных признака определяют последовательность дискретных случайных величин X_i — X (t_i), i = 0.1, ... (дискретную случайную последовательность в терминах, параграфа 1.1), у которой область значений представляет собой дискретное конечное множество С ={q_l, l = ], а область определения — дискретное бесконечное множество t_i, i = 0, 1, 2,...

Если для определенной таким образом дискретной случайной последовательности справедливо основное свойство (3.1.1) процессов Маркова, приобретающее в данном случае вид

(3.2.1)

то такая последовательность называется простой цепью Маркова.

Отметим, что из выражения (3.2.1) непосредственно вытекает

такое же равенство и для условных вероятностей нахождения

простой цепи Маркова в некотором состоянии

Р{х₁/х₀, х₁, ..., x_i_-1} = Ρ {x_i /x_i_-1 }, i = 1, 2,....

Введенное определение допускает некоторое обобщение. Положим, что значение х_iÎ С рассматриваемого процесса X (t) зависит не от одного, а от m(l£ m < i) непосредственно предшествующих ему значений. Тогда, очевидно, что

(3.2.2)

Процесс, определяемый соотношением (3.2.2), называется сложной цепью Маркова порядка т. Соотношение (3.2.1) вытекает из (3.2.2) как частный случай. В свою очередь, сложная цепь Маркова порядка т может быть сведена к простой цепи Маркова для m-мерного вектора. Для того чтобы показать это, положим, что состояние процесса в момент i_i описывается с помощью m-мерного вектора.

(3.2.3)

На предыдущем шаге аналогичный вектор запишется как

(3.2.4)

Сравнение (3.2.3) и (3.2.4) показывает, что «средние» компоненты этих векторов (кроме X_l в (3.2.3) и Х^l_-_m в (3.2.4)) совпадают. Отсюда следует, что условная вероятность попадания процесса X (t) в состояние `X_i в момент t₁, если он находился в состоянии `X_i_-1 в момент t_i_-1, может быть записана в виде

(3.2.5)

В (3.2.5) символ обозначает j-ю компоненту вектора `x_i; α (μ, ν ) — символ Кронекера: α (μ, ν ) = 1 при ν = μ и α (μ, ν ) = ϋ при μ ¹ ν. Возможность указанных обобщений позволяет ограничиться в дальнейшем рассмотрением только простых цепей Маркова.

Как система дискретных случайных величин простая цепь Маркова X_i, i = 0, 1, 2, ..., i, ... при любом фиксированном i может быть исчерпывающим образом описана i-мерной совместной вероятностью

ρ {θ ₀_L, θ _{ί κ},..., θ _ί_m, } = P{Х₀ =θ _L, X₁=θ _k, …, X_j=θ _m}, (3.2.6)

где индексы l, k,..., т принимают все значения от 1 до L независимо друг от друга. Выражение (3.2.6) определяет матрицу с L строками и i+1 столбцом, элементами которой являются вероятности совместного пребывания системы случайных величин Χ ₀, Χ ₁,..., Χ _ί в некотором конкретном состоянии. Данная матрица по аналогии с рядом распределения скалярной дискретной случайной величины может быть названа матрицей распределения системы дискретных случайных величин

Χ ₀, Χ ₁,..., Χ _ί_.

На основании теоремы умножения вероятностей вероятность (3.2.6) может быть представлена в виде

Но согласно основному свойству (3.2.1) цепи Маркова

P{X_l = m/X₀= _l, X₁ = _k, …, X_i_-1= _r}=P{X_i= _m/X_i_-1= _r}

откуда

(3.2.8)

Повторение аналогичных рассуждений для входящей в (3.2.8) вероятности _r} позволяет привести это выражение к виду

Отсюда окончательно получаем

(3.2.9)

Таким образом, полное вероятностное описание простой цепи Маркова достигается заданием вероятностей начального состояния цепи в момент t₀, Ρ {Θ ₀_l, } = Р{Х₀ = Θ _l}, l= и условных вероятностей

Ρ {X_l = Θ _k/X_i-1= Θ _m}, i = 1, 2, ... · k, m =

Отметим, что поскольку возможные состояния Θ _lÎ `C цепи X (t) фиксированы и известны, для описания ее состояния в любой момент времени достаточно указать номер l этого состояния. Это позволяет ввести для безусловных вероятностей нахождения цепи в l-м состоянии в момент t_i (на i-м шаге) упрощенное обозначение

(3.2.10)

Для этих вероятностей, очевидно, имеют место свойства неотрицательности и нормированности к единице

P_l(i)> 0, l = , i = 0, 1, 2,...; (3.2.11)

При использовании матричных обозначений совокупность безусловных вероятностей записывается в виде матрицы-строки

(3.2.12)

Как следует из ранее изложенного, фундаментальную роль в теории цепей Маркова (и процессов Маркова вообще) играют условные вероятности вида В соответствии с физическим смыслом их принято называть вероятностями перехода и обозначать как

(3.2.13)

Выражение (3.2.13) определяет вероятность прихода цепи в состояние _l, в момент t за ν — μ шагов при условии, что в момент t_μ цепь находилась в состоянии _A. Нетрудно видеть, что для вероятностей перехода также имеют место свойства неотрицательности и нормированности, поскольку на любом шаге цепь всегда будет находиться в одном из L возможных состояний

(3.2.14)

Упорядоченная совокупность вероятностей перехода для любой пары может быть представлена в виде квадратной матрицы

(3.2.15)

Как следует из выражения (3.2.14), все элементы этой матрицы неотрицательны и сумма элементов каждой строки равна единице. Квадратная матрица, обладающая указанными свойствами, называется стохастической.

Таким образом, вероятностное описание цепи Маркова может быть задано матрицей-строкой (3.2.12) и стохастической матрицей (3.2.15).

С использованием введенных обозначений решим основную задачу теории цепей Маркова — определим безусловную вероятность Ρ _l (ί ) того, что за i —μ шагов процесс придет в некоторое состояние l, l= . Очевидно, что в момент t_m процесс может находиться в любом из L возможных состояний с вероятностью P_k(m), k = . Вероятность же перехода из k-гo в l-е состояние задается вероятностью перехода p_k _l(m, i). Отсюда на основании теоремы о полной вероятности получаем

; (3.2.16)

или в матричной форме

P(i)=P(m)P(m, i); (3.2.17)

Рассмотрим в соотношении (3.2.16) вероятность перехода π _kl (m, i). Очевидно, что переход цепи из состояния k в момент t_m в состояние l в момент t_i за несколько шагов может осуществляться различными путями (через различные промежуточные состояния). Введем в рассмотрение промежуточный момент времени t_m, t_m < t_m< t_ί. Β этот момент процесс может находиться в любом из L возможных состояний, причем вероятность его попадания в r-е состояние в момент t_m при условии, что в момент t_m он был в состоянии k, равна π _kr(μ, m). В свою очередь, из состояния r в состояние l процесс переходит с вероятностью π _rl(m, i). Отсюда с использованием теоремы о полной вероятности получаем уравнение Маркова для вероятностей перехода

матричная форма которого имеет вид

П(m, ί ) = П(μ, m) П(m, I); 0£ m < m < I; (3.2.19)

Уравнения (3.2.18), (3.2.19) определяют характерное для цепей Маркова свойство вероятностей перехода, хотя справедливости (3.2.18) еще недостаточно, чтобы соответствующая цепь была марковской.

Расписывая последовательно формулу (3.2.19), получаем

П(μ, i) = П (μ, i - 1) П (i - 1, ί ) = П (μ, μ + 1)... П (ί - 1, i), (3.2.20)

где p(ν, μ ), μ —n= 1— одношаговая вероятность перехода. Полагая теперь в выражении (3.2.17) μ =0, получаем

(3.2.21)

откуда следует, что полное вероятностное описание простой цепи Маркова достигается заданием вероятностей начального состояния и последовательности матриц вероятностей одношаговых переходов.

Очевидно, что свойства цепи Маркова в значительной мере определяются свойствами вероятностей перехода. С этой точки зрения, в частности, среди простых цепей Маркова выделяют однородные, для которых вероятности перехода зависят только от разности аргументов

p_kl(m, i) =p_kl (i-m), i> m> 0; (3.2.22)

и не зависят от номера шага. Все остальные виды простых цепей Маркова, не удовлетворяющие условию (3.2.22), относятся к классу неоднородных,.

Поскольку для однородной цепи вероятность перехода определяется лишь разностью аргументов и не зависит от номера шага, очевидно, что для произвольных пар (μ, m), (j, i), удовлетворяющих условиям т — μ = 1, ί — j = 1, m¹ i, справедливо

p_kl(m-m) =p_kl (i-j)= p_kl(1) =p_kl;

Отсюда следует, что для описания однородной марковской цепи достаточно задать вместе с вероятностями начального состояния не последовательность, а одну стохастическую матрицу одношаговых вероятностей перехода

(3.2.23)

Кроме того, очевидно, что

(3.4.7)

поскольку первый сомножитель под интегралом не зависит от переменной интегрирования, а интеграл от второго равен единице. Вычитание уравнения (3.4.7) из (3.4, 6) дает

(3.4.8)

Предположим, что плотность вероятности перехода рассматриваемого процесса может быть разложена в ряд Тейлора. Тогда выражение в квадратных скобках под интегралом в уравнении (3.4.8) может быть представлено в виде

(3.4.9)

Подставив выражение (3.4.9) в (3.4.8), разделив обе части полученного выражения на ∆ t и перейдя к пределу при Δ t → 0, получим

(3.4.10)

где

(3.4.11)

Уравнение (3.4.10) определяет широкий класс непрерывных марковских процессов, причем нетрудно видеть, что совокупность коэффициентов А_ν(x₀, t₀) определяет физические свойства каждого из них. Так, коэффициент A₁ (x₀, t₀) может трактоваться как среднее значение локальной (в точке x (t₀)) скорости изменения процесса, коэффициент A₂ (x₀, t₀) — как локальная скорость изменения дисперсии его приращения и т. д. Однако марковские процессы такого общего вида сравнительно редко рассматриваются в приложениях. Наибольшее практическое значение имеет подмножество марковских процессов, удовлетворяющее условию

A_ν (x₀, t₀)¹ 0; n=1, 2, A_ν (x₀, t₀)=0, n³ 3; (3.4.12)

При исследовании марковских процессов первоначально было установлено, что уравнению (3.4.10) при условии (3.4.12) удовлетворяют законы движения (диффузии) броуновских частиц, вследствие чего соответствующие марковские процессы назвали диффузионными. Исходя из этого, коэффициент A₁ (x₀, t₀)=a (x₀, t₀) назвали коэффициентом сноса, о A₂ (x₀, t₀)=b(x₀, t₀) -- коэффициентом диффузии. В рамках (3.4.12) уравнение (3.4.10) приобретает окончательный вид

(3.4.13)

Это уравнение, в котором переменными являются х₀ и t₀, носит название первого (обратного) уравнения Колмогорова.

Аналогичным образом может быть получено и второе уравнение

Это уравнение, в честь впервые исследовавших его ученых, называется уравнением Фоккера, — Планка — Колмогорова или прямым уравнением Колмогорова (поскольку в нем фигурирует производная по конечному моменту времени t> t₀).

Таким образом; показано, что плотности вероятности перехода диффузионных марковских процессов удовлетворяют уравнениям (3.4.13), (3.4.14), которые и являются основным инструментом их исследования. При этом- свойства конкретного процесса определяются «коэффициентами» a(x, tί ) и b(x, t) которые, согласно уравнения (3.4.11), равны

(3.4.15)

(3.4.16)

Из выражений (3.4.15), (3.4.16) следует, что эти «коэффициенты» имеют смысл условных математических ожиданий, определяющих характер изменений реализаций процесса за бесконечно малый промежуток времени Δ t. Допускаются весьма быстрые изменения процесса X (t), но в противоположных направлениях, в результате чего среднее приращение процесса за малое время Δ t конечно и имеет порядок .