Проектирование на подпространство. Алгоритм минимума среднеквадратичного отклонения

Для простоты и, главное, для того, чтобы использовать наглядные графические образы, целесообразно начать этот подраздел со случая векторного пространства. Пусть F₀ − некоторый вектор N-мерного пространства F, и заданы K (K<N) векторов {f_k} (k = 1,...,K) этого же пространства f_k F. Как построить линейную комбинацию этих векторов F = ∑α_kf_k , дающую наилучшее приближение к вектору F₀ в смысле минимума отклонения ε² = ||F₀ − F||²? Один и тот же ответ можно получить, используя два логически разных похода. Полезно знать оба.

Подход 1. Записывая

ε² = (F₀−∑α_kf_k, F₀−∑α_kf_k) = ||F₀||² − (F₀,∑α_kf_k) − (∑α_kf_k,F₀) + (∑α_kf_k , ∑α_jf_j)

и рассматривая это выражение как функцию K искомых вещественных переменных α_k, понимаем, что ее экстремум определяется из равенства нулю K частных производных

∂ε²/∂α_k = − 2 (F₀, f_k) + 2 (f_k , ∑α_jf_j) = 0.

Эти равенства образуют систему K алгебраических уравнений относительно K искомых переменных, которая в матричной форме записывается как < L > α = b, где < L > − квадратная матрица коэффициентов L_jk = (f_k , f_j), а векторы-столбцы α и b образованы соответственно коэффициентами {α_k} и {b_k = (F₀, f_k)}.

Рис. 2.4. Проектирование на подпространство

 Задание. Повторите эти выкладки для случая комплексных коэффициентов α_k. При этом их реальные и мнимые части следует рассматривать как независимые переменные и учесть, что в этом случае (f_k , ∑α_jf_j) = .

Подход 2. Рассматривая вектор F = ∑α_kf_k как проекцию вектора F₀ на подпространство F, порожденное K векторами f_k (рис. 2.4), понимаем, что минимум квадрата нормы вектора разности F₀ − F соответствует тому условию, что F есть ортогональная проекция вектора F₀ на F. Иначе говоря, когда разностный вектор F₀ − F перпендикулярен любому из векторов f_k. Превращая текст этого условия в математическое соотношение, с легкостью получаем векторное равенство

(F₀−∑α _kf_k, f_j) = (F₀, f_j ) −∑α_j (f_k, f_j) = 0,

которое, естественно, совпадает с результатом предыдущего подхода.

После того, как введено понятие скалярного произведения функций, легко решается задача минимального среднеквадратичного отклонения (МСКО) линейной комбинации F(x) = ∑α_k f_k(x) функций {f_k(x)} от заданной функции F₀(x). При этом становится возможным использовать полезный графический образ, представляя функции в виде векторов аналогично рис. 2.4 (поскольку скалярное произведение характеризует угол между ними). Применяя к этой задаче подход 1, получаем искомые коэффициенты разложения α_k как решение системы уравнений

<A> α = b ,                                           (2.11)

где <A> − квадратная матрица порядка K, коэффициенты которой образованы взаимными скалярными произведениями функций {f_k(x)}, а именно L_kj = (f_j(x), f_k(x)); b − вектор-столбец коэффициентов {p_k = (F₀(x), f_k(x))}; α − вектор-столбец искомых коэффициентов {α_k}.

 

⇐ Предыдущая12345678910Следующая ⇒

Поделиться: