Функции нескольких переменных

Глава 3

Функции нескольких переменных

В данной главе рассматриваются фундаментальные понятия и конкретные методы, используемые при поиске безусловных минимумов функций нескольких переменных. Изложение основано на материале гл.2, поскольку одномерные методы играют весьма важную роль при исследовании функций нескольких переменных.

Сначала рассмотрим вопрос анализа «в статике» с использованием положений линейной алгебры и дифференциального исчисления (приложение А), а также условия, которые (в достаточно общих возможных ситуациях) позволяют идентифицировать точки оптимума. Такие условия используются для проверки выбранных точек и дают возможность выяснить, являются ли эти точки точками минимума, максимума или седловыми точками. При этом задача выбора указанных точек остаётся вне рамок проводимого анализа; основное внимание уделяется решению вопроса о том, соответствуют ли исследуемые точки решениям многомерной задачи безусловной оптимизации, в которой требуется

минимизировать f(х), xÎ R^N, (3.1)

при отсутствии ограничений на х, где х — вектор управляемых переменных размерности N, f — скалярная целевая функция. Обычно предполагается, что x_i (для всех значений i = 1, 2, 3, …, N)могут принимать любые значения, хотя в ряде практических приложений область значений х выбирается в виде дискретного множества. Кроме того, часто оказывается удобным предполагать, что функция f и ее производные существуют и непрерывны всюду, хотя известно, что оптимумы могут достигаться в точках разрыва f или ее градиента

(3.2)

Следует помнить, что функция f может принимать минимальное значение в точке , в которой f или f претерпевают разрыв. Кроме того, в этой точке f может не существовать. Для того чтобы построить систему конструктивных критериев оптимальности, необходимо (по крайней мере на первой стадии исследования) исключить из рассмотрения подобные ситуации, которые весьма усложняют анализ. Наконец, в ряде случаев приходится ограничиваться лишь идентификацией локальных оптимумов, поскольку нелинейная целевая функция f не всегда обладает свойством выпуклости (см. приложение Б) и, следовательно, может оказаться мультимодальной. На рис. 3.1 изображены линии уровня функции Химмельблау

f (x)= [ + – 11] + [ + – 7] .(3.3)

Нетрудно видеть, что эта функция имеет четыре различных минимума.

Далее перейдем к вопросу анализа «в динамике», который формулируется следующим образом: если точка х⁽⁰⁾ не удовлетворяет

функции Химмельблау

f(x)=[ + - 11] +[ + - 7]

Рис. 3.1. Линии уровня мультимодальной функции.

условиям, налагаемым упомянутыми выше критериями оптимальности, то как получить «хорошее» новое приближение x⁽¹⁾к решению х*? Попытка дать ответ на этот вопрос приводит к необходимости рассмотрения ряда методов, описание которых составляет значительную часть данной главы. Рассматриваемые методы классифицируются в соответствии с тем, используется ли информация о производных исследуемых функций. Глава завершается обсуждением относительных преимуществ методов и обзором результатов вычислительных экспериментов.

Критерии оптимальности

Здесь рассматриваются условия, которые позволяют характеризовать (т. е. классифицировать) точки пространства управляемых переменных. Критерии оптимальности необходимы для распознавания решений и, кроме того, составляют основу большинства используемых методов поиска решений. Рассмотрим разложение Тейлора для функции нескольких переменных:

f(x)=f( )+ f( ) ∆ x+½ ∆ x f( )∆ x+O (∆ x), (3.4)

где — точка разложения из пространства R^N; ∆ х = х - — величина изменения х; f(x) — N-мерный вектор-столбец первых производных f(х), вычисленных в точке ; f( ) = H ( ) — симметрическая матрица порядка N× N вторых частных производных f(x), вычисленных в точке . (Эту матрицу часто называют матрицей Гессе. Ее элемент, расположенный на пересечении i-й строки и j-го столбца, равен f / dx x .) O (∆ x) — сумма всех членов разложения, имеющих порядок по ∆ x выше второго. Пренебрегая членами высших порядков (т. е. исключая O (∆ x)), определим величину изменения целевой функции f(х), соответствующего произвольному изменению х:

∆ f(x)= f(x) - f( ) = f( ) ∆ x+½ ∆ x f( )∆ x (3.5)

Напомним, что по определению во всех точках из окрестности точки минимума целевая функция принимает значения, которые превышают минимальное, т. е. имеет место неравенство

∆ f = f(x) - f( ) ≥ 0. (3.6)

Точка является точкой глобального минимума, если неравенство (3.6) выполняется для всех хÎ R^N; такие точки будем обозначать через х**. Когда формула (3.6) справедлива лишь в некоторой δ -окрестности точки , т. е. для всех х, таких, что ||х – || < δ при заданном δ > 0, то есть точка локального минимума, или х*. Если же

∆ f = f(x) – f( ) ≤ 0. (3.7)

то есть точка максимума (локального или глобального в соответствии с данными выше определениями). Исключение знака равенства из формул (3.6) и (3.7) позволяет определить точку строгого минимума или максимума. В случае когда ∆ f принимает как положительные и отрицательные, так и нулевые значения в зависимости от выбора точек из δ -окрестности, точка представляет собой седловую точку.

Вернемся к равенству (3.5) и вспомним о выдвинутом ранее предположении о том, что f(х), f(x) и f(x) существуют и непрерывны для всех х Î R^N. Как следует из формулы (3.5), для того чтобы знак ∆ f не менялся при произвольном варьировании ∆ х, градиент f( ) должен быть равен нулю, т. е. должна быть стационарной точкой. В противном случае разность ∆ f может принимать положительные или отрицательные значения в зависимости от знаков f( ) и ∆ х Таким образом, точка должна удовлетворять условию стационарности

f( ) = 0, (3.8)

и формула (3.5) принимает следующий вид:

∆ f(x) = +½ ∆ x f( )∆ x. (3.9)

Очевидно, что знак ∆ f(x) определяется квадратичной формой

Q(х) = ∆ x f( )∆ x (3.10)

или Q(z)=z^TAz.

Из линейной алгебры известно (см. приложение А), что

А — положительно определенная матрица, если Q(z)> 0 для любых z;

А — положительно полуопределенная матрица, если Q (z)≥ 0 для любых z;

А — отрицательно определенная матрица, если Q(z)< 0 для любых z;

(3.11)

А — отрицательно полуопределенная матрица, если Q(z)≤ 0 для любых z;

А — неопределенная матрица, если Q (z)> 0 для некоторых z и Q(z)< 0 для остальных z.

Из (3.11) следует, что стационарная точка есть

точка минимума, если ²f( ) — положительно полуопределенная матрица;

точка максимума, если ²f( ) — отрицательно полуопределенная матрица;

(3.12)

cедловая точка, если ²f(x) 0 — неопределенная матрица.

Кроме того, может оказаться полезным провести анализ стационарной точки в несколько ином аспекте. Рассмотрим стационарную точку вместе с окружающей ее δ -окрестностью и векторами, исходящими из точки (рис. 3.2). При этом

= + s( ). (3.13)

Путем соответствующего выбора и s можно построить все точки из окрестности точки . Подстановка (3.13) в (3.9) дает формулу

∆ f(x) = ( /2) s f( )s. (3.14)

Теперь с помощью (3.11) и (3.12) можно классифицировать s(x) как направление спуска, направление подъема или направление общего вида. Если направление спуска найти не удается, то

Рис.3.2. Окрестность стационарной точки.

является точкой локального минимума х*, что соответствует случаю,

когда ²f( ) — положительно полуопределенная матрица.

Ниже формулируются необходимые и достаточные условия существования минимума функции нескольких переменных.

Пример 3.1. Критерии оптимальности

Рассмотрим функцию

f(x) = 2 + 4 – 10 +

линии уровня которой изображены на рис. 3.3. Требуется классифицировать точку = [0, 0]

f(x) = 2 + 4 – 10 +

Рис. 3.3. Линии уровня нелинейной функции двух переменных из примера 3.1

Решение

Следовательно, точка — стационарная.

Следовательно,

Матрица ²f( ) является неопределенной, так как квадратичная форма z^TH z принимает положительное значение при z = (0, 1) и отрицательное значение при z = (l, 1) (см. приложение А). Поэтому представляет собой седловую точку, что и отражено на рис. 3.3.

Методы прямого поиска

В этом и последующих разделах данной главы рассматривается вопрос анализа «в динамике» для функций нескольких переменных, т. е. исследуются методы и алгоритмы, позволяющие на итерационной основе получать оценки х* — вектора управляемых переменных, которому соответствует минимальное значение функции f(x). Указанные методы применимы также к задачам максимизации, в которых целевую функцию следует заменить на –f(x). Методы, ориентированные на решение задач безусловной оптимизации, можно разделить на три широких класса в соответствии с типом используемой при реализации того или иного метода информации.

1. Методы прямого поиска, основанные на вычислении только значений целевой функции.

2. Градиентные методы, в которых используются точные значения первых производных f(x).

3. Методы второго порядка, в которых наряду с первыми производными используются также вторые производные функции f(x).

Ниже рассматриваются методы, относящиеся к каждому из перечисленных классов, поскольку ни один метод или класс методов не отличается высокой эффективностью при решении оптимизационных задач различных типов. В частности, возможны случаи, когда происходит переполнение памяти ЭВМ; в других ситуациях вычисление значений целевой функции требует чрезмерных затрат времени; в некоторых задачах требуется получить решение с очень высокой степенью точности. В ряде приложений либо невозможно, либо весьма затруднительно найти аналитические выражения для производных целевой функции. Поэтому если предполагается использовать градиентные методы, следует применить процедуру разностной аппроксимации производных. В свою очередь это приводит к необходимости экспериментального определения длины шагов, позволяющего установить надлежащее соответствие между ошибкой округления и ошибкой аппроксимации. Таким образом, инженер вынужден приспосабливать применяемый метод к конкретным характеристикам решаемой задачи.

Методы решения задач безусловной оптимизации отличаются относительно высоким уровнем развития по сравнению с другими методами нелинейного программирования. В специальной литературе представлены достаточно полные обзоры наиболее эффективных методов. Отличным примером такого обзора может служить книга Мюррея [1]. В данном разделе речь идет о методах прямого поиска, для реализации которых требуются только значения целевой функции; в следующем разделе рассматриваются градиентные методы и методы второго порядка. Здесь предполагается, что f(x) непрерывна, a f(x) может как существовать, так и не существовать, поскольку соответствующие числовые значения не используются. Однако следует отметить, что методы прямого поиска можно применять для решения задач, в которых f существует, и они часто используются в тех случаях, когда f представляет собой сложную векторную функцию управляемых переменных. Наконец, в этом и последующих разделах предполагается, что функция f(x) унимодальна в рассматриваемой области. Если же изучаемые методы применяются для анализа мультимодальных функций, то приходится ограничиваться идентификацией локальных минимумов.

Многомерные методы, реализующие процедуру поиска оптимума на основе вычисления значений функции, с общих позиций можно разделить на эвристические и теоретические. Эвристические методы, как это следует из названия, реализуют процедуры поиска с помощью интуитивных геометрических представлений и обеспечивают получение частных эмпирических результатов. С другой стороны, теоретические методы основаны на фундаментальных математических теоремах и обладают такими операционными свойствами, как сходимость (по крайней мере при выполнении некоторых определенных условий). Ниже подробно рассматриваются три метода прямого поиска:

1) поиск по симплексу, или S²-метод;

2) метод поиска Хука — Дживса;

3) метод сопряженных направлений Пауэлла.

Первые два из перечисленных методов относятся к категории эвристических и реализуют принципиально различающиеся стратегии поиска. В процессе поиска по S²-методу последовательно оперируют регулярными симплексами в пространстве управляемых переменных, тогда как при реализации метода Хука— Дживса используется фиксированное множество (координатных) направлений, выбираемых рекурсивным способом. Метод Пауэлла основан на теоретических результатах и ориентирован на решение задач с квадратичными целевыми функциями; для таких задач метод сходится за конечное число итераций. К числу общих особенностей всех трех методов следует отнести относительную простоту соответствующих вычислительных процедур, которые легко реализуются и быстро корректируются. С другой стороны, реализация указанных методов может требовать (и часто требует) более значительных затрат времени по сравнению с методами с использованием производных. Здесь не рассматриваются методы, основанные на идее исключения интервалов (гл. 2), в частности методы, предложенные Боксом, Дэвисом и Свенном [2], а также Кролаком и Купером [3], поскольку такие методы в значительной степени уступают другим известным методам.

3.2.1. Метод поиска по симплексу (S²-метод)

Первые попытки решения оптимизационных задач без ограничений на основе прямого поиска связаны с использованием одномерных методов оптимизации. Как правило, при реализации таких методов допустимая область определения показателя качества функционирования системы (целевой функции) заменяется дискретным множеством (решеткой) точек пространства управляемых переменных, а затем используются различные стратегии уменьшения области, которая содержит решение задачи. Часто эта процедура оказывается эквивалентной равномерному поиску в узлах решетки и, следовательно, непригодной для решения задач с числом переменных, превышающим 2. Более полезная идея заключается в выборе базовой точки и оценивании значений целевой функции в точках, окружающих базовую точку. Например, при решении задачи с двумя переменными можно воспользоваться квадратным образцом, изображенным на рис. 3.4. Затем «наилучшая» из пяти исследуемых точек выбирается в качестве следующей базовой точки, вокруг которой строится, аналогичный образец. Если ни одна из угловых точек не имеет преимущества перед базовой, размеры образца следует уменьшить, после чего продолжить поиск.

Рис. 3.4. Квадратный образец (частный случай кубического образца).

Этот тип эволюционной оптимизации был использован Боксом [4] и другими исследователями для анализа функционирования промышленных предприятий, когда эффект варьирования значений переменных, описывающих производственные процессы, измеряется с ошибкой. В задачах большой размерности вычисление значений целевой функции проводится во всех вершинах, а также в центре тяжести гиперкуба ¹⁾, т. е. в точках так называемого кубического образца. Если количество переменных (размерность пространства, в котором ведется поиск) равно N, то поиск по кубическому образцу требует 2 +1 вычислений значения функций для одного образца. При увеличении размерности задачи необходимое количество вычислений значения целевой функции возрастает чрезвычайно быстро. Таким образом, несмотря на логическую простоту поиска по кубическому образцу, возникает необходимость использования более эффективных методов прямого поиска для решения возникающих на практике задач оптимизации.

Одна из вызывающих особый интерес стратегий поиска положена в основу метода поиска по симплексу, предложенного Спендли, Хекстом и Химсвортом [5]. Следует отметить, что указанный метод и другие подобные методы не имеют отношения к симплекс-методу линейного программирования, а сходство названий носит случайный характер. Процедура симплексного поиска Спендли, Хекста и Химсворта базируется на том, что экспериментальным образцом, содержащим наименьшее количество точек, является регулярный симплекс. Регулярный симплекс в N-мерном пространстве представляет собой многогранник,

¹⁾ Гиперкубом называется куб в N-мерном евклидовом пространстве, т. е. множество S = {х = (х_1, х₂,..., x )Î R^N ׀ a ≤ x ≤ b, i = 1, 2, …, N}, где a и b — заданные числа.— Прим. перев.

образованный N+1 равностоящими друг от друга точками-вершинами.

Например, в случае двух переменных симплексом является равносторонний треугольник; в трехмерном пространстве симплекс представляет собой тетраэдр. В алгоритме симплексного поиска используется важное свойство симплексов, согласно которому новый симплекс можно построить на любой грани начального симплекса путем переноса выбранной вершины на надлежащее расстояние вдоль прямой, проведенной через центр тяжести остальных вершин начального симплекса. Полученная таким образом точка является вершиной нового симплекса, а выбранная при построении вершина начального симплекса исключается. Нетрудно видеть, что при переходе к новому симплексу требуется одно вычисление значения целевой функции. Рис. 3.5 иллюстрирует процесс построения нового симплекса на плоскости.

Рис. 3.5. Построение нового симплекса.

a — начальный симплекс; x⁽¹⁾, x⁽²⁾, x⁽³⁾; б — новый симплекс; x⁽²⁾, x⁽³⁾, x⁽⁴⁾.

Работа алгоритма симплексного поиска начинается с построения регулярного симплекса в пространстве независимых переменных и оценивания значений целевой функции в каждой из вершин симплекса. При этом определяется вершина, которой соответствует наибольшее значение целевой функции. Затем найденная вершина проецируется через центр тяжести остальных вершин симплекса в новую точку, которая используется в качестве вершины нового симплекса. Если функция убывает достаточно плавно, итерации продолжаются до тех пор, пока либо не будет накрыта точка минимума, либо не начнется циклическое движение по двум или более симплексам. В таких ситуациях можно воспользоваться следующими тремя правилами.

Пример 3.2. Вычисления в соответствии с методом поиска по симплексу

Минимизировать f(x) = (1 – х₁)² + (2 – х₂)².

Решение. Для построения исходного симплекса требуется задать начальную точку и масштабный множитель. Пусть х⁽⁰⁾= [0, 0] и α = 2. Тогда

δ = [ ] α = 1.9318

δ = [ ] α = 0.5176

Используя эти два параметра, вычислим координаты двух остальных вершин симплекса:

х⁽¹⁾ = [0+0, 5176, 0+1, 9318]^T = [0, 5176, 1, 9318]^T,

х⁽²⁾ = [0+1, 9318, 0+0, 5176]^T = [1, 9318, 0, 5176]^T,

которым соответствуют значения целевой функции, равные f (x⁽¹⁾) = 0, 2374 и f (х⁽²⁾)= 3, 0658. Так как f (x ) = 5, необходимо отразить точку х⁽⁰⁾ относительно центра тяжести двух остальных вершин симплекса

x = = (х⁽¹⁾ + х⁽²⁾).

Используя формулу (3.22), получаем

x = x + x – x

x = [2, 4494, 2, 4494]^T.

В полученной точке f (х³)= 2, 3027, т. е. наблюдается уменьшение целевой функции. Новый симплекс образован точками х⁽¹⁾, х⁽²⁾, и х⁽³⁾.В соответствии с алгоритмом следует отразить точку х⁽²⁾, которой соответствует наибольшее значение целевой функции, относительно центра тяжести точек х⁽¹⁾ и х⁽³⁾. Итерации продолжаются до тех пор, пока не потребуется применение правил 1, 2 и 3, которые были сформулированы выше.

Изложенный выше алгоритм S²-метода имеет несколько очевидных преимуществ.

1. Расчеты и логическая структура метода отличаются сравнительной простотой, и, следовательно, соответствующая программа для ЭВМ оказывается относительно короткой.

2. Уровень требований к объему памяти ЭВМ невысокий, массив имеет размерность (N + 1, N + 2).

3. Используется сравнительно небольшое число заранее установленных параметров: масштабный множитель α, коэффициент уменьшения множителя α (если применяется правило 2) и параметры окончания поиска.

4. Алгоритм оказывается эффективным даже в тех случаях, когда ошибка вычисления значений целевой функции велика, поскольку при его реализации оперируют наибольшими значениями функции в вершинах, а не наименьшими.

Перечисленные факторы характеризуют метод поиска по симплексу как весьма полезный при проведении вычислений в реальном времени.

Алгоритм обладает также рядом существенных недостатков.

1. Не исключено возникновение трудностей, связанных с масштабированием, поскольку все координаты вершин симплекса зависят от одного и того же масштабного множителя α. Чтобы обойти трудности такого рода, в практических задачах следует промасштабировать все переменные с тем, чтобы их значения были сравнимыми по величине.

2. Алгоритм работает слишком медленно, так как полученная на предыдущих итерациях информация не используется для ускорения поиска.

3. Не существует простого способа расширения симплекса, не требующего пересчета значений целевой функции во всех точках образца. Таким образом, если ос по какой-либо причине уменьшается (например, если встречается область с узким «оврагом» или «хребтом»), то поиск должен продолжаться с уменьшенной величиной шага.

Модифицированная процедура поиска по симплексу, разработанная Нелдером и Мидом [6], частично устраняет некоторые из перечисленных недостатков.

Рис. 3.6. Растяжение и сжатие симплексов

a — нормальное сжатие (θ = α = 1), f < f(x ) < f ; б — растяжение (θ = γ > 1), f(x ) < f ,

в — сжатие (θ = β < 0), f(x ) > f , f(x ) ≥ f ; г — сжатие (θ = β > 0) f < f(x ) < f .

Нетрудно заметить, что хотя формула для определения вершин регулярного симплекса оказывается весьма удобной при построении исходного образца, однако веских оснований для сохранения свойства регулярности симплекса в процессе поиска нет. Следовательно, при отражении симплекса существует возможность как его растяжения, так и сжатия ¹⁾. При расчетах по методу Нелдера и Мида используются вершины симплекса x⁽^h⁾ (которой соответствует наибольшее значение целевой функции f⁽^h⁾ ), х⁽^g⁾ (которой соответствует следующее по величине значение целевой функции f⁽^g⁾ )и х⁽^l⁾ (которой соответствует наименьшее значение целевой функции f⁽^l⁾ ) - Напомним, что отражение вершины симплекса осуществляется по прямой

х = x + λ (х_c – x ).

или х = x + (1 + θ )(х_c – x ). (3.23)

При θ = 1 имеет место так называемое нормальное отражение симплекса, поскольку точка х_нов располагается на расстоянии || х_с – x⁽^j⁾ || от точки х_с.Если –1 ≤ θ < 1, то наблюдается сжатое отражение, или сжатие симплекса, тогда как выбор θ > 1 обеспечивает растянутое отражение, или растяжение симплекса. На рис. 3.6 приведены возможные варианты отражения. Три значения параметра θ, используемые при нормальном отражении, сжатии и растяжении, обозначаются через α, β иγ соответственно. Реализация метода начинается с построения исходного симплекса и определения точек x⁽^h⁾, х⁽^g⁾, х⁽^l⁾, х_c. После нормального отражения осуществляется проверка значений целевой функции по критерию окончания поиска в точках отраженного симплекса. Если поиск не закончен, то с помощью тестов, приведенных на рис. 3.6, выбирается одна из операций —нормальное отражение, растяжение или сжатие. Итерации продолжаются, пока изменения значений целевой функции в вершинах симплекса не станут незначительными. В качестве удовлетворительных значений параметров α , β иγ Нелдер и Мид рекомендуют использовать α = 1, β = 0, 5 и γ = 2.

Результаты отдельных численных экспериментов показывают, что метод Нелдера — Мида обладает достаточной эффективностью и высокой надежностью в условиях наличия случайных возмущений или ошибок при определении значений целевой функции. В 1969 г. Бокс и Дрейпер [7]утверждали, что этот метод является «наиболее эффективным из всех известных методов последовательной оптимизации». В 1972 г. Паркинсон и Хатчинсон [8] исследовали влияние выбора параметров α, β иγ и способа построения исходного симплекса на эффективность поиска. Они установили, что ориентация исходного симплекса в отличие от его формы является существенным фактором, влияющим на процедуру поиска, и предложили использовать значения параметров (α , β, γ ) = (2, 0, 25, 2, 5). Такой выбор параметров позволил обеспечить хорошую работу алгоритма при повторении последовательных растяжений симплекса.

¹⁾ По этой причине процедуру Нелдера и Мида иногда называют методом поиска по деформируемому многограннику. — Прим.. перев.

Метод поиска Хука — Дживса

Изложенные выше методы поиска основаны на различных операциях над образцами, составленными из пробных точек. Несмотря на то что в предыдущем подразделе основное внимание было уделено-геометрическому расположению пробных точек, совершенно ясно,. что основная цель построения множества таких точек заключается в определении направления, в котором должен вестись поиск. Расположение пробных точек влияет лишь на чувствительность направления поиска к изменениям топологических свойств целевой функции. В частности, уравнение для вычисления координат отраженной точки

x = x + λ ( x – x )

четко устанавливает, что множество отраженных точек описывается. вектором, определяющим некоторое направление в пространстве управляемых переменных. Остальные элементы логической структуры поиска связаны лишь с выбором такой величины шага λ , которая позволяет достигнуть заметного «улучшения» значений целевой функции. Если же главная задача работы с образцом, составленным из пробных точек, состоит в определении направления поиска, то стратегию поиска по симплексу можно усовершенствовать путем непосредственного введения множества векторов, задающих направления поиска. Простейший подход заключается в том, что поиск ведется на основе рекурсивного перебора направлений из произвольно заданного множества. С другой стороны, можно построить стратегию поиска, в рамках которой одно или несколько направлений поиска уточняются на каждой итерации, что позволяет согласовать систему направлений поиска с глобальной топологией целевой функции. Для того чтобы гарантировать возможность проведения поиска по всей рассматриваемой области, в обоих случаях целесообразно наложить требование линейной независимости направлений поиска, которые должны образовывать базис в допустимой области определения f(x). Например, легко убедиться в том, что нельзя вести поиск оптимума функции трех переменных с использованием двух направлений поиска. Отсюда следует, что все рассматриваемые методы прямого поиска используют по меньшей мере N независимых направлений поиска, где N— размерность вектора х.

12 3 4 5 6 7 Следующая ⇒