Нейросетевых вычислительных систем (слд 173)

⇐ ПредыдущаяСтр 11 из 12Следующая ⇒

Нейросетевой подход к решению плохо формализованных задач прогнозирования, распознавания, классификации показал свою эффективность на практически важных проблемах. Следует отметить что это достаточно " узкий" класс математических постановок задач. Однако практическая важность этих задач - безусловна. К типовые задачам этого класса можно отнести следующие задачи.

Распознавание образов

Задача состоит в отнесении входного набора данных, представляющего распознаваемый объект, к одному из заранее известных классов. В число этих задач входит распознавание рукописных и печатных символов при оптическом вводе в ЭВМ, распознавание типов клеток крови, распознавание речи и другие.

Кластеризация данных

Задача состоит в группировке входных данных по присущей им " близости". Алгоритм определения близости данных (определение расстояния между векторами, вычисление коэффициента корреляции и другие способы) закладывается в нейросеть при ее построении. Сеть кластеризует данные на заранее не известное число кластеров. Наиболее известные применения кластеризации связаны со сжатием данных, анализом данных и поиском в них закономерностей.

Аппроксимация функций

Имеется набор экспериментальных данных {(X_j, Y_j),..., (X_n, Y_n)}, представляющий значения Y неизвестной функции от аргумента X, i = 1,..., n. Требуется найти функцию, аппроксимирующую неизвестную и удовлетворяющую некоторым критериям. Эта задача актуальна при моделировании сложных систем и создании систем управления сложными динамическими объектами.

Предсказание

Имеется набор { у(t₁), y(t₂),..., y(t_n) } значений у, представляющих поведение системы в моменты времени t₁, t₂,..., t_n. Требуется по предыдущему поведению системы предсказать ее поведение y(t_n₊₁) в момент времени t_n₊₁. Эта задача актуальна для управления складскими запасами, систем принятия решений.

Оптимизация

Цель этих задач - найти решение NP-полной проблемы, удовлетворяют ряду ограничений и оптимизирующее значение целевой функции. К числу этих задач относится, например, задача коммивояжера.

Типы нейросетей

Теория искусственных нейронных сетей в настоящее время проходит этап активного развития, что обусловливает разнообразие постановок проблем и основных определений. Исследователи наделяют искусственные нейроны разнообразными свойствами, которые, по их мнению, адекватны функциям биологических нейронов и позволяют получать решение актуальных для исследователя задач.

В рамках данной книги будем придерживаться следующих формулировок основных понятий нейронных сетей [37-39].

Искусственный нейрон, далее просто нейрон j, j є {I, 2,...}, задается совокупностью своих входов х_ji, i є {1, 2,...}, весами входов w_ji, функцией состояния s_j и функцией активации f_j.

Функция состояния определяет состояние нейрона в зависимости от значений его входов, весов входов и, возможно, предыдущих состояний. Наиболее часто используются функции состояния, не зависящие от предыдущего состояния, вычисляемые либо как сумма произведений значений входов на веса соответствующих входов по всем входам

n(j)

s_j = ∑ x_ji_*w_ji_,

i=1

где - n(j) - число входов нейрона j,

либо как расстояние между вектором входов Xj = {х_ji} и вектором весов входов Wj = {w_ji}, измеряемое в какой-либо метрике, например,

s_j = ∑ |w_ji - x_ji, |

Одноместная функция активации у = f(s) определяет выходной сигнал нейрона как функцию его состояния s. Наиболее распространенными функциями являются ступенчатая пороговая, линейная пороговая, сигмоидная, также линейная и гауссиана.

Линейные нейронные сети используют нейроны с линейной функцией активации. Нелинейные применяют нелинейную функцию активации, например, пороговую или сигмоидную.

Нейронная сеть образуется путем объединения ориентированными взвешенными ребрами выходов одних нейронов с входами других. При этом граф межнейронных соединений может быть ациклическим либо произвольным циклическим. Вид графа служит одним из классификационных признаков типа нейронной сети, разделяющим сети на сети без циклов и циклические. Примеры нейронных сетей этих типов приведены на рис. 2, 3.

Рис. 7.1. Пример нейронной сети без циклов

Рис. 7.2. Пример циклической нейронной сети

Разнообразие этих алгоритмов задаваемых конструкциями НС ничем не ограничено, так как можно использовать нейроны с различными функциями активации, различными функциями состояния, двоичными, целочисленными, вещественными и другими значениями весов и входов. Поэтому в терминах нейронных сетей можно описывать решение как хорошо формализованных задач, например, задач математической физики, так и плохо формализуемых задач распознавания, классификации, обобщения и ассоциативного запоминания.

Сети могут быть конструируемыми или обучаемыми. В конструируемой сети число и тип нейронов, граф межнейронных связей, веса входов нейронов определяются при создании сети, исходя из решаемой задачи. Функционирование такой сети заключается в следующем. При подаче на входы частичной или ошибочной входной последовательности сеть через какое-то время переходит в одно из устойчивых состояний, предусмотренных при ее конструировании.

В обучаемых сетях их графы межнейронных связей и веса входов изменяются при выполнении алгоритма обучения. По алгоритму обучения сети делятся на наблюдаемые, ненаблюдаемые и смешанные (гибридные). Первые при обучении сравнивают заранее известный выход с получившимся значением.

Вторые обучаются, не зная заранее правильных выходных значений, но группируя " близкие" входные векторы так, чтобы они формировали один и тот же выход сети. Ненаблюдаемое обучение используется, в частности, при решении задачи кластеризации. При смешанном алгоритме обучения часть весов определяется при наблюдаемом, а часть - при ненаблюдаемом обучении.

Обучение осуществляется путем предъявления примеров, состоящих из наборов входных данных в совокупности с соответствующими результатами при наблюдаемом обучении и без последних при ненаблюдаемом. Эффективность решения задач нейронной сетью зависит от выбранной структуры нейронной сети, используемого алгоритма обучения, называемых в совокупности нейропарадигмой, и полноты имеющейся базы данных примеров.

⇐ Предыдущая 3 4 5 6 7 8 9 101112 Следующая ⇒