Многослойные нейронные сети

Чем крупнее и сложнее нейронная сеть, тем большими вычислительными возможностями она обладает. В многослойной сети может быть какое угодно количество слоёв нейронов, расположенных каскадом. Каждый нейрон соединён с нейронами последующего и предыдущего слоёв. В каждом слое может быть произвольное количество нейронов. Выход одного слоя является входом для последующего слоя.

Рис. 5 Двухслойная нейронная сеть

Среди многослойных сетей можно выделить четыре класса:

· сети обратного распространения (рекуррентные) — все связи направлены с выходных нейронов к выходным;

· сети прямого распространения – все связи направлены строго от входных нейронов (или нейронов скрытого слоя) на входы нейронов входного слоя;

· сеть Кохонена — два слоя, входной и выходной, составленные из радиальных элементов. Способна обучаться без учителя.

· радиально базисные функции – многослойная ИНС, имеющая скрытый слой из радиальных элементов и выходной слой из линейных элементов;

Обучение нейронной сети

Обучение – это процесс, в ходе которого происходит настройка свободных параметров ИНС посредством моделирования её внешней среды. Тип обучения определяется способом подстройки этих параметров.

Процесс обучения состоит можно разделить на три фазы

· поступление сигналов из внешней среды в ИНС;

· изменение внутренней структуры ИНС на основе полученных сигналов;

· обработка поступающих сигналов на основе произошедших изменений;

Существующие алгоритмы обучения ИНС делятся на два класса: стохастические (вероятностные) и детерминистские. В первом случае подстройка весов подчиняется случайному процессу, во втором представляет собой жёсткую последовательность. Универсального алгоритма не существует. Чтобы сконструировать процесс обучения необходимо, во-первых, обладать моделью внешней среды ИНС, т.е. доступной для сети информацией, во-вторых — понимать правила обучения, которые определяют способ модифицирования весовых параметров пути.

Обучение с учителем

Рис. 6 Схема обучения с учителем

При обучении с учителем для каждого входного вектора существует значение целевого вектора, представляющего собой требуемый выходной сигнал сети. Вместе эти вектора составляют обучающую пару. В обычных случаях обучение сети проходит с несколькими обучающими парами. После того, как ИНС сравнивает значение выходного сигнала со значением целевого вектора, вычисляется ошибка. Величины синаптической связи (веса) изменяют до тех пор, пока не будет получен приемлемо низкий уровень отклонения выходного вектора от целевого для каждого входного вектора.

Обучение без учителя

Рис. 7 Схема обучения без учителя

Обучение без учителя представляет собой более правдоподобную модель обучения с биологической точки зрения. В этом случае обучающее множество составляют только входные вектора; целевой вектор для выходов не требуется. Веса ИНС подстраиваются определённым образом, при котором предъявление близких входных векторов даёт одинаковые выходы. В этом случае выходные вектора называются согласованными. В результате этого процесса сходные вектора группируются в классы, и предъявление на вход вектора из данного класса даёт определенный выходной вектор. Предсказать конечный результат этого процесса до обучения невозможно.

Заключение

В настоящее время развитие ИНС находится на недостаточно высоком уровне, чтобы предполагать, что в ближайшем будущем эти системы смогут дублировать функции человеческого интеллекта в полной мере. Даже самые сложные ИНС по уровню развития находятся ниже, чем обычный дождевой червь. Кроме того, системы ИНС имеют ряд существенных недостатков.

Во-первых, поскольку структура ИНС повторяет структуру человеческого мозга, эти системы обладают свойственной людям непредсказуемостью. Для определения точного значения выхода необходимо испытать все возможные входные сигналы. В большой сети подобная проверка почти неосуществима. Таким образом, при использовании ИНС высока вероятность случайных ошибок, и использовать эту систему в деятельности, включающей в себя ответственность за жизнь людей, не рекомендуется.

Во-вторых, в отличие от экспертных систем, ИНС нельзя проверить, т.е. проследить процесс её рассуждений в обратном порядке, поскольку её внутренняя структура, получающаяся в процессе обучения, обладает невероятной сложностью (кроме самых простых случаев).

Однако благодаря значительному функциональному сходству данных сетей с человеческим мозгом развитие ИНС возможно поспособствует в будущем более глубокому пониманию человеческого интеллекта.

Список литературы

1. Галушкин А.И. Нейрокомпьютеры в разработках военной техники США // Зарубежная радиоэлектроника. - 1995. - N5, 6. - С.4-21.

2. Уоссермен Ф. Нейрокомпьютерная техника: Теория и практика. - Пер. с англ., 1992. - 118 с.

Поиск по сайту: