ШТУЧНІ НЕЙРОННІ МЕРЕЖІ (ШНМ). НЕЙРОПАРАДИГМИ

Задача розв’язувана ШНМ формулюється наступним чином: Відомий набір сигналів, що вважаються зразковими. ШМН повинна вміти з довільного неідеального сигналу, поданого на її вхід, виділити відповідний зразок чи дати висновок про те, що вхідні дані не відповідають жодному зі зразків.

ШМН можна поділити на два типи: ітеративні, в яких модифікуються ваги синапсів, та неітеративні, що випливають з аналогії між ШМН і спіновим склом (фізичною моделлю мільтистабільної системи, яка при виведенні зі стану рівноваги, вчиняє коливання, що завершуються переходом у найближчий стаціонарний стан, що відповідає мінімуму потенційної енергії).

Ітеративні ШНМ:

1.Перцептрони.

Рік розробки: 1943. Автори: Маккалокк і Піттс. Галузь застосування: Розпізнавання зображень, що піддаються зсувам і поворотам.

Опис: Складається з одного типу нейронів. Вхідні сигнали множаться на ваги і підсумовуються. Якщо сума більше заданого граничного значення, вхідний сигнал дорівнює одиниці, інакше – нулю.

Алгоритм навчання полягає в підстроюванні синаптичних зв’язків в напрямку мінімізації помилки.

2. Перцептрон Розенблантта.

Рік розробки: 1957. Автор: Розенблантт. Галузь застосування: Розпізнавання друкованого шрифту.

Опис: Містить три шари порогових елементів. Вхідні сигнали, впливаючи на рецептори (S-елементи), переводять їх в збуджений стан, S-елементи випадковим чином пов’язані з сукупністю асоціативних нейронів (A-елементи). Вхід A-елемента відрізняється від нуля тільки тоді, коли активовано достатню кількість пов’язаних з ним рецепторів. Реакції A-елементів надходять на виходи ефекторів (R-елементи) через зв’язки, вага яких змінюється при навчанні. В ефекторах обчислюється постсинаптичний потенціал – зважена сума сигналів, що надійшли. Для кожного класу виділяється один ефектор і рішення приймається за максимумом значення постсинаптичного потенціалу.

3. Адалін (adaptive linear element) та Мадалін(multi adaptive linear element).

Рік розробки: 1960. Автор: Уидроу. Галузь застосування: адаптивні моделі і еквалайзери в телефонії.

Опис: Структура Адаліна включає порогів елемент (ПЕ), елемент віднімання (ЕВ), вузол підстроювання (ВП) вагових коефіцієнтів. В поцесі навчання вагові коефіцієнти підстроюються так, щоб нейрон формував правильні вихідні сигнали. Для цього оцінюється помилка δ (різниця) між потрібним d та фактичним y значенням вихідного сигналу. Алгоритм навчання мінімізує сумму квадратів помилок за періл навчання. За допомогою ПЕ формуються рівні вихідного сигналу, відповідні логічним. Для зсуву активаційної функції застосовується вхід х₀.

ПРОЦЕС НАВЧАННЯ

Найпростіші ШНМ ітеративного типу (одношаровий перцептор, Адалін) в процесі навчання почергово модифікують ваги синапсів. Період коригування всіх синапсів ШНМ називають епохою. Перед початком навчання необхідно певним чином задати вагу синапсів. При введенні запам’ятованого стимулу з’являється реакція нейронів рецепторного шару. Коли утворена хвиля досягає ефекторів, знаходять величину помилки – різниці між отриманим та бажаним значенням реакції ШНМ. Значення помилки використовується для коригування ваги синапсів, що полягає в невеликому (<1%) збільшенні ваги тих синапсів, що посилюють правильні реакції, та зменшенні тих, що сприяють помилковим. Однак ШНМ з таким алгоритмом навчання здатен розпізнавати лише вузький клас лінійно розділених стимулів. Для складніших задач використовують ШМН з прихованими шарами нейронів і відповідно складніші алгоритми навчання.

Поиск по сайту: