Основы теории нейронных сетей


Сеть встречного распространения полностью


На рис. 6.7 показана сеть встречного распространения целиком. В режиме нормального функционирования предъявляются входные векторы

Сеть встречного распространения полностью
и
Сеть встречного распространения полностью
, и обученная сеть дает на выходе векторы
Сеть встречного распространения полностью
и
Сеть встречного распространения полностью
, являющиеся аппроксимациями соответственно для
Сеть встречного распространения полностью
и
Сеть встречного распространения полностью
. Векторы
Сеть встречного распространения полностью
и
Сеть встречного распространения полностью
предполагаются здесь нормализованными единичными векторами, следовательно, порождаемые на выходе векторы также будут иметь тенденцию быть нормализованными.

Сеть встречного распространения полностью

Рис. 6.7. 

В процессе обучения векторы

Сеть встречного распространения полностью
и
Сеть встречного распространения полностью
подаются одновременно и как входные векторы сети, и как желаемые выходные сигналы. Вектор
Сеть встречного распространения полностью

используется для обучения выходов

Сеть встречного распространения полностью
, а вектор
Сеть встречного распространения полностью
— для обучения выходов
Сеть встречного распространения полностью
слоя Гроссберга. Сеть встречного распространения целиком обучается с использованием того же самого метода, который описывался для сети прямого действия. Нейроны Кохонена принимают входные сигналы как от векторов
Сеть встречного распространения полностью
, так и от векторов
Сеть встречного распространения полностью
. Но эта ситуация неотличима от той, когда имеется один большой вектор, составленный из векторов
Сеть встречного распространения полностью
и
Сеть встречного распространения полностью
, и тем самым не влияет на алгоритм обучения.

В качестве результирующего получается единичное отображение, при котором предъявление пары входных векторов порождает их копии на выходе. Этот вывод не представляется особенно интересным, если не заметить, что предъявление только вектора

Сеть встречного распространения полностью
(с вектором
Сеть встречного распространения полностью
, равным нулю) порождает как выходы
Сеть встречного распространения полностью
, так и выходы
Сеть встречного распространения полностью
. Если
Сеть встречного распространения полностью
— функция, отображающая
Сеть встречного распространения полностью
в
Сеть встречного распространения полностью
, то сеть аппроксимирует ее. Также, если
Сеть встречного распространения полностью

обратима, то предъявление только вектора

Сеть встречного распространения полностью
(приравнивая
Сеть встречного распространения полностью
нулю) порождает
Сеть встречного распространения полностью
. Уникальная способность сети встречного распространения — порождать функцию и обратную к ней — делает эту сеть полезной в ряде приложений.

Рис. 6.7, в отличие от первоначальной конфигурации, не демонстрирует противоток в сети, по которому она получила свое название. Такая форма выбрана потому, что она также иллюстрирует сеть без обратных связей и позволяет обобщить понятия, развитые в предыдущих лекциях.



Содержание раздела