Основы теории нейронных сетей



         

Глава 2 - Часть 3


Неудачный поиск будет автоматически завершаться на несвязанном нейроне, так как его веса все равны единице, своему начальному значению. Поэтому правило двух третей приведет к идентичности вектора

C

входному вектору

X
, сходство
S
примет значение единицы и критерий сходства будет удовлетворен.

Обучение. Обучение представляет собой процесс, в котором набор входных векторов подается последовательно на вход сети, а веса сети изменяются при этом таким образом, чтобы сходные векторы активизировали соответствующие им нейроны. Заметим, что это - неуправляемое обучение, здесь нет учителя и нет целевого вектора, определяющего требуемый ответ.

Различают два вида обучения: медленное и быстрое. При медленном обучении входной вектор предъявляется настолько кратковременно, что веса сети не успевают достигнуть своих ассимптотических значений при единичном предъявлении. В этом случае значения весов будут определяться, скорее, статистическими характеристиками входных векторов, чем характеристиками какого-то одного входного вектора. Динамика сети в процессе медленного обучения описывается дифференциальными уравнениями.

Быстрое обучение является специальным случаем медленного обучения, когда входной вектор прикладывается на достаточно длительный срок, чтобы позволить весам приблизиться к их окончательным значениям. В этом случае процесс обучения описывается только алгебраическими выражениями. Кроме того, компоненты весовых векторов

T_j
принимают двоичные значения, в отличие от непрерывного диапазона значений, требуемого в случае быстрого обучения. В данной лекции мы опишем только быстрое обучение.

Рассмотренный далее обучающий алгоритм используется как в случае успешного, так и в случае неуспешного поиска.

Пусть вектор весов

B_j
(связанный с возбужденным нейроном
j

распознающего слоя) равен нормализованной величине вектора

C
. Эти веса вычисляются следующим образом:

 b_{ij}=\frac{Lc_i}{L-I+\sum_k c_k},

где

c_i
i
-я компонента выходного вектора слоя сравнения,
j
— номер выигравшего нейрона в слое распознавания,
b_{ij}
— вес связи, соединяющей нейрон
i
в слое сравнения с нейроном
j
в слое распознавания,
L
— константа > 1 (обычно 2).




Содержание  Назад  Вперед