Обучение когнитрона - часть 3

Таким образом,

$INHIB=\sum_i c_i OUT_i.$

где

$\sum_i c_i=1$

$c_i$

— возбуждающий вес

$i$

Процедура обучения.

Как объяснялось ранее, веса возбуждающих нейронов изменяются только тогда, когда нейрон возбужден сильнее, чем любой из узлов в области конкуренции. Если это так, изменение в процессе обучения любого из его весов может быть определено следующим образом:

$\delta a_i=q c_j u_j,$

где

$c_j$

— тормозящий вес связи нейрона

$j$

в слое 1 с тормозящим нейроном

$i$

$u_j$

— выход нейрона

$j$

в слое 1,

$a_i$

— возбуждающий вес

$i$

$q$

— нормирующий коэффициент обучения.

Изменение тормозящих весов нейрона

$i$

в слое 2 пропорционально отношению взвешенной суммы возбуждающих входов к удвоенному тормозящему входу. Вычисления проводятся по формуле

$\delta b_i = \frac{q\sum_j a_j u_j}{2\cdot INHIB_i}.$

Когда возбужденных нейронов в области конкуренции нет, для изменения весов используются другие выражения. Это необходимо, поскольку процесс обучения начинается с нулевыми значениями весов; поэтому первоначально нет возбужденных нейронов ни в одной области конкуренции, и обучение производиться не может. Во всех случаях, когда победителя в области конкуренции нейронов нет, изменение весов нейронов вычисляется следующим образом:

$\delta a_i=q' c_ju_j,\quad \delta b_i=q'INHIB,$

где

$q'$

— положительный обучающий коэффициент, меньший, чем

$q$

Приведенная стратегия настройки гарантирует, что узлы с большой реакцией заставляют возбуждающие синапсы, которыми они управляют, увеличиваться сильнее, чем тормозящие синапсы. Верна и обратная зависимость: узлы, имеющие малую реакцию, вызывают малое возрастание возбуждающих синапсов, но большее возрастание тормозящих синапсов. Таким образом, если узел 1 в слое 1 имеет больший выход, синапс

$a_1$

возрастет больше, чем синапс

$b_1$

. И наоборот, узлы, имеющие малый выход, обеспечат малую величину для приращения

$a_i$

. Однако другие узлы в области связи будут возбуждаться, тем самым увеличивая сигнал INHIB и значения

$b_i$

В процессе обучения веса каждого узла в слое 2 настраиваются таким образом, что вместе они составляют шаблон, соответствующий образам, которые часто предъявляются в процессе обучения. При предъявлении сходного образа шаблон соответствует ему и узел вырабатывает большой выходной сигнал.

Содержание Назад Вперед