Основы теории нейронных сетей



         

Метод сигнального обучения Хэбба


Как мы видели, выход NET простого искусственного нейрона является взвешенной суммой его входов. Это может быть выражено следующим образом:

 NET_j=\sum_i OUT_i w_{ij},

где

NET_j
— выход NET нейрона
j
,
OUT_i
— выход нейрона
i
,
w_{ij}
— вес связи нейрона
i
с нейроном
j
.

Можно показать, что в этом случае линейная многослойная сеть не является более мощной, чем однослойная сеть; рассматриваемые возможности сети могут быть улучшены только введением нелинейности в передаточную функцию нейрона. Говорят, что сеть, использующая сигмоидальную функцию активации и метод обучения Хэбба, обучается по сигнальному методу Хэбба. В этом случае уравнение Хэбба модифицируется следующим образом:

 OUT_i=\frac{1}{1+\exp(-NET_i)}=F(NET_i),\\ w_{ij}(t+1)=w_{ij}(t)+OUT_i OUT_j,

где

w_{ij}(t)
— сила синапса от нейрона
i
к нейрону
j
в момент времени
t
,
OUT_i
— выходной уровень пресинаптического нейрона равный
F(NET_i)
,
OUT_j
— выходной уровень постсинаптического нейрона, равный
F(NET)
.




Содержание  Назад  Вперед