Основы теории нейронных сетей




Статистические сети Хопфилда


Если правила изменения состояний для бинарной сети Хопфилда заданы статистически, а не детерминированно, то возникает система, имитирующая отжиг. Для ее реализации вводится вероятность изменения веса как функция от величины, на которую выход нейрона OUT превышает его порог. Пусть

 E_k=NET_k-\theta_k,

где

NET_k
— выход NET нейрона
k
;
\theta
— порог нейрона
k
, и

 p_k=\frac{1}{1+\exp(-\delta E_k/T)},

(отметим вероятностную функцию Больцмана в знаменателе), где

T

— искусственная температура.

В стадии функционирования искусственной температуре

T

приписывается большое значение, нейроны устанавливаются в начальном состоянии, определяемом входным вектором, и сеть имеет возможность искать минимум энергии в соответствии с нижеследующей процедурой:

  1. Приписать состоянию каждого нейрона с вероятностью
    p_k

    значение единица, а с вероятностью

    1-p_k
    — нуль.
  2. Постепенно уменьшать искусственную температуру и повторять шаг 1, пока не будет достигнуто равновесие.




Содержание  Назад  Вперед