Основы теории нейронных сетей



         

Бинарные системы - часть 2


На стадии инициализации сети весовые коэффициенты синапсов устанавливаются следующим образом:

 w_{ij}=\left\{ \begin{aligned} \sum_{k=0}^{m-1}x_i^k x_j^k,\quad & \text{если } i\ne j,\\ 0,& \text{если } i=j. \end{aligned} \right.

Здесь

i
и
j
— индексы, соответственно, предсинаптического и постсинаптического нейронов;
x_i^k
,
x_j^k
i
-й и
j
-й элементы вектора
k
-го образца.

Алгоритм функционирования сети следующий (

p
— номер итерации):

  1. На входы сети подается неизвестный сигнал. Фактически его ввод осуществляется непосредственной установкой значений аксонов:

     y_i(0)=x_i,\quad i=0,\ldots,n-1,

    поэтому обозначение на схеме сети входных синапсов в явном виде носит чисто условный характер. Ноль в скобке справа от

    y_i
    означает нулевую итерацию в цикле работы сети.

  2. Рассчитывается новое состояние нейронов:

     s_j(p+1)=\sum_{i=0}^{n-1}w_{ij} y_i(p),\quad j=0,\ldots, n-1

    и новые значения аксонов

     y_j(p+1)=f\lfloor s_j(p+1)\rfloor.

    где

    f
    — активационная функция в виде скачка.

  3. Проверка, изменились ли выходные значения аксонов за последнюю итерацию. Если да — переход к пункту 2, иначе (если выходы стабилизировались) — конец процедуры. При этом выходной вектор представляет собой образец, наилучшим образом сочетающийся с входными данными.

Как говорилось выше, иногда сеть не может провести распознавание и выдает на выходе несуществующий образ. Это связано с проблемой ограниченности возможностей сети. Для сети Хопфилда число запоминаемых образов

m
не должно превышать величины, примерно равной
0,15n
. Кроме того, если два образа А и Б имеют значительное сходство, они, возможно, будут вызывать у сети перекрестные ассоциации, то есть предъявление на входы сети вектора А приведет к появлению на ее выходах вектора Б и наоборот.

Когда нет необходимости, чтобы сеть выдавала образец в явном виде и достаточно, скажем, получать номер образца, ассоциативную память успешно реализует сеть Хэмминга. Данная сеть характеризуется, по сравнению с сетью Хопфилда, более экономным использованием памяти и меньшим объемом вычислений, что становится очевидным из ее структуры (см. рис. 8.2).


Рис. 8.2. 

Сеть состоит из двух слоев. Первый и второй слои имеют по

m

нейронов, где

m
— число образцов. Нейроны первого слоя имеют по
n

синапсов, соединенных с входами сети (которые образуют фиктивный нулевой слой).




Содержание  Назад  Вперед