Основы теории нейронных сетей



         

Искусственный нейрон


Искусственный нейрон имитирует в первом приближении свойства биологического нейрона. На вход искусственного нейрона поступает некоторое множество сигналов, каждый из которых является выходом другого нейрона. Каждый вход умножается на соответствующий вес, аналогичный синаптической силе, и все произведения суммируются, определяя уровень активации нейрона.


Рис. 1.2. 

На рис. 1.2 представлена модель, реализующая эту идею. Множество входных сигналов, обозначенных

x_1, x_2,\ldots, x_n
, поступает на искусственный нейрон. Эти входные сигналы, в совокупности обозначаемые вектором
X
, соответствуют сигналам, приходящим в синапсы биологического нейрона. Каждый сигнал умножается на соответствующий вес
w_1, w_2,\ldots, w_n
, и поступает на суммирующий блок, обозначенный
\Sigma
. Каждый вес соответствует "силе" одной биологической синаптической связи. (Множество весов в совокупности обозначается вектором
W
.) Суммирующий блок, соответствующий телу биологического элемента, складывает взвешенные входы алгебраически, создавая выход, который мы будем называть
NET
. В векторных обозначениях это может быть компактно записано следующим образом:

 NET = XW.

Сигнал

NET
далее, как правило, преобразуется активационной функцией
F
и дает выходной нейронный сигнал
OUT
. Активационная функция может быть обычной линейной функцией

 OUT = F(NET),

где

F
— константа, пороговой функцией

 OUT =\left\{ \begin{aligned} 1, & \quad \text{если } NET>T;\\ 0, & \quad \text{если }NET \le T \end{aligned} \right.

где

T
— некоторая постоянная пороговая величина, или же функцией, более точно моделирующей нелинейную передаточную характеристику биологического нейрона и предоставляющей нейронной сети большие возможности.


Рис. 1.3. 

На рис. 1.2 блок, обозначенный

F
, принимает сигнал
NET
и выдает сигнал
OUT
. Если блок
F
сужает диапазон изменения величины
NET
так, что при любых значениях
NET
значения
OUT
принадлежат некоторому конечному интервалу, то
F
называется "сжимающей" функцией. В качестве "сжимающей" функции часто используется логистическая или "сигмоидальная" (S-образная) функция, показанная на рис. 1.3. Эта функция математически выражается как
F(x) = 1/(1 + e^{- x})
. Таким образом,

 OUT=\frac {1}{1+e^{-NET}}.

По аналогии с электронными системами активационную функцию можно считать нелинейной усилительной характеристикой искусственного нейрона.




Содержание  Назад  Вперед