Стохастические нейроны
Стохастический нейрон, как и в оригинальной модели Хопфилда, является бинарным - его состояние
принимает значения
. Однако то, в какое состояние перейдет нейрон, связано со значением потенциала
не однозначно, а случайным образом. Именно, вероятность перехода нейрона в состояния:
,
, или иначе
где
- распределение Ферми:
, удовлетворяющее необходимым условиям
, и
- обратная температура. В низкотемпературном пределе распределение Ферми переходит в пороговую функцию, и поведение сети из стохастических нейронов становится аналогичным поведению сети Хопфилда, составленной из обычных бинарных нейронов.
Содержание раздела