Стохастические нейроны

Стохастический нейрон, как и в оригинальной модели Хопфилда, является бинарным - его состояние

принимает значения

. Однако то, в какое состояние перейдет нейрон, связано со значением потенциала

не однозначно, а случайным образом. Именно, вероятность перехода нейрона в состояния:

, или иначе

где

- распределение Ферми:

, удовлетворяющее необходимым условиям

, и

- обратная температура. В низкотемпературном пределе распределение Ферми переходит в пороговую функцию, и поведение сети из стохастических нейронов становится аналогичным поведению сети Хопфилда, составленной из обычных бинарных нейронов.

Содержание раздела