Нейрокомпьютинг и его применения в экономике и бизнесе


Извлечение правил


Даже если параметры, описывающие признаки классифицируемых объектов, представляют собой непрерывные величины, для их представления можно использовать бинарные нейроны и принцип кодирования типа термометра. При таком способе кодирования область изменения параметра делится на конечное число

M
интервалов и для представления всех значений, ле-жащих в m-м интервале используется следующее состояние
M
бинарных нейронов:
\begin{array}{c}(0,\ldots ,\underbrace{1, \ldots ,1})\\ m\end{array}
.

. Пример кодировки непрерывной величины с помощью бинарных нейронов и принципа термометра. Интервал (0, 50) разбит на 5 равных частей. Значение 34.0 попадает в 4-й интервал. При этом состояния первых 4 из 5 кодирующих бинарных нейронов равно единице, а 5-го - нулю.

Рис. 9.1.  . Пример кодировки непрерывной величины с помощью бинарных нейронов и принципа термометра. Интервал (0, 50) разбит на 5 равных частей. Значение 34.0 попадает в 4-й интервал. При этом состояния первых 4 из 5 кодирующих бинарных нейронов равно единице, а 5-го - нулю.

При наличии многих непрерывных входов число заменяющих их бинарных нейронов может стать весьма большим. Однако, прореживание связей приводит к получению относительно ком-пактной сети. Но и для нее выделение классификационных правил представляет проблему. Если нейрон имеет d входов, то число различных бинарных векторов, которые он может обра-ботать составляет

2^d
, а это большая величина даже при малом d. Далее, состояния нейрона скрытого слоя являются непрерывными, что также является препятствием для извлечения пра-вил. Для его устранения все значения, которые принимают нейроны скрытого слоя кластеризу-ются и заменяются значениями, определяющими центры кластеров. Число таких кластеров выбирается небольшим. После такой дискретизации активностей промежуточных нейронов производится проверка точности классификации объектов сетью. Если она остается приемле-мой, то подготовка к извлечению правил заканчивается. Приведем формальное описание алго-ритма дискретизации значений активности нейронов скрытого слоя

Алгоритм дискретизации

  1. Выбирается значение параметра
    \varepsilon\in(0,1)
    , управляющего числом кластеров активности нейрона скрытого слоя. Пусть
    h_1
    - активность этого нейрона при предъявлении сети первого вектора обучающего набора. Положим число кластеров
    N_{clust}=1
    , положение кластера
    A_{clust}(1)h_1, count(1)=1, sum(1)=h_1
    .
  2. Для всех векторов обучающего набора
    k=1,\ldots ,K
    • определяется активность нейрона скрытого слоя
      h
    • если существует индекс
      j
      такой что




      Начало  Назад  Вперед