на среднее значение активаций нейрона,
и
то
иначе
Заменить на среднее значение активаций нейрона, объединенных в один и тот же кластер: . Проверить точность классификации объектов сетью при замене истинных значений активации нейрона скрытого слоя на . Если точность классификации оказалась ниже заданного значения, то уменьшить значение и вернуться к шагу 1.
Рассмотрим приведенный в (Lu, Setiono and Liu, 1995) пример, в котором прореженная сеть содержала три нейрона скрытого слоя, дискретизация активности которых была проведена при значении параметра
. Ее результаты отражены в таблице 9.1.
Таблица 9.1. Дискретизация состояний нейронов скрытого слоя нейрон скрытого слоячисло кластеровдискретное значение активности
1 | 3 | (-1,0,1) |
2 | 2 | (0, 1) |
3 | 3 | (-1, 0.24, 1) |
В этой работе решалась задача разбиения объектов на два класса. На ее примере мы и рассмотрим последовательность извлечения правил. После дискретизации значений активности нейронов скрытого слоя, передача их воздействий выходным классифицирующим нейронам описывалась параметрами, приведенными в таблице 9.2.
Таблица 9.2. Связь дискретных значений активности нейронов скрытого и выходного слоев. h1h2h3o1o2
-1 | 1 | -1 | 0.92 | 0.08 |
-1 | 1 | 1 | 0.00 | 1.00 |
-1 | 1 | 0.24 | 0.01 | 0.99 |
-1 | 0 | -1 | 1.00 | 0.00 |
-1 | 0 | 1 | 0.11 | 0.89 |
-1 | 0 | 0.24 | 0.93 | 0.07 |
1 | 1 | -1 | 0.00 | 1.00 |
1 | 1 | 1 | 0.00 | 1.00 |
1 | 1 | 0.24 | 0.00 | 1.00 |
1 | 0 | -1 | 0.89 | 0.11 |
1 | 0 | 1 | 0.00 | 1.00 |
1 | 0 | 0.24 | 0.00 | 1.00 |
0 | 1 | -1 | 0.18 | 0.82 |
0 | 1 | 1 | 0.00 | 1.00 |
0 | 1 | 0.24 | 0.00 | 1.00 |
0 | 0 | -1 | 1.00 | 0.00 |
0 | 0 | 1 | 0.00 | 1.00 |
0 | 0 | 0.24 | 0.18 | 0.82 |
Исходя из значений, приведенных в этой таблице, после замены значений выходных нейронов ближайшими к ним нулями или единицами, легко получить следующие правила, связывающие активности нейронов скрытого слоя с активностями классифицирующих нейронов
- правило 1 если h2=0,h3=-1, то o1=1, o2=0 (объект класса А)
- правило 2 если h1=-1,h2=1,h3=-1, то o1=1, o2=0 (объект класса А)
- правило 3 если h1=-1,h2=0,h3=0.24, то o1=1, o2=0 (объект класса А)
- правило 4 в остальных случаях o1=1, o2=0 (объект класса В)
Эти правила являются вспомогательными, поскольку нам необходимо связать значения состояний классифицирующих выходных нейронов со входами нейронной сети. Структура данной сети после прореживания связей и нейронов изображена на следующем рисунке.
Содержание Назад Вперед