Извлечение правил - часть 2

$|h-A_{clust}(j)|=\min_{j\in\{1,\ldots ,N_{clust}\}}|h-A_{clust}(j)|$

$|h-A_{clust}(j)|\leq\varepsilon,$

то

$count(j):=count(j)+1, sum(N_{clust}):=sum(N_{clust})+h$

иначе

$N_{clust}=N_{clust}+1, A_{clust}(N_{clust})=h, count(N_{clust})=1, sum(N_{clust})=h.$

Заменить

$A_{clust}$

на среднее значение активаций нейрона, объединенных в один и тот же кластер:

$A_{clust}(j)^=sum(j)/count(j),j1,\ldots ,N_{clust}$

Проверить точность классификации объектов сетью при замене истинных значений активации нейрона скрытого слоя на

$A_{clust}(j)$

Если точность классификации оказалась ниже заданного значения, то уменьшить значение

$\varepsilon$

и вернуться к шагу 1.

Рассмотрим приведенный в (Lu, Setiono and Liu, 1995) пример, в котором прореженная сеть содержала три нейрона скрытого слоя, дискретизация активности которых была проведена при значении параметра

$\varepsilon=0.6$

. Ее результаты отражены в таблице 9.1.

Таблица 9.1. Дискретизация состояний нейронов скрытого слоя

нейрон скрытого слоячисло кластеровдискретное значение активности

1	3	(-1,0,1)
2	2	(0, 1)
3	3	(-1, 0.24, 1)

В этой работе решалась задача разбиения объектов на два класса. На ее примере мы и рассмотрим последовательность извлечения правил. После дискретизации значений активности нейронов скрытого слоя, передача их воздействий выходным классифицирующим нейронам описывалась параметрами, приведенными в таблице 9.2.

Таблица 9.2. Связь дискретных значений активности нейронов скрытого и выходного слоев.

h1h2h3o1o2

-1	1	-1	0.92	0.08
-1	1	1	0.00	1.00
-1	1	0.24	0.01	0.99
-1	0	-1	1.00	0.00
-1	0	1	0.11	0.89
-1	0	0.24	0.93	0.07
1	1	-1	0.00	1.00
1	1	1	0.00	1.00
1	1	0.24	0.00	1.00
1	0	-1	0.89	0.11
1	0	1	0.00	1.00
1	0	0.24	0.00	1.00
0	1	-1	0.18	0.82
0	1	1	0.00	1.00
0	1	0.24	0.00	1.00
0	0	-1	1.00	0.00
0	0	1	0.00	1.00
0	0	0.24	0.18	0.82

Исходя из значений, приведенных в этой таблице, после замены значений выходных нейронов ближайшими к ним нулями или единицами, легко получить следующие правила, связывающие активности нейронов скрытого слоя с активностями классифицирующих нейронов

правило 1 если h2=0,h3=-1, то o1=1, o2=0 (объект класса А)
правило 2 если h1=-1,h2=1,h3=-1, то o1=1, o2=0 (объект класса А)
правило 3 если h1=-1,h2=0,h3=0.24, то o1=1, o2=0 (объект класса А)
правило 4 в остальных случаях o1=1, o2=0 (объект класса В)

Эти правила являются вспомогательными, поскольку нам необходимо связать значения состояний классифицирующих выходных нейронов со входами нейронной сети. Структура данной сети после прореживания связей и нейронов изображена на следующем рисунке.

Начало Назад Вперед