Нейрокомпьютинг и его применения в экономике и бизнесе



              

Индивидуальная нормировка данных - часть 2


нормирует основную массу данных одновременно гарантируя, что

\mbox{\~{x}_i}\in[0,1]
(см. рисунок 7.3).


Рис. 7.3.  Нелинейная нормировка, использующая логистическую функцию активации
f(a)= (1+ e^{-\alpha})^{-1}

Как видно из приведенного выше рисунка, распределение значений после такого нелинейного преобразования гораздо ближе к равномерному.

До сих пор мы старались максимизировать энтропию каждого входа (выхода) по отдельности. Но, вообще говоря, можно добиться гораздо большего максимизируя их совместную энтропию. Рассмотрим эту технику на примере совместной нормировки входов, подразумевая, что с таким же успехом ее можно применять и для выходов а также для всей совокупности входов-выходов.




Содержание  Назад  Вперед