Нейрокомпьютинг и его применения в экономике и бизнесе

         

Формирование признакого пространства методом ортогонализации


Следующая систематическая процедура способна итеративно выделять наиболее значимые признаки, являющиеся линейными комбинациями входных переменных:

Формирование признакого пространства методом ортогонализации
(подмножество входов является частным случаем линейной комбинации, т.е. формально можно найти лучшее решение, чем то, что доступно путем отбора наиболее значимых комбинаций входов).

Формирование признакого пространства методом ортогонализации

Рис. 7.15.  Выбор наиболее значимых линейных комбинаций входных переменных

Для определения значимости каждой входной компоненты будем использовать каждый раз индивидуальную значимость этого входа:

Формирование признакого пространства методом ортогонализации
.

Подсчитав индивидуальную значимость входов, находим направление в исходном входном пространстве, отвечающее наибольшей (нелинейной) чувствительности выходов к изменению входов. Это градиентное направление определит первый вектор весов, дающий первую компоненту пространства признаков:

Формирование признакого пространства методом ортогонализации

Следующую компоненту будем искать аналогично первой, но уже в пространстве перпендикулярном выбранному направлению, для чего спроектируем все входные вектора в это пространство:

Формирование признакого пространства методом ортогонализации

В этом пространстве можно опять подсчитать "градиент" предсказуемости, определив индивидуальную значимость спроектированных входов, и так далее. На каждом следующем этапе подсчитывается индивидуальная значимость

Формирование признакого пространства методом ортогонализации
для проекции входов
Формирование признакого пространства методом ортогонализации
, что не требует повышения размерности box-counting анализа. Таким образом, описанная выше процедура позволяет формировать пространство признаков произвольной размерности - без потери точности.



Содержание раздела