Нейрокомпьютинг и его применения в экономике и бизнесе

Для чего и для кого написана эта книга
Нейрокомпьютеры в заголовках газет

Из чего построен мозг
Структура и функции мозга
Восприятие
Память
Мышление

Право-лево-полушарный симбиоз
Встречная эволюция мозга и компьютеров
Первые компьютеры: супер-калькуляторы
От вычислений - к обработке символов


От символов - к образам
Трудности современной схемотехники
Специфика образной информации

Нейрокомпьютеры
Перспективы нейрокомпьютинга
Вездесущие умные нейрочипы
Операционные системы будущего

Нейрокомпьютинг и его применения в экономике и бизнесе

Краткая история нейрокомпьютинга
Элементная база нейрокомпьютеров
Как устроены нейрокомпьютеры
Сравнение вычислительных возможностей искусственных и природных нейросетей
Сравнение стоимости обычных и нейро- вычислений
Нейро-эмуляторы
Преимущества нейро-эмуляторов
Готовые нейро-пакеты
Инструменты разработки нейроприложений

Готовые решения на основе нейросетей
Нейросетевой консалтинг
Рынок нейропродукции
Какие задачи решают нейросети
Где применяются нейросети
Что такое парадигмы
Коннекционизм

Локальность и параллелизм вычислений
Программирование: обучение, основанное на данных
Универсальность обучающих алгоритмов
Типы обучения нейросети
Архитектура связей
Классификация по типу связей и типу обучения (Encoding-Decoding)
Примечание 1.1

Нейрокомпьютинг и его применения в экономике и бизнесе

Персептроны. Прототипы задач
Возможности многослойных персептронов
Нейрон - классификатор
Выбор функции активации

Двухслойные персептроны
Персептрон Розенблатта
Основы индуктивного метода
Байесовский подход
Принцип максимального правдоподобия (maximum likelihood)
Принцип минимальной длины описания (minimum description length)
Градиентное обучение
Метод обратного распространения ошибки
Эффективность алгоритма back-propagation
Использование алгоритма back-propagation

Вычислительная сложность обучения
Оптимизация размеров сети
Ошибка аппроксимации
Переобучение
Ошибка, связанная со сложностью модели
Оптимизация размера сети
Адаптивная оптимизации архитектуры сети
Валидация обучения

Ранняя остановка обучения
Прореживание связей
Конструктивные алгоритмы
Примечание 4.1

Нейрокомпьютинг и его применения в экономике и бизнесе

Обобщение данных. Прототипы задач
Нейрон - индикатор
Постановка задачи
Правило обучения Хебба
Правило обучения Ойа
Взаимодействие нейронов: анализ главных компонент

Необходимость взаимодействия нейронов
Самообучающийся слой
Сравнение с традиционным статистическим анализом
Целевая функция
Автоассоциативные сети
Предикторы
Латеральные связи
Соревнование нейронов: кластеризация
Победитель забирает все
Алгоритм обучения соревновательного слоя нейронов

Кластеризация и квантование
Оценка вычислительной сложности обучения
Победитель забирает не все
Упорядочение нейронов: топографические карты
Алгоритм Кохонена
Сети радиального базиса
Аппроксиматоры с локальным базисом
Гибридное обучение

Выводы
Примечание 1.1

Нейрокомпьютинг и его применения в экономике и бизнесе

Исторический поворот в 1982 году
Спиновые стекла
Симметричность связей
Асинхронная динамика
Метрика пространства состоянний
Энергия состояния
Ассоциативная память

Обучение сети. Правило Хебба
Модель Крика - Митчисона. Разобучение
Выделение сигнала из шума
Минимальный базис
Метод Кинцеля. Уничтожение фрустрированных связей.
Неустранимость ложной памяти. Запрещенные наборы
Версии протитипа

Пример: поиск промоторов в ДНК
Активная кластеризация
Анализ голосований
Примечание 1.1

Нейрокомпьютинг и его применения в экономике и бизнесе

Комбинаторная оптимизация и задача коммивояжера
Оптимизация и сеть Хопфилда
Имитация отжига
Метод эластичной сети
Оптимизация с помощью сети Кохонена.
Растущие нейронные сети

Добавление нового нейрона.
Нейросетевая оптимизация и другие "биологические "методы
Генетические алгоритмы
Метод муравьиных колоний
Примечание 1.1

Нейрокомпьютинг и его применения в экономике и бизнесе

Необходимые этапы нейросетевого анализа

Кодирование входов-выходов
Максимизация энтропии как цель предобработки
Типы нечисловых переменных
Кодирование ординальных переменных
Кодирование категориальных переменных
Отличие между входными и выходными переменными
Нормировка и предобработка данных
Индивидуальная нормировка данных
Совместная нормировка: выбеливание входов

Понижение размерности входов
Понижение размерности входов методом главных компонент
Восстановление пропущенных компонент данных
Понижение размерности входов с помощью нейросетей
Квантование входов
Отбор наиболее значимых входов
Линейная значимость входов
Нелинейная значимость входов. Box-counting алгоритмы
Формирование оптимального пространства признаков

Последовательное добавление наиболее значимых входов
Формирование признакого пространства методом ортогонализации
Заключение
Примечание 1.1

Нейрокомпьютинг и его применения в экономике и бизнесе

Введение: Предсказание как вид бизнеса
Кому нужно предсказывать рынок?

Можно ли предсказывать рынок?
Технический анализ и нейронные сети
Методика предсказания временных рядов
Метод погружения. Теорема Такенса
Эмпирические свидетельства предсказуемости финансовых рядов
Формирование входного пространства признаков
Выбор функционала ошибки
Обучение нейросетей

Формирование пространства признаков
Способы погружения временного ряда
Понижение размерности входов: признаки
Метод искусственных примеров (hints)
Измерение качества предсказаний
Связь предсказуемости с нормой прибыли
Связь предсказуемости с нормой прибыли - 2
Использование комитетов сетей

Возможная норма прибыли нейросетевых предсказаний
Заключение
Примечание 1.1

Нейрокомпьютинг и его применения в экономике и бизнесе

Извлечение знаний

Извлечение правил из нейронных сетей
Обучение нейронной сети
Прореживание нейронной сети
Извлечение правил
Исправление данных

Нейрокомпьютинг и его применения в экономике и бизнесе

Введение: предсказание рисков
Рейтинг корпоративных облигаций
Оценка акций
Предсказание рисков банкротств
Исторические корни
Нейросетевое предсказание банкротств

Обсуждение
Сравнительный анализ финансового состояния фирм
Постановка задачи
Данные о российских банках
Сечения
Линейное сжатие информации - метод главных компонент
Нелинейное сжатие информации - карты Кохонена
Нелинейное сжатие информации - карты Кохонена - 2
Расположение на карте банков с отозванной лицензией
Раскраски карты Кохонена

Карта размеров банков
Балансовые показатели
Обсуждение
Выводы
Примечание 1.1

Нейрокомпьютинг и его применения в экономике и бизнесе

Нейронные сети и статистика
Являются ли нейронные сети языком описания?
В чем различие нейронных сетей и статистики?
Что лучше, статистические методы или нейронные сети?
Почему статистики ревнуют специалистов по нейронным сетям, а не наоборот?

Перекрестное опыление.
Практические выводы
Нейронные сети и экспертные системы
Сети интервальных нейронов
Нейронные сети и нечеткая логика
Элементы нечеткой логики
Нечеткие нейроны
Извлечение правил if-then

Адаптация функций принадлежности
Нейронные сети и статистическая физика
Стохастические нейроны
Приближение среднего поля
Фазовые переходы
Сеть Хопфилда с Хеббовскими связями

---

---