Нейрокомпьютинг и его применения в экономике и бизнесе

         

Ошибка, связанная со сложностью модели


Описание сети сводится, в основном, к передаче значений ее весов. При заданной точности такое описание потребует порядка

Ошибка, связанная со сложностью модели
бит. Следовательно удельную ошибку на один пример, связанную со сложностью модели, можно оценить следующим образом:
Ошибка, связанная со сложностью модели

Она, как мы видим, монотонно спадает с ростом числа примеров.

Действительно, для однозначного определения подгоночных параметров (весов сети) по

Ошибка, связанная со сложностью модели
заданным примерам необходимо, чтобы система
Ошибка, связанная со сложностью модели
уравнений была переопределена, т.е. число параметров
Ошибка, связанная со сложностью модели
было больше числа уравнений. Чем больше степень переопределенности, тем меньше результат обучения зависит от конкретного выбора подмножества обучающих примеров. Определенная выше составляющая ошибки обобщения, как раз и связана с вариациями решения, обусловленными конечностью числа примеров.1)



Содержание раздела