Обучение, сжатие и тестирование сети

Обучение нейронной сети заключается в коррекции ее весов так, чтобы она давала желаемый выход при определенном паттерне на входах. Это выполняется также с использованием Tools / Control Panel. Вообще панель управления является наиболее важной в симуляторе, поскольку почти все модификации и манипуляции с сетью делаются через нее. Можно также открыть окно ошибки Error Graph, чтобы наблюдать за процессом обучения. Также можно открыть окно Log, чтобы получить некоторую текстуальную и численную информацию. Оба дополнительных окна доступны через меню View.

Control Panel может вывести через свое меню б вкладок, каждая из которых содержит управляющую информацию определенного типа. На рис. 15.1 выведена вкладка Learning, с помощью которой пользователь может выбрать функцию обучения (на рисунке выбрана функция Rprop), набор ее параметров, число циклов обучения и шаг коррекции. Это позволяет выполнить инициализацию процесса обучения и сам процесс. По умолчанию устанавливается функция обратного распространения ошибки (Backpropagation).

Процесс обучения активизируется нажатием кнопки Learn current, после чего выполняется обучение, но выбранному в данный момент паттерну, и кнопки Learn all, которая включает обучение сети по всем паттернам из подготовленного набора. В процессе обучения в окне Error graph отображается кривая ошибки в соответствии с типом ошибки, показанным в левой части окна. Численные значения ошибки на каждом шаге обучения фиксируются в окне Log.

Опции и управление сжатием сетей находятся во вкладке Control Panel / Pruning (рис. 15.4). Сжатие сети позволяет уменьшить ее размер за счет удаления мало влияющих на результат элементов и их связей. Оно выполняется нажатием кнопки Prune, расположенной в нижней части вкладки. В показанном состоянии вкладки выбран метод сжатия Optimal Brain Surgeon (переводится как «оптимальная хирургия мозга»), а также, но умолчанию установлены параметры сжатия и активированы определенные функции процедуры сжатия сети.

Рис. 15.4. Вкладка сжатия сети.

Обычно производится сначала обучение, а потом тестирование созданной нейронной сети, чтобы убедиться в том, что сеть работоспособна. Для этого необходимо загрузить из директории examples два набора паттернов: trainMAP. pat — тренировочный набор для обучения и validMAP. pat — набор для тестирования. Далее следует в Control Panel / Patterns выбрать trainMap как набор для обучения и validMAP как набор для тестирования. После этого нужно переключиться назад на вкладку Learning и обучить сеть. В процессе обучения в окне Error Graph будут отображаться две кривые: одна (ее цвет зависит от числа уже отображенных кривых) представляет ошибку обучения по тренировочному набору, другая (розового цвета) представляет ошибку при прогоне по тестируемому набору. Заметим, что набор для тестирования обычно используется, чтобы избежать переобучения сети.