4.2. Упрощение нейросети

После обучения нейронной сети начинается процесс пошагового упрощения с подучиванием. На этом этапе возникает набор критериев – линейных шкал типа "лучше-хуже", задающих направления одношагового изменения архитектуры сети в сторону логической прозрачности. Эти критерии ранжированы пользователем по степени значимости. Следуя этим критериям, нейронная сеть приводится к максимально логически прозрачному виду.

Базовые критерии перечислены в разделе 1.2.

Возможно, по некоторым критериям не нужно упрощать сеть “до упора”, лучше оставить некоторый запас сигналов и элементов. Если же оставить минимальную сеть, то может увеличиться процент неправильных ответов на тестовой выборке. Если в дальнейшем предполагается доучивание логически прозрачной сети новым примерам, то такое упрощение сети“до упора” также снизит способность сети к дальнейшему освоению новых данных.

Таким образом, надо находить некоторый компромисс. Если нужно получить некоторый понятный полуэмпирический алгоритм решения задачи, то сеть нужно упрощать до максимально возможной простоты. А если необходима сеть с возможностями дальнейшей адаптации, то придется оставить в сети некоторое количество избыточных элементов и сигналов.