5. Вербализация нейронных сетей

После того, как сеть приведена к логически прозрачному виду, необходимо представить навык, заложенный в нейронную сеть, в понятном пользователю виде (вербализовать сеть). Это делается на основе графического визуального либо текстового представления структуры нейронной сети.

Вербализация проводится как процесс восстановления симптом-синдромной структуры понятий предметной области и требует непосредственного участия пользователя.

Входные сигналы сети являются входными симптомами, выходные сигналы нейронов первого слоя сети – синдромами первого уровня и одновременно входными симптомами для нейронов второго слоя, генерирующих синдромы второго уровня, и т.д. Пользователь, последовательно проходя слой за слоем, может на основе описания входных симптомов слоя и их группировки по нейронам давать некоторые осмысленные именования и интерпретации синдромов, генерируемым этим слоем.

В результате получаем осмысленный текст, описывающий дерево рассуждений в терминах некоторой проблемной области. Программа-нейроимитатор способна дать только некоторый полуфабрикат эмпирической теории – вербальное описание нейронной сети на естественном языке, где имена симптомом и синдромов будут сгенерированы программой автоматически и не привязаны к проблемной области. Пользователь, выполняя когнитивный анализ, должен заменить абстрактные имена на осмысленные.