2.1 Концепции применения нейросетевых компонентов в информационных системах
Рассмотрим развитие методов построения искусственных нейронных сетей, предназначенных для проектировании и эксплуатации информационных систем ВУЗа. В данной главе представлены материалы по разработке структуры и функций нейроимитатора как элемента системы автоматизированного проектирования и развития аналитических информационных систем. В качестве научной базы для проведенных исследований в области нейронных сетей взяты работы СО РАН исследователей красноярской группы «Нейрокомп» под руководством А.Н. Горбаня.
Под искусственной нейронной сетью понимается некоторое вычислительное устройство обработки информации, состоящее из большого числа параллельно работающих простых процессорных элементов – нейронов, связанных между собой линиями передачи информации – связями или синапсами [110]. Для автоматизации решения неформализованных задач оценки используются многослойные сети прямого распространения с сигмоидной функцией активации. Данный класс нейросетей является наиболее исследованным [230]. Для него было доказано утверждение, что сеть, состоящая из входного слоя без процессорных элементов, «скрытого» слоя с нелинейной передаточной функцией и выходного слоя с линейной функцией активации способна аппроксимировать любую вычислимую функцию [39,230]. Сигмоидный преобразователь позволяет использовать эффективные методы настойки параметров сети, и кроме того, нейросети с сигмоидными функциями обладают регуляризующими свойствами [199].
В контексте данной работы под нейросетью понимается сложная вектор-функция:
, | (4.2) |
где p – номер компоненты выходного вектора, a – вектор параметров или весов связей, x – вектор входных данных или переменных, k – число слоев сети, mk – число нейронов в k-м слое, fir(a,fr-1) – функция поведения нейрона: , (2) |
|
где с>0 – характеристика пологости функции, r = 1..k – номер слоя сети, i – номер нейрона, f01.
Технология построения нейросетевых блоков представлена на рис.4.11.
Автором работы [110] для обобщения основных параметров и характеристик нейронных сетей вводится понятие нейрокомпьютер. Это понятие определяется на основе созданного им стандарта. Анализ данной работы показывает, что при проектировании интеллектуальных информационных систем также необходимо аналогичное понятие, но с доработкой относительно особенностей информационных систем. Для информационных систем под нейрокомпьютером будем понимать интеллектуальный компонент, представленный на рисунке 4.12. Как видно из рисунка, в его состав входят следующие составляющие: менеджер (управляющий модуль), интерфейсы ввода и вывода, предобработчик, задачник, интерпретатор, нейроимитатор. В состав нейроимитатора входят следующие элементы: сеть, учитель, контрастер, блок оценки, конструктор [110]. На рисунке 4.11 показана технология проектирования нейросетевого компонента. Исследования показали, что все компоненты нейрокомпьютера, представленные на рисунке 4.12 имеют важное значение при проектировании и эксплуатации интеллектуальных информационных систем. При этом существенно доработаны такие компоненты нейрокомпьютера, как предобработчик, задачник, интерпретатор и исполнитель и введено понятие конструктор. Кроме режима обучения при настройке компьютера в процессе проектирования информационных систем, существует режим его дообучения в процессе
Рис. 4.11. Технология проектирования нейросетевого компонента
эксплуатации на объекте. Особенностью данного режима является то, что он должен быть незаметен для пользователя, т.е. необходимо постоянное слежение за состоянием предметной области и его настройка (определение множества входных параметров, структуры, параметров нейросети, режимов и методов обучения, автоматический выход из режима останова (удары) ( при некорректных обучающих примерах).
- Оглавление
- Введение
- 1.Математические модели искусственных нейронных сетей [9]
- 1.1Общие сведения о структуре биологического нейрона
- 1.2 Математическая модель искусственного нейрона
- 1.3 Математическое описание нейронной сети
- 1.4 Стохастический нейрон
- 1.5 Сравнение характеристик машины фон Неймана и нейронной сети
- 2.Разработка структуры и функций нейроимитатора как элемента интеллектуальной информационной системы
- 2.1 Концепции применения нейросетевых компонентов в информационных системах
- 2.2 Предварительная обработка информации на этапе проектирования нейросетевых компонентов
- 2.3 Формирование задачника для нейросети
- 2.4 Особенности формирования нейронной сети
- 2.5 Интерпретация сигналов нейронной сети
- 2.6Управляющая программа (исполнитель)
- 2.7 Компонент учитель
- 2.8Настройка параметров нейросети.
- 2.9Оценка и коррекция нейросетевой модели
- 2.10 Конструктор нейронной сети
- 2.11 Контрастер нейросети.
- 2.12 Логически прозрачные сети, получение явных знаний
- 2.13 Решение дополнительных задач с помощью нейросетевых компонентов
- 2.14Разработка языка описания нейроимитатора для обмена данными
- 3.Разновидности нейронных сетей [31]
- 3.1Персептрон Розенблатта.
- 3.1.1Персептрон Розенблатта.
- 3.1.2Теорема об обучении персептрона.
- 3.1.3Линейная разделимость и персептронная представляемость
- 3.2Свойства процессов обучения в нейронных сетях.
- 3.2.1Задача обучения нейронной сети на примерах.
- 3.2.2Классификация и категоризация.
- 3.2.3Обучение нейронной сети с учителем, как задача многофакторной оптимизации.
- 3.3Многослойный персептрон.
- 3.3.1Необходимость иерархической организации нейросетевых архитектур.
- 3.3.2Многослойный персептрон.
- 3.3.3Обучение методом обратного распространения ошибок.
- 3.4Другие иерархические архитектуры.
- 3.4.1Звезды Гроссберга
- 3.4.2Принцип Winner Take All (wta) - Победитель Забирает Все - в модели Липпмана-Хемминга.
- 3.4.3Карта самоорганизации Кохонена.
- 3.4.4Нейронная сеть встречного распространения.
- 3.5Модель Хопфилда.
- 3.5.1Сети с обратными связями
- 3.5.2Нейродинамика в модели Хопфилда
- 3.5.3Правило обучения Хебба
- 3.5.4Ассоциативность памяти и задача распознавания образов
- 3.6Обобщения и применения модели Хопфилда.
- 3.6.1Модификации правила Хебба.
- 3.6.2Матрица Хебба с ортогонализацией образов.
- 3.6.3Отказ от симметрии синапсов.
- 3.6.4Алгоритмы разобучения (забывания).
- 3.6.5Двунаправленная ассоциативная память.
- 3.6.6Детерминированная и вероятностная нейродинамика.
- 3.6.7Применения сети Хопфилда к задачам комбинаторной оптимизации.
- 3.7Неокогнитрон Фукушимы.
- 3.7.1Когнитрон: самоорганизующаяся многослойная нейросеть.
- 3.7.2Неокогнитрон и инвариантное распознавание образов.
- 3.8Теория адаптивного резонанса.
- 3.8.1Дилемма стабильности-пластичности восприятия.
- 3.8.2Принцип адаптивного резонанса.
- 3.8.3Нейронная сеть aрt-1.
- 3.8.4Начальное состояние сети.
- 3.8.5Фаза сравнения.
- 3.8.6Фаза поиска.
- 3.8.7Обучение сети арт.
- 3.8.8Теоремы арт.
- 3.8.9Дальнейшее развитие арт: архитектуры арт-2 и арт-3.
- 3.8.10Сети арт-2 и арт-3.
- 3.9Черты современных архитектур.
- 3.9.1Черты современных архитектур.
- 3.9.2Сегодняшний день нейронауки.
- 3.9.3Программное и аппаратное обеспечение. Нейро-эвм.
- 4.Литература и учебно-методические материалы