Методы построения решающего правила.
Рассмотрим методы построения решающего правила для тех задач распознавания, в которых типы многомерных распределений образов заранее неизвестны.
Обычно методы построения решающего правила делятся на два типа: статистические и детерминированные.
В статистических методах построения решающего правила предполагается, что каждая реализация с некоторой заранее неизвестной вероятностью может принадлежать к любому опознаваемому образу. Решение в этих случаях может выдаваться в виде вероятностей принадлежности реализаций экзаменационной выборки к различным образам, либо ответ дается в категорической форме в соответствии с решающей функцией, оптимальной в некотором статистическом смысле.
Задачами опознавания, наиболее адекватными статистическим решающим правилам, являются задачи, в которых исходное описание недостаточно, вследствие чего образы пересекаются. К таким задачам относятся, например, задачи медицинской диагностики.
Наиболее известными алгоритмами нахождения решающего правила в задачах с пересекающимися образами являются алгоритмы, которые при определенных ограничениях по мере увеличения учебной выборки сходятся к оптимальному в статистическом смысле решающему правилу.
Достоинством статистических методов является возможность прогнозирования величины ошибки на экзамене. Недостатком этих методов является их медленная сходимость к оптимальному в статистическом смысле решающему правилу.
Детерминированные методы принятия решения адекватны задачам, в которых образы не пересекаются. Для этих задач существует много решающих правил, позволяющих получить нулевую ошибку опознания на экзаменационной выборке. Обычно предполагается, что учебная выборка является представительной. Поэтому при построении решающего правила основной задачей является получение нулевой ошибки на учебной выборке.
Достоинством детерминированных методов построения решающего правила, которое следует непосредственно из условия не пересекаемости образов, является возможность нахождения наиболее простой решающей функции, обеспечивающей нулевую ошибку опознания на учебной выборке любого объема. Недостатком является то, что в связи с отсутствием какой-либо информации о статистических распределениях образов трудно оценить качество решающего правила по отношению к экзаменационной выборке.
Детерминированные методы могут также применятся и к частично пересекающимся образам в тех случаях, когда по условиям задачи возможно введение так называемых «альтернативных» классов.
При решении задач с непересекающимися образами естественным является стремление объединить в одном подходе достоинства как детерминированных методов — получение наиболее простой решающей функции, так и статистических методов — возможность прогнозирования и регулирования величины ошибок на экзамене.
- Математические методы системного анализа и теория принятия решений Методическое пособие
- 1. Теория принятия решений 4
- 2. Линейное программирование 9
- 3. Нелинейное программирование 42
- 4. Игровые методы обоснования решений 51
- 5. Задачи распознавания образов 62
- Предисловие
- 1. Теория принятия решений
- 1.1. Задачи, связанные с принятием решений Проблема оптимальности.
- Основные понятия и принципы исследования операций.
- Примеры задач исследования операций.
- 1.2. Математические модели операций Искусство моделирования.
- 1.3. Разновидности задач исследования операций и подходов к их решению Прямые и обратные задачи исследования операций.
- Пример выбора решения при определенности: линейное программирование.
- Проблема выбора решений в условиях неопределенности.
- Выбор решения по многим критериям.
- «Системный подход».
- 2. Линейное программирование
- 2.1. Краткое представление о математическом программировании Предмет математического программирования.
- Краткая классификация методов математического программирования.
- 2.2. Примеры экономических задач линейного программирования Понятие линейного программирования.
- Задача о наилучшем использовании ресурсов.
- Задача о выборе оптимальных технологий.
- Задача о смесях.
- Задача о раскрое материалов.
- Транспортная задача.
- 2.3. Линейные векторные пространства Основные понятия линейного векторного пространства.
- Решение систем линейных уравнений методом Гаусса.
- Реализация метода исключения неизвестных в среде Excel.
- Различные схемы реализации метода Гаусса.
- Опорные решения системы линейных уравнений.
- 2.4. Формы записи задачи линейного программирования Основные виды записи злп.
- Каноническая форма представления задачи линейного программирования.
- Переход к канонической форме.
- 2.5. Геометрическая интерпретация задачи линейного программирования Определение выпуклой области.
- Геометрическая интерпретация.
- 2.6. Свойства решений задачи линейного программирования Свойства основной задачи линейного программирования.
- Графический метод решения задачи линейного программирования.
- 2.7. Симплексный метод Идея симплекс-метода.
- Теоретические обоснования симплекс-метода.
- Переход к нехудшему опорному плану.
- Зацикливание.
- Алгоритм симплекс-метода.
- 2.8. Двойственность в линейном программировании Прямая и двойственная задача.
- Связь между решениями прямой и двойственной задач.
- Геометрическая интерпретация двойственных задач.
- 2.9. Метод искусственного базиса Идея и реализация метода искусственного базиса.
- 3. Нелинейное программирование
- 3.1. Общая задача нелинейного программирования Постановка задачи.
- Примеры задач нелинейного программирования (экономические).
- Геометрическая интерпретация задачи нелинейного программирования.
- 3.2. Выпуклое программирование Постановка задачи выпуклого программирования.
- 3.3. Классические методы оптимизации Метод прямого перебора.
- Классический метод дифференциальных исчислений.
- 3.4. Метод множителей лагранжа
- 3.5. Градиентные методы решения задач нелинейного программирования Общая идея методов.
- Метод Франка-Вулфа.
- Метод штрафных функций.
- 4. Игровые методы обоснования решений
- 4.1. Предмет и задачи теории игр Основные понятия.
- Классификация выборов решений.
- Антагонистические матричные игры.
- Чистые и смешанные стратегии и их свойства.
- 4.2. Методы решения конечных игр Упрощение матричной игры.
- Решение матричной игры размерностью 22.
- Графическое решение матричной игры.
- Сведение задач теории игр к задачам линейного программирования.
- 4.3. Задачи теории статистических решений Игры с природой.
- Критерии принятия решений.
- 5. Задачи распознавания образов
- 5.1. Общая постановка задачи распознавания образов и их классификация Проблема распознавания.
- Обсуждение задачи опознавания.
- Язык распознавания образов.
- Априорные предположения — это записанные специальным образом, накопленные знания специалистов.
- Общая постановка задачи.
- Геометрическая интерпретация задачи распознавания.
- Классификация задач распознавания.
- 5.2. Подготовка и анализ исходных данных Общая схема решения задачи.
- Общая схема постановки и решения задачи Анализ данных с целью выбора постановки и метода решения
- 5.3. Методы опознавания образов Основные этапы процесса опознавания образов.
- Методы создания системы признаков.
- Признаковое пространство.
- Сокращение размерности исходного описания.
- Методы построения решающего правила.
- 5.4. Меры и метрики Понятие о сходстве.
- Меры сходства и метрики.
- Примеры функций мер сходства.
- 5.5. Детерминированно-статистический подход к познаванию образов Основные этапы детерминированно-статистического подхода.
- Получение исходного описания.
- Создание системы признаков.
- Сокращение размерности исходного описания.
- Нахождение решающего правила (метод эталонов).
- Коррекция решающего правила.
- 5.6. Детерминированный метод построения решающего правила (метод эталонов) Идея метода эталонов.
- Минимизация числа эталонов.
- Габаритные эталоны.
- Применение метода эталонов к частично пересекающимся образам.
- Дополнительная минимизация числа признаков.
- Квадратичный дискриминантный анализ.
- Распознавание с отказами.
- 5.8. Алгоритм голотип-1 Назначение
- Постановка задачи
- Метод решения задачи.
- Условия применимости.
- Условия применимости.
- 5.10. Алгоритм направление опробования Назначение
- Постановка задачи.
- Метод решения задачи.
- Условия применимости.
- Транспортная задача Математическая постановка.
- Постановка задачи.
- Теоретическое введение.
- Методы нахождения опорного плана транспортной задачи.
- Определение оптимального плана транспортной задачи.
- Заключение.
- Целочисленное программирование Постановки задач, приводящие к требованию целочисленности.
- Постановка задачи.
- Методы отсечения.
- Алгоритм Гомори.
- Первый алгоритм р. Гомори решения полностью целочисленных задач.
- Приближенные методы.
- Заключение.
- Параметрическое программирование Введение.
- Формулировка задачи.
- Теоретическая часть.
- Общая постановка задачи.
- Решение задачи.
- Геометрическая интерпретация задачи.
- Общая постановка задачи.
- Решение задачи.
- Геометрическая интерпретация задачи
- Постановка задачи.
- Решение.
- Геометрическое решение.
- Решение задачи симплекс-методом.
- Результат.
- Некооперативные игры n лиц с ненулевой суммой Введение.
- Теоретическая часть.
- Постановка и решение задачи.
- Заключение.
- Cписок литературы