Распознавание с отказами.
Пусть имеется образов, где (т.е. известны эталоны для этих образов). Тогда можно построить линейную дискриминантную функцию для любой пары образов:
, где , , — образы.
относится к -му образу, если для всех , или к области отказа, если такового — нет.
Посмотрим как это выглядит на графике (рис. 5.11), где
D — гиперплоскости;
1, 2, 3 — образы;
4 — область отказа.
В область отказа попадают такие точки, для которых невозможно определить принадлежность к одному из образов. Другими словами точка отказа — это такая точка, координаты которой при подставлении в дискриминантную функцию дают следующие значения:
;
;
.
Дискриминантный анализ эффективно использовать при достаточно близком расположении образов и даже при небольшом их наложении.
Практика показала, что дискриминантный анализ хорошо работает и для случая, когда нет многомерного нормального распределения. При этом необходимо, чтобы распределение по каждому образу было все таки симметрично и унимодально. Правда, при этом алгоритм уже нельзя рассматривать как статистический, а можно говорить об эвристическом алгоритме распознавания образов.
П р и м е р. У двух команд: тяжелоатлетов и легкоатлетов произошли изменения в составе. В результате оказалось, что команды неукомплектованы. И для укомплектования команд была набрана группа наилучших спортсменов из спортивных клубов. Необходимо распределить молодых людей по командам при условии, что тяжелоатлетам необходимы юноши с размерами бицепсов 40-50 см и весом от 90-120 кг, а легкоатлетам требуются юноши с размерами бицепсов 25-40 см и весом 60-80 кг.
| Образ тяжелоатлета |
|
| Образ легкоатлета |
|
|
| Материал экзамена |
| ||||
| Бицепсы | Вес | N |
|
| Бицепсы | Вес | N |
|
| Бицепсы | Вес | N |
1 | 46 | 92 | 1 |
| 21 | 25 | 76 | 2 |
| 41 | 32 | 77 | 0 |
2 | 48 | 98 | 1 |
| 22 | 40 | 71 | 2 |
| 42 | 31 | 96 | 0 |
3 | 41 | 92 | 1 |
| 23 | 28 | 78 | 2 |
| 43 | 37 | 72 | 0 |
4 | 42 | 95 | 1 |
| 24 | 33 | 70 | 2 |
| 44 | 33 | 78 | 0 |
5 | 41 | 91 | 1 |
| 25 | 29 | 77 | 2 |
| 45 | 49 | 101 | 0 |
6 | 50 | 108 | 1 |
| 26 | 37 | 72 | 2 |
| 46 | 47 | 67 | 0 |
7 | 43 | 115 | 1 |
| 27 | 37 | 77 | 2 |
| 47 | 46 | 110 | 0 |
8 | 42 | 111 | 1 |
| 28 | 35 | 61 | 2 |
| 48 | 43 | 110 | 0 |
9 | 49 | 99 | 1 |
| 29 | 33 | 68 | 2 |
| 49 | 39 | 106 | 0 |
10 | 47 | 99 | 1 |
| 30 | 32 | 66 | 2 |
| 50 | 42 | 92 | 0 |
11 | 44 | 91 | 1 |
| 31 | 40 | 64 | 2 |
| 51 | 45 | 102 | 0 |
12 | 40 | 120 | 1 |
| 32 | 39 | 67 | 2 |
| 52 | 31 | 106 | 0 |
13 | 43 | 93 | 1 |
| 33 | 30 | 73 | 2 |
| 53 | 26 | 113 | 0 |
14 | 49 | 104 | 1 |
| 34 | 29 | 80 | 2 |
| 54 | 29 | 68 | 0 |
15 | 45 | 91 | 1 |
| 35 | 40 | 69 | 2 |
| 55 | 34 | 101 | 0 |
16 | 41 | 85 | 1 |
| 36 | 40 | 68 | 2 |
| 56 | 46 | 108 | 0 |
17 | 48 | 82 | 1 |
| 37 | 32 | 62 | 2 |
| 57 | 32 | 120 | 0 |
18 | 47 | 101 | 1 |
| 38 | 29 | 66 | 2 |
| 58 | 29 | 93 | 0 |
19 | 43 | 86 | 1 |
| 39 | 36 | 77 | 2 |
| 59 | 32 | 70 | 0 |
табл. 2
20 | 40 | 115 | 1 |
| 40 | 31 | 75 | 2 |
| 60 | 32 | 103 | 0 |
1. Вычисляем математическое ожидание для каждого образа. Для образа тяжелоатлетов:
M1 | 44.45 | 98.4 |
Для образа легкоатлетов:
M2 | 36.75 | 94.65 |
2. Вычисляем также для каждого образа матрицу ковариаций.
Матрица ковариации для образа тяжелоатлетов:
10.3475 | -3.88 |
-3.88 | 109.84 |
Матрица ковариации для образа легкоатлетов:
48.9875 | 12.8625 |
12.8625 | 264.3275 |
3. Вычисляем среднюю и обратную матрицы ковариаций:
Средняя матрица ковариации:
29.6675 | 4.4913 |
4.49125 | 187.08 |
Обратная матрица ковариации:
0.03383 | -8E-04 |
-0.0008 | 0.0054 |
4. Вычисляем коэффициенты и .
B |
| p |
0.25744 |
| -11.8 |
0.01386 |
|
|
5. Вычисляем дискриминантную функцию, проводим распознавание на всех объектах и вычисляем ошибки 1-го и 2-го рода на материале обучения. В табл. 3 приведены результаты вычислений.
табл. 3
| Бицепсы | Вес | N | D(x) | Распозн. | Ошибки |
35 | 40 | 69 | 2 | 82.9499 | 2 | 0 |
36 | 40 | 68 | 2 | 82.9499 | 2 | 0 |
37 | 32 | 62 | 2 | 97.8396 | 2 | 0 |
38 | 29 | 66 | 2 | 103.423 | 2 | 0 |
39 | 36 | 77 | 2 | 90.3948 | 2 | 0 |
40 | 31 | 75 | 2 | 99.7009 | 2 | 0 |
41 | 32 | 77 | 0 |
| 2 |
|
42 | 31 | 96 | 0 |
| 2 |
|
43 | 37 | 72 | 0 |
| 2 |
|
44 | 33 | 78 | 0 |
| 2 |
|
45 | 49 | 101 | 0 |
| 1 |
|
46 | 47 | 67 | 0 |
| 2 |
|
47 | 46 | 110 | 0 |
| 1 |
|
48 | 43 | 110 | 0 |
| 1 |
|
49 | 39 | 106 | 0 |
| 1 |
|
50 | 42 | 92 | 0 |
| 1 |
|
51 | 45 | 102 | 0 |
| 1 |
|
52 | 31 | 106 | 0 |
| 1 |
|
53 | 26 | 113 | 0 |
| 1 |
|
54 | 29 | 68 | 0 |
| 2 |
|
55 | 34 | 101 | 0 |
| 1 |
|
56 | 46 | 108 | 0 |
| 1 |
|
57 | 32 | 120 | 0 |
| 1 |
|
58 | 29 | 93 | 0 |
| 2 |
|
59 | 32 | 70 | 0 |
| 2 |
|
60 | 32 | 103 | 0 |
| 1 |
|
Таким образом, для данной задачи распознавание с помощью алгоритма Дискриминантная функция дало нулевую ошибку 1-го и 2-го рода.
Графическая иллюстрация к данной задаче представлена на рис. 5.12.
- Математические методы системного анализа и теория принятия решений Методическое пособие
- 1. Теория принятия решений 4
- 2. Линейное программирование 9
- 3. Нелинейное программирование 42
- 4. Игровые методы обоснования решений 51
- 5. Задачи распознавания образов 62
- Предисловие
- 1. Теория принятия решений
- 1.1. Задачи, связанные с принятием решений Проблема оптимальности.
- Основные понятия и принципы исследования операций.
- Примеры задач исследования операций.
- 1.2. Математические модели операций Искусство моделирования.
- 1.3. Разновидности задач исследования операций и подходов к их решению Прямые и обратные задачи исследования операций.
- Пример выбора решения при определенности: линейное программирование.
- Проблема выбора решений в условиях неопределенности.
- Выбор решения по многим критериям.
- «Системный подход».
- 2. Линейное программирование
- 2.1. Краткое представление о математическом программировании Предмет математического программирования.
- Краткая классификация методов математического программирования.
- 2.2. Примеры экономических задач линейного программирования Понятие линейного программирования.
- Задача о наилучшем использовании ресурсов.
- Задача о выборе оптимальных технологий.
- Задача о смесях.
- Задача о раскрое материалов.
- Транспортная задача.
- 2.3. Линейные векторные пространства Основные понятия линейного векторного пространства.
- Решение систем линейных уравнений методом Гаусса.
- Реализация метода исключения неизвестных в среде Excel.
- Различные схемы реализации метода Гаусса.
- Опорные решения системы линейных уравнений.
- 2.4. Формы записи задачи линейного программирования Основные виды записи злп.
- Каноническая форма представления задачи линейного программирования.
- Переход к канонической форме.
- 2.5. Геометрическая интерпретация задачи линейного программирования Определение выпуклой области.
- Геометрическая интерпретация.
- 2.6. Свойства решений задачи линейного программирования Свойства основной задачи линейного программирования.
- Графический метод решения задачи линейного программирования.
- 2.7. Симплексный метод Идея симплекс-метода.
- Теоретические обоснования симплекс-метода.
- Переход к нехудшему опорному плану.
- Зацикливание.
- Алгоритм симплекс-метода.
- 2.8. Двойственность в линейном программировании Прямая и двойственная задача.
- Связь между решениями прямой и двойственной задач.
- Геометрическая интерпретация двойственных задач.
- 2.9. Метод искусственного базиса Идея и реализация метода искусственного базиса.
- 3. Нелинейное программирование
- 3.1. Общая задача нелинейного программирования Постановка задачи.
- Примеры задач нелинейного программирования (экономические).
- Геометрическая интерпретация задачи нелинейного программирования.
- 3.2. Выпуклое программирование Постановка задачи выпуклого программирования.
- 3.3. Классические методы оптимизации Метод прямого перебора.
- Классический метод дифференциальных исчислений.
- 3.4. Метод множителей лагранжа
- 3.5. Градиентные методы решения задач нелинейного программирования Общая идея методов.
- Метод Франка-Вулфа.
- Метод штрафных функций.
- 4. Игровые методы обоснования решений
- 4.1. Предмет и задачи теории игр Основные понятия.
- Классификация выборов решений.
- Антагонистические матричные игры.
- Чистые и смешанные стратегии и их свойства.
- 4.2. Методы решения конечных игр Упрощение матричной игры.
- Решение матричной игры размерностью 22.
- Графическое решение матричной игры.
- Сведение задач теории игр к задачам линейного программирования.
- 4.3. Задачи теории статистических решений Игры с природой.
- Критерии принятия решений.
- 5. Задачи распознавания образов
- 5.1. Общая постановка задачи распознавания образов и их классификация Проблема распознавания.
- Обсуждение задачи опознавания.
- Язык распознавания образов.
- Априорные предположения — это записанные специальным образом, накопленные знания специалистов.
- Общая постановка задачи.
- Геометрическая интерпретация задачи распознавания.
- Классификация задач распознавания.
- 5.2. Подготовка и анализ исходных данных Общая схема решения задачи.
- Общая схема постановки и решения задачи Анализ данных с целью выбора постановки и метода решения
- 5.3. Методы опознавания образов Основные этапы процесса опознавания образов.
- Методы создания системы признаков.
- Признаковое пространство.
- Сокращение размерности исходного описания.
- Методы построения решающего правила.
- 5.4. Меры и метрики Понятие о сходстве.
- Меры сходства и метрики.
- Примеры функций мер сходства.
- 5.5. Детерминированно-статистический подход к познаванию образов Основные этапы детерминированно-статистического подхода.
- Получение исходного описания.
- Создание системы признаков.
- Сокращение размерности исходного описания.
- Нахождение решающего правила (метод эталонов).
- Коррекция решающего правила.
- 5.6. Детерминированный метод построения решающего правила (метод эталонов) Идея метода эталонов.
- Минимизация числа эталонов.
- Габаритные эталоны.
- Применение метода эталонов к частично пересекающимся образам.
- Дополнительная минимизация числа признаков.
- Квадратичный дискриминантный анализ.
- Распознавание с отказами.
- 5.8. Алгоритм голотип-1 Назначение
- Постановка задачи
- Метод решения задачи.
- Условия применимости.
- Условия применимости.
- 5.10. Алгоритм направление опробования Назначение
- Постановка задачи.
- Метод решения задачи.
- Условия применимости.
- Транспортная задача Математическая постановка.
- Постановка задачи.
- Теоретическое введение.
- Методы нахождения опорного плана транспортной задачи.
- Определение оптимального плана транспортной задачи.
- Заключение.
- Целочисленное программирование Постановки задач, приводящие к требованию целочисленности.
- Постановка задачи.
- Методы отсечения.
- Алгоритм Гомори.
- Первый алгоритм р. Гомори решения полностью целочисленных задач.
- Приближенные методы.
- Заключение.
- Параметрическое программирование Введение.
- Формулировка задачи.
- Теоретическая часть.
- Общая постановка задачи.
- Решение задачи.
- Геометрическая интерпретация задачи.
- Общая постановка задачи.
- Решение задачи.
- Геометрическая интерпретация задачи
- Постановка задачи.
- Решение.
- Геометрическое решение.
- Решение задачи симплекс-методом.
- Результат.
- Некооперативные игры n лиц с ненулевой суммой Введение.
- Теоретическая часть.
- Постановка и решение задачи.
- Заключение.
- Cписок литературы