13.2. Подбор экспертов
Вопрос формирования состава экспертной комиссии является весьма важным. Количественный и качественный состав экспертной комиссии должен формироваться с учетом широты проблемы, достоверности оценок, затрат ресурсов и характеристик экспертов. Широта решаемой проблемы, определяемая количеством различных аспектов, связана с установлением нижней границы количественного состава экспертной комиссии, то есть количество экспертов должно быть в комиссии таковым, чтобы каждый аспект, направление исследования было закреплено как минимум за конкретным специалистом. Достоверность оценок связана с уровнем знаний экспертов и их количеством. При соответсвующем уровне знаний увеличение количества членов экспертной комиссии должно приводить к возрастанию достоверности результатов экспертизы. Величину располагаемых ресурсов на проведение экспертизы с учетом пропорциональности количеству привлекаемых экспертов следует использовать при определении верхней границы количественного состава экспертной комиссии. Таким образом, указанные ориентиры в конкретных случаях позволяют определиться с количественным составом экспертной комиссии.
Харктеристики группы экспертов, включаемых в экспертную комиссию, определяются на основе индивидуальных их характеристик, а именно: компетентности, креативности, отношения к экспертизе, конформизма, конструктивности мышления, коллективизма, самокритичности.
Компетентность - это обладание определенными знаниями, позволяющее индивидуму высказывать суждения по определенному кругу вопросов. Степень компетентности может характеризоваться коэффициентом компетентности. Известны различные методы определения значений коэффициентов компетентности. Их подразделяют на априорные, апостериорные и тестовые.
В априорных методах оценки качества эксперта не используется информация о его суждениях, имевших место в предшествовавших экспертизах. К этой группе методов относятся:
метод самооценки с использованием бальной шкалы (3- балльной, 5-балльной и т.д.);
метод самооценки с использованием вербально-числовых шкал, в которых наряду с содержательно описываемыми наименованиями их градаций содержатся соответствующие им численные значения или их диапазоны;
дифференциальный метод самооценки, в котором рассчитывается комплексная самооценка как полусумма самооценки степени знакомства эксперта с основными источниками информации в рассматриваемой области и взвешенной с учетом коэффициента сравнительной весомости самооценки знакомства эксперта с изучаемым объектом;
методы взаимной оценки экспертов, основанные на получении различными способами взаимооценок экспертов (формирование списков компетентных специалистов, формирование матриц взаимооценок экспертов в баллах, в числовых оценках предпочтительности компетентности I-го эксперта над j-тым и т.д.) и их последующей обработки с целью получения оценок компетентности каждого эксперта, входящего в состав экспертной комиссии;
документационный метод, предлагающий ориентироваться на объективные характеристики эксперта, а именно: стаж работы, наличие ученой степени, занимаемая должность, количество научных трудов и т.д.
Апостериорные методы оценки качества эксперта базируются на использовании информации о его суждениях, имевших место в экспертизах, проведенных с его участием. К таким методам относятся:
метод оценки качества эксперта на основе его ответов, базирующийся на анализе результатов парных сравнений, выполняемый с целью выявления нелогичностей (противоречий) и вычислении коэффициента компетентности с учетом количества выявленных нелогичностей в суждениях испытуемого эксперта;
метод расчета коэффициента отклонения суждений эксперта, базирующийся на сравнении расстояния от индивидуальной оценки эксперта до результирующей с максимально возможным расстоянием.
Тестовые методы оценки качества эксперта нацелены на распознавание профессиональной пригодности испытуемого, а также выявление наличия необходимых навыков и опыта для эффективного участия в работе экспертной комиссии. Для успешного проведения тестового эксперимента необходимо выполнение следующих условий: целенаправленность содержания теста на конкретные объекты экспертизы; наличие шкалы, позволяющей оценить степень точности оценок эксперта; максимальная приближенность тестовых оценок эксперта их истинным значениям; возможность установления допустимых пределов отклонений оценок эксперта от их истинных значений; минимальная вероятность случайного угадывания экспертом истинной оценки.
Если оценка компетентности экспертов может носить количественный характер, то такие характеристики как креативность (способность решения творческих задач), конформизм (подверженность влиянию суждений авторитетов), отношение к экспертизе, конструктивность мышления, коллективизм, самокритичность имеют, как правило, качественный характер.
Поскольку при подборе экспертов используется определенное множество характиристик, имеющих различные значения и различную значимость, то возникает необходимость формирования интегральной оценки эксперта, то есть решения многокритериальной задачи с известной ее проблематикой. В качестве такой интегральной оценки, получаемой альтернативным путем, возможно применение значения достоверности суждений эксперта, определяемого как отношение числа случаев выданных экспертом рекомендаций, приемлемость которых подтверждена практикой, к общему числу случаев участия эксперта в выработке рекомендаций.
- В. В. Мыльник б. П. Титаренко в. А. Волочненко
- Содержание
- Часть I. Основы построения и финансирования систем управления.......................
- Глава 1. Системы и их закономерности................................................
- Глава 2. Управление и кибернетика.............................................................................
- Глава 3. Автоматизация управления............................................................................
- Глава 4. Методология разработки систем управления...............................................
- Глава 8. Исследование операций.................................................................................
- Глава 9. Имитационное моделирование.....................................................................
- Глава 10. Планирование экспериментов.....................................................................
- Глава 11. Распознавание объектов, явлений и ситуаций...........................................
- Глава 12. “Чёрный” и “белый” ящик как научные методы.......................................
- Глава 13. Экспертные оценки......................................................................................
- Глава 14. Оценка эффективности систем управления...............................................
- Предисловие
- Часть I. Основы построения и финансирования систем управления Глава 1 Системы и их закономерности
- 1.1. Системы
- У внутренней среды и
- Множество выходных элементов
- Классификация систем и их характеристика
- Признаки систем Виды систем
- 1.3. Основные закономерности систем
- Вопросы для самоконтроля
- Литература
- Глава 2 Управление и кибернетика
- Управление
- 2.2. Кибернетика и её принципы
- Кибернетика
- 2.3. Производственная организация как кибернетическая система
- Интернет
- Вопросы для самоконтроля
- Литература
- Глава 3 Автоматизация управления
- 3.1. Основные направления автоматизации управления
- 3.2. Классификация аису
- Признаки аису Виды аису
- 3.3. Структурное построение иаису
- Обеспечивающая Системная Функциональная
- Конфигурация рабочих мест в процессе реализации
- 3.4. Общесистемные принципы создания иаису
- Методы синтеза структуры иаису
- 3.6. Цели и критерии эффективности систем управления
- Вопросы для самоконтроля
- Литература
- Глава 4 Методология разработки систем управления
- 4.1. Организация разработки систем управления
- 4.2. Инвестиционный цикл проекта и его структура
- Вопросы для самоконтроля
- Литература
- Глава 5 Источники и методы финансирования систем управления
- 5.1. Источники финансирования
- 5.2. Основные методы финансирования
- Льготы по налогообложению
- Учетный
- Контокорректный
- Акцептный
- Вопросы для самоконтроля
- Литература
- Часть II. Методы исследования и оценки эффективности
- 7.2. Процедуры системного анализа
- 7.3. Разработка, построение и исследование моделей
- Вопросы для самоконтроля
- Литература
- Глава 8 Исследование операций
- 8.1. Вводные понятия
- 8.2. Методы безусловной и условной оптимизации Задача 1. Найти f(x1…,xn) max , (8.2)
- Задача 2. Найти f(x1…,xn) max (8.6)
- Задача 3. Найти f(x1,…,xn)max (8.10)
- Задача 3а.
- 8.3. Корреляционный и регрессионный анализ
- 8.4. Робастные методы и процедуры
- 8.5. Выводы по анализу применяемых методов
- Вопросы для самоконтроля
- Литература
- Глава 9 Имитационное моделирование
- 9.1. Понятие об имитационном моделировании
- 9. 2. Имитация функционирования систем с дискретными событиями
- 9. 3. Методы имитации случайных факторов
- В соответствии с (9.3) имеем:
- Вопросы для самоконтроля
- Литература
- Глава 10 Планирование экспериментов
- 10.1. Полный факторный эксперимент и дробные реплики
- 10.2. Поиск области оптимума
- Вопросы для самоконтроля
- Литература
- Глава 11 Распознавание объектов, явлений и ситуаций
- 11.1 Сущность процесса распознавания
- 11.2 Системы распознавания и их классификация
- 11.3. Задачи при создании системы распознавания
- 11.4 Математические методы распознавания
- Вопросы для самоконтроля
- Литература
- Глава 12
- 12.2. Исследование поведения “чёрного” ящика
- Вопросы для самоконтроля
- Литература:
- Глава 13 Экспертные оценки
- 13.1. Сущность метода экспертных оценок
- 13.2. Подбор экспертов
- 13.3. Методы проведения опроса экспертов
- 13.4. Обработка экспертных оценок
- Анализ оценки относительной важности влияния I-х локальных аису на статьи затрат себестоимости продукции
- Коллективная экспертная оценка
- Вопросы для самоконтроля
- Литература
- Глава 14. Оценка эффективности систем управления
- 14.1. Эффективность инвестиций в системы управления
- 14.2. Методы оценки эффективности систем управления
- 14.3. Статические методы
- 14.4. Дисконтирование потоков денежных ресурсов
- 14.5. Динамические методы
- 14.6. Определение затрат на создание и эксплуатацию систем управления
- 14.7. Факторы и источники формирования социально-экономических результатов
- 14.8. Оценка социально-экономических результатов
- 14.9. Учет инфляционных процессов
- 14.10. Учет неопределенности и рисков
- Вопросы для самоконтроля
- Глоссарий