1.4 Оптимизация в математике и ее методы
Когда говорят о задачах математического программирования, то имеют в виду задачи оптимизации, возникшие в последние четыре десятилетия в связи с попытками повысить эффективность промышленных транспортных, военных систем за счет улучшений в работе координирующих и управляющих органов.
Задачей оптимизации в математике называется задача о нахождении экстремума (минимума или максимума) вещественной функции в некоторой области. Как правило, рассматриваются области, принадлежащие и заданные набором равенств и неравенств.
Постановка задачи оптимизации
В процессе проектирования ставится обычно задача определения наилучших, в некотором смысле, структуры или значения параметров объектов. Такая задача называется оптимизационной. Если оптимизация связана с расчетом оптимальных значений параметров при заданной структуре объекта, то она называется параметрической. Задача выбора оптимальной структуры является структурной оптимизацией.
Стандартная математическая задача оптимизации формулируется таким образом. Среди элементов χ, образующих множества Χ, найти такой элемент χ*, который доставляет минимальное значение f(χ*)заданной функции f(χ). Для того, чтобы корректно поставить задачу оптимизации необходимо задать:
Допустимое множество — множество
;
Целевую функцию — отображение ;
Критерий поиска (max или min).
Тогда решить задачу означает одно из:
Показать, что .
Показать, что целевая функция не ограничена снизу.
Найти .
Если , то найти .
Если минимизируемая функция не является выпуклой, то часто ограничиваются поиском локальных минимумов и максимумов: точек x0 таких, что всюду в некоторой их окрестности для минимума и для максимума.
Если допустимое множество , то такая задача называется задачей безусловной оптимизации, в противном случае — задачей условной оптимизации.
Классификация методов оптимизации
Методы оптимизации | |
Одномерные | Метод золотого сечения • Дихотомия • Метод парабол • Перебор по сетке • Метод Фибоначчи • Троичный поиск |
Прямые методы | Метод Гаусса • Метод Нелдера — Мида • Метод сопряжённых направлений • Метод Хука — Дживса • Метод конфигураций • Метод Розенброка |
Первого порядка | Градиентный спуск • Покоординатный спуск • Метод сопряжённых градиентов • Квазиньютоновские методы |
Второго порядка | Метод Ньютона • Метод Ньютона — Рафсона |
Стохастические | Метод Монте-Карло • Имитация отжига • Эволюционные алгоритмы • Генетические алгоритмы • Дифференциальная эволюция • Муравьиный алгоритм • Метод роя частиц |
Методы линейного программирования | Симплекс-метод • Метод эллипсоидов • Метод потенциалов |
Методы оптимизации классифицируют в соответствии с задачами оптимизации:
Локальные методы: сходятся к какому-нибудь локальному экстремуму целевой функции. В случае унимодальной целевой функции, этот экстремум единственен, и будет глобальным максимумом/минимумом.
Глобальные методы: имеют дело с многоэкстремальными целевыми функциями. При глобальном поиске основной задачей является выявление тенденций глобального поведения целевой функции.
Существующие в настоящее время методы поиска можно разбить на три большие группы:
• детерминированные;
• случайные (стохастические);
• комбинированные.
По критерию размерности допустимого множества, методы оптимизации делят на методы одномерной оптимизации и методы многомерной оптимизации.
По требованиям к гладкости и наличию у целевой функции частных производных, их также можно разделить на:
• прямые методы, требующие только вычислений целевой функции в точках приближений;
• методы первого порядка: требуют вычисления первых частных производных функции;
• методы второго порядка: требуют вычисления вторых частных производных, то есть гессиана целевой функции.
Помимо того, оптимизационные методы делятся на следующие группы:
• аналитические методы (например, метод множителей Лагранжа и условия Каруша-Куна-Таккера);
• численные методы;
• графические методы.
Способ нахождения экстремума полностью определяется классом задачи. Но перед тем, как получить математическую модель, нужно выполнить 4 этапа моделирования:
1) Определение границ системы оптимизации
Отбрасываем те связи объекта оптимизации с внешним миром, которые не могут сильно повлиять на результат оптимизации, а, точнее, те, без которых решение упрощается
2) Выбор управляемых переменных
«Замораживаем» значения некоторых переменных (неуправляемые переменные). Другие оставляем принимать любые значения из области допустимых решений (управляемые переменные)
3) Определение ограничений на управляемые переменные
… (равенства и\или неравенства)
4) Выбор числового критерия оптимизации
Создаём целевую функцию
- Введение
- Тема 1 Математическое программирование и оптимизация
- 1.1 Эволюция развития математических методов и моделей в экономике
- 1.2 Классификация экономико-математических моделей
- 1.3 Математическое программирование
- 1.4 Оптимизация в математике и ее методы
- 1.5 Метод Монте-Карло
- 1.5.1 Алгоритм Бюффона для определения числа Пи
- 1.5.2 Связь стохастических процессов и дифференциальных уравнений
- 1.5.3 Рождение метода Монте-Карло в Лос-Аламосе
- 1.5.4 Дальнейшее развитие и современность
- 1.5.5 Интегрирование методом Монте-Карло
- 1.5.6 Обычный алгоритм Монте-Карло интегрирования
- 1.5.7 Геометрический алгоритм Монте-Карло интегрирования
- Тема 2 Линейное программирование
- 2.1 Общая задача линейного программирования
- 2.2 Основная задача лп (озлп)
- 2.3 Симплекс-метод линейного программирования
- 2.4 Двойственные задачи линейного программирования
- 2.5 Целочисленное линейное программирование
- 2.6 Параметрическое линейное программирование
- 2.7 Дробно-линейное программирование
- 2.8 Блочное программирование
- 2.9 Теория графов
- 2.10 Транспортная задача
- 2.10.1 Общая характеристика транспортной задачи
- 2.10.2 Математическая модель транспортной задачи
- Тема 3 Нелинейное программирование
- 3.1 Методы нелинейного программирования
- 3.2 Метод множителей Лагранжа
- 3.3 Сепарабельное программирование
- 3.4 Выпуклое программирование
- 3.5 Квадратичное программирование
- 3.6 Геометрическое программирование
- 3.7 Динамическое программирование
- 3.8 Стохастическое программирование
- Тема 4 Межотраслевой баланс и сетевое моделирование
- 4.1 Задача межотраслевого баланса
- 4.2 Балансовая модель Леонтьева
- 4.3 Модели межотраслевого баланса в планировании инновационных программ
- 4.3.1 Однопродуктовая динамическая макроэкономическая модель
- 1) Открытая однопродуктовая динамическая модель Леонтьева
- 2) Замкнутая однопродуктовая модель Леонтьева
- 4.4 Сетевая модель данных
- 4.4.1 Историческая справка
- 4.4.2 Основные элементы сетевой модели данных
- 4.4.3 Особенности построения сетевой модели данных
- 4.4.4 Операции над данными сетевой модели
- 4.4.5 Использование сетевой модели
- 4.5 Сетевой график
- 4.6 Методика составления сетевого графика
- 5. Задачи оптимального проектирования
- 5.1. Постановка задачи оптимального проектирования
- 5.1.1. Основные понятия и определения
- 5.2. Пример задачи оптимального проектирования
- 5.3. Классификация задач оптимального проектирования
- Первая постановка
- 5.4 Определение уравнений линейной регрессии
- 5.7. Методика получения исходных данных
- 5.3. Решение задач оптимального проектирования
- 5.3.1. Оптимизация параметров изделия