От автора | 3
|
Предисловие | 5
|
Список обозначений | 7
|
Введение | 9
|
ЧАСТЬ I. БЕЗУСЛОВНАЯ МИНИМИЗАЦИЯ | 15
|
Глава 1. Основы теории и методов безусловной минимизации | 15
|
§ 1. Сведения из математического анализа | 15
|
§ 2. Условия экстремума | 22
|
§ 3. Существование, единственность, устойчивость минимума | 25
|
§ 4. Градиентный метод | 29
|
§ 5. Метод Ньютона | 36
|
§ 6. Роль теорем сходимости | 39
|
Глава 2. Общие схемы исследования итеративных методов | 44
|
§ 1. Первый метод Ляпунова | 44
|
§ 2. Второй метод Ляпунова | 49
|
§ 3. Другие схемы | 59
|
Глава 3. Методы минимизации | 63
|
§ 1. Модификации градиентного метода и метода Ньютона | 63
|
§ 2. Многошаговые методы | 68
|
§ 3. Другие методы первого порядка | 77
|
§ 4. Прямые методы | 87
|
Глава 4. Влияние помех | 94
|
§ 1. Источники и типы помех | 94
|
§ 2. Градиентный метод при наличии помех | 97
|
§ 3. Другие методы минимизации при наличии помех | 100
|
§ 4. Прямые методы | 103
|
§ 5. Оптимальные методы при наличии помех | 107
|
Глава 5. Минимизация недифференцируемых функций | 114
|
§ 1. Сведения из выпуклого анализа | 114
|
§ 2. Условия .экстремума, существование, единственность и устойчивость решения | 124
|
§ 3. Субградиентный метод | 128
|
§ 4. Другие методы | 134
|
§ 5. Влияние помех | 144
|
§ 6. Поисковые методы | 146
|
Глава 6. Вырожденность, многоэкстремальность, нестационарность | 150
|
§ 1. Вырожденный минимум | 150
|
§ 2. Многоэкстремальность | 166
|
§ 3. Нестационарность | 175
|
ЧАСТЬ II. УСЛОВНАЯ МИНИМИЗАЦИЯ | 179
|
Глава 7. Минимизация на простых множествах | 179
|
§ 1. Основы теории | 179
|
§ 2. Основные методы | 185
|
§ 3. Другие методы | 192
|
§ 4. Влияние помех | 196
|
Глава 8. Задачи с ограничениями типа равенств | 199
|
§ 1. Основы теории | 199
|
§ 2. Методы минимизации | 210
|
§ 3. Учет возможных осложнений | 220
|
Глава 9. Общая задача математического программирования | 225
|
§ 1. Выпуклое программирование (теория) | 225
|
§ 2. Нелинейное программирование (теория) | 240
|
§ 3. Методы выпуклого программирования | 247
|
§ 4. Методы нелинейного программирования | 263
|
Глава 10. Линейное и квадратичное программирование | 268
|
§ 1. Линейное программирование (теория) | 268
|
§ 2. Конечные методы линейного программирования | 281
|
§ 3. Итерационные методы линейного программирования | 288
|
§ 4. Квадратичное программирование | 296
|
ЧАСТЬ III. ПРИКЛАДНОЙ АСПЕКТ | 301
|
Глава И. Примеры задач оптимизации | 301
|
§ 1. Задачи идентификации | 301
|
§ 2. Оптимизационные задачи в технике и экономике | 317
|
§ 3. Задачи оптимизации в математике и физике | 330
|
Глава 12. Практическое решение задач оптимизации | 336
|
§ 1. Процесс решения | 336
|
§ 2. Программы оптимизации | 340
|
§ 3. Тестовые задачи и результаты вычислений | 343
|
Библиографические указания и комментарии | 361
|
Литература | 372
|
Предметный указатель | 383
|
ОТ АВТОРА
Эта книга была написана в 1980 г. и опубликована в 1983г.; английский перевод появился в 1987 г. В то время казалось, что теория и методы решения задач оптимизации в основном сформированы и устоялись. Целью книги была систематизация этой области знаний, изложение разнообразных алгоритмов с единой точки зрения и сравнение их. Однако вскоре последовали революционные события, которые привели к существенному пересмотру как общей идеологии оптимизации, так и появлению принципиально новых методов. В 1984 г. была опубликована статья Кармаркара, в которой предлагался итеративный алгоритм линейного программирования, радикально отличающийся от симплекс-метода. Алгоритм сопровождался оценкой его трудоемкости (оценкой числа итераций, необходимых для достижения заданной точности); эта оценка оказывалась полиномиально зависящей от размерности задачи. Такие оценки существовали и раньше (например, для метода эллипсоидов), однако метод Кармаркара оказался удивительно эффективным и с вычислительной точки зрения. Вскоре методы с полиномиальной оценкой появились и для других задач выпуклой оптимизации. Фундаментальную роль сыграло понятие самосогласованных функций, введенное Ю. Е. Нестеровым и А. С. Немировским; эти методы получили название методов внутренней точки. Оказалось, что они могут быть обобщены на задачи с матричными переменными и матричными неравенствами. Это определило их огромную роль в задачах оптимизации, возникающих в теории управления.
С другой стороны, еще более важные события происходили в самой идейной основе оптимизации. Если раньше для сравнения методов использовалась в основном асимптотическая скорость сходимости, то после выхода пионерской монографии А. С. Неми¬ровского и Д. Б. Юдина стало возможным говорить о трудоемкости методов, то есть оценивать объем вычислений необходимых для получения приближения с заданной точностью. Более того, было введено понятие сложности класса задач оптимизации — нижней оценки трудоемкости любого метода, использующего ту или иную информацию о задаче. На этой основе удалось выделить эффективные алгоритмы, для которых трудоемкость совпадает по порядку со сложностью.
С тех пор в оптимизации произошло еще многое — была создана теория робастной оптимизации, предложены алгоритмы для решения сверхбольших задач и т. д. Были изданы прекрасные книги по выпуклой оптимизации.
На этом фоне естественно возникает вопрос о целесообразности переиздания данной монографии. Мне кажется, что это имеет смысл. Во-первых, те успехи, которые были достигнуты за последние годы, относятся в основном к выпуклой оптимизации. Невыпуклым задачам уделялось гораздо меньше внимания, а их роль на практике не менее важна. Во-вторых, читателю будет интересен генезис основных идей и методов оптимизации, обсуждение не только формальных, но и содержательных постановок задач. Книга переиздается без каких-либо изменений, внесены лишь небольшие исправления.
Б. Т. Поляк,
август 2013 г.
Поляк Борис Теодорович Главный научный сотрудник Института проблем управления РАН, доктор технических наук. Был заместителем главного редактора журнала «Автоматика и телемеханика», членом редколлегий 5 международных журналов. Лауреат премий имени А. А. Андронова и Б. Н. Петрова РАН, почетный член ИФАК (IFAC Fellow), награжден золотой медалью EURO-2012. Работал в университетах США, Франции, Италии, Израиля, Тайваня и других стран. Свыше 20 его учеников — кандидаты и доктора наук. Организовывал ежегодные молодежные школы «Управление, информация и оптимизация». Автор 4 монографий, 220 статей в журналах и свыше 200 докладов на российских и международных конференциях. Основные работы — по теории управления и оптимизации.
|
|
|
|