URSS.ru Магазин научной книги
Обложка Гасников А.В., Горбунов Э.А., Гуз С.А., Черноусова Е.О., Широбоков М.Г., Шульгин Е.В. Лекции по случайным процессам Обложка Гасников А.В., Горбунов Э.А., Гуз С.А., Черноусова Е.О., Широбоков М.Г., Шульгин Е.В. Лекции по случайным процессам
Id: 285178
1059 р.

Лекции по случайным процессам

URSS. 2022. 304 с. ISBN 978-5-9519-3135-1.
Белая офсетная бумага
  • Твердый переплет
Базовые понятия и примеры • Введение в стохастический анализ • Гауссовские случайные процессы • Стационарные процессы • Эргодические процессы • Цепи Маркова • Модель Эренфестов • Вектор PageRank и Google problem • Элементы теории макросистем • Задача о разборчивой невесте • Задача о многоруких бандитах.

Аннотация

Учебное пособие содержит конспект лекций и материалы семинарских занятий по курсу «Случайные процессы», десятилетиями формировавшемуся сотрудниками кафедры математических основ управления факультета управления и прикладной математики Московского физико-технического института (ФУПМ МФТИ) А.А.Натаном, С.А.Гузом и О.Г.Горбачевым. Наряду со стандартным материалом пособие содержит такие разделы, как "элементы теории эргодических динамических систем", "Google... (Подробнее)


Содержание
top
Предисловие к серии «Учебник Школы прикладной математики и информатики МФТИ» (А. М. Райгородский)6
Введение8
Обязательная часть программы учебного курса «Случайные процессы»9
Список обозначений10
Глава 1. Случайные процессы, примеры12
1.1. Базовые понятия и примеры12
1.2. Моментные характеристики процессов22
1.3. Винеровский процесс25
1.4. Пуассоновский процесс32
1.5. Безгранично делимые случайные величины46
1.6. Процессы Леви51
Глава 2. Введение в стохастический анализ57
2.1. Пространство L2 случайных величин57
2.2. Непрерывность в среднем квадратичном60
2.3. Дифференцируемость в среднем квадратичном62
2.4. Интегрируемость в среднем квадратичном65
2.5. Полезные формулы и примеры67
2.6. Интеграл Римана—Стилтьеса70
2.7. Стохастический интеграл и формула Ито71
2.8. Стохастические дифференциальные уравнения76
Глава 3. Гауссовские случайные процессы77
3.1. Моментные характеристики77
3.2. Условные распределения сечений82
Глава 4. Стационарные процессы88
4.1. Комплекснозначные случайные процессы88
4.2. Стационарность в широком и узком смыслах89
4.3. Корреляционная функция98
4.4. Спектральное представление процессов102
4.5. Закон больших чисел для вещественнозначных стационарных в широком смысле процессов в дискретном и непрерывном времени111
4.6. Линейные преобразования процессов113
Глава 5. Эргодические процессы118
5.1. Эргодические случайные процессы118
5.2. Эргодические динамические системы и закон больших чисел для стационарных в узком смысле случайных последовательностей127
Глава 6. Дискретные цепи Маркова138
6.1. Базовые определения и примеры138
6.2. Классификация состояний144
6.3. Эргодические дискретные цепи Маркова159
Глава 7. Непрерывные цепи Маркова192
7.1. Базовые понятия и предположения192
7.2. Классификация состояний207
7.3. Эргодические непрерывные цепи Маркова209
7.4. Поведение цепи и время возвращения213
Глава 8. Непрерывные процессы Маркова215
8.1. Уравнения Колмогорова215
8.2. Процесс Ито и формула Дынкина222
ПРИЛОЖЕНИЯ228
Приложение А. Модель Эренфестов229
Приложение Б. Вектор PageRank и Google problem236
Б.1. Google problem и эргодическая теорема236
Б.2. Стандартные численные подходы к решению задачи239
Б.3. Markov Chain Monte Carlo и Google problem243
Б.4. Параллелизуемый вариант MCMC246
Б.5. Модель Бакли—Остгуса и степенные законы252
Б.6. Элементы теории макросистем256
Приложение В. Задача о разборчивой невесте259
В.1. Формулировка задачи259
В.2. Оптимальная стратегия260
В.3. Управляемые марковские процессы260
В.4. Принцип динамического программирования261
В.5. Поиск оптимальной стратегии невесты261
Приложение Г. Задача о многоруких бандитах265
Г.1. Формулировка задачи265
Г.2. Уравнение Вальда—Беллмана265
Г.3. Индексы Гиттинса267
Г.4. Q-обучение268
Г.5. Асимптотически оптимальные оценки271
Заключение274
Литература290

Предисловие
top

Предисловие к серии «Учебник Школы прикладной математики и информатики МФТИ»

Физтех-школа прикладной математики и информатики (ФПМИ) — это активно развивающееся подразделение МФТИ, возникшее в результате успешного объединения двух факультетов — факультета управления и прикладной математики и факультета инноваций и высоких технологий.

Сейчас ФПМИ занимает лидерские позиции в России и в мире, давая своим студентам как традиционно мощное физтеховское фундаментальное образование, так и столь же традиционные для МФТИ выходы на самые современные прикладные задачи, возникающие в высокотехнологичной индустрии.

Разумеется, ФПМИ старается быть открытой всем. Например, в интернет-проекте «Лекторий ФПМИ» выложены записи многих лекций, читаемых в нашей Школе. В 2017 году был создан региональный научно-образовательный «Кавказский математический центр» в Майкопе, который получает постоянную поддержку от ФПМИ. А в 2021 году аналогичный проект стартовал в Пскове.

И это только начало! Мы мотивируем наших лучших студентов хотя бы на время возвращаться в регионы, в олимпиадное, кружковое и проектное движение для поддержки высокого уровня этого движения во всей нашей стране. Мы с удовольствием делимся с региональными вузами нашими программами в рамках сетевых образовательных проектов, инициируемых Физтехом и призванных помогать регионам удерживать у себя достаточно сильных абитуриентов.

И конечно, мы очень рады представить наше новое начинание — «Учебник Школы прикладной математики и информатики МФТИ».

В серии книг наши ведущие специалисты поделятся своими знаниями и методическими наработками со студентами, аспирантами, учеными, педагогами и просто со всеми, кто любит математику и ее приложения, хочет оказаться на гребне знаний и увидеть далекую перспективу. Как я часто говорю в своих выступлениях: «Присоединяйтесь к нам!».

А. М. Райгородский, директор Школы прикладной математики и информатики МФТИ, заведующий кафедрой дискретной математики, профессор, доктор физико-математических наук


Введение
top

Курс теории случайных процессов читается студентам на факультете управления и прикладной математики МФТИ в весеннем семестре третьего курса. В осеннем семестре студенты изучают теорию вероятностей, в осеннем семестре четвертого курса — математическую статистику. Данный цикл вероятностных дисциплин входит в обязательную программу бакалавриата ФУПМ МФТИ на протяжении нескольких десятков лет [42, 43, 44]. Изначально в курсе случайных процессов большой акцент делался на задачах, связанных с исследованием операций [12, 13] (системы массового обслуживания [24], динамическое программирование [74], затем курс стал немного смещаться в сторону приложений к страхованию (актуарной математике [60, 61]) и финансовой математике [70]. Примеры, собранные в ряде основных учебников, определенно свидетельствуют об этом [10, 50, 62, 69].

Однако в последнее время, прежде всего в связи с бурным развитием анализа данных в программу обучения магистров ФУПМ стали входить: дополнительные главы математической статистики, статистическая теория обучения и онлайн оптимизация, стохастическая оптимизация, обучение с подкреплением, моделирование Интернета

(случайные графы и модели их роста), стохастические дифференциальные уравнения. Все эти предметы оказались сильно завязаны на курс случайных процессов. Возникла необходимость в адаптации курса. К сожалению, большая нагрузка студентов третьего курса ФУПМ не позволила существенно изменить объем излагаемого материала.

Тем не менее, некоторые акценты было решено немного изменить.

Предлагаемое пособие во многом написано на базе курса (пособия) [43], однако содержит больше примеров и материала, отражающего некоторые современные приложения теории случайных процессов. Такие, например, как метод Монте-Карло для марковских цепей

(Markov Chain Monte Carlo).

Разделы, отмеченные звездочкой, не входят в обязательную программу курса. Обязательная часть программы учебного курса «Случайные процессы» 9

Материалы, собранные в приложениях Б и Г, разрабатывались в ходе кооперации с компаниями «Яндекс» и «Huawei».

Авторы хотели бы выразить благодарность своим коллегам по кафедре математических основ управления за помощь в создании данного пособия: Олегу Геннадьевичу Горбачеву и Ольге Сергеевне Федько. Также хотели бы выразить признательность студентам МФТИ, помогавшим с набором данного курса лекций.

Замечания и пожелания просьба присылать на адрес электронной почты кафедры математических основ управления Физтех-школы прикладной математики и информатики МФТИ: mou@mail.mipt.ru

Обязательная часть программы учебного курса «Случайные процессы»

Определение понятия «случайный процесс». Система конечномерных распределений случайного процесса, ее свойства. Моментные функции случайного процесса. Корреляционная и взаимная корреляционная функции случайных процессов, их свойства. Преобразования случайных процессов. Непрерывность случайного процесса в среднем квадратическом, ее необходимое и достаточное условие. Непрерывность случайного процесса по вероятности и с вероятностью единица. Производная случайного процесса в среднем квадратическом, необходимое и достаточное условие ее существования. Интеграл от случайного процесса в среднем квадратическом, необходимое и достаточное условие его существования. Стационарный случайный процесс. Строгая и слабая стационарность случайного процесса. Взаимная стационарность случайных процессов. Эргодичность случайного процесса по математическому ожиданию в среднем квадратическом. Условия эргодичности по математическому ожиданию. Спектральное представление стационарного случайного процесса. Теорема Хинчина о спектральном представлении корреляционной функции случайного процесса.

Спектральная функция и спектральная плотность случайного процесса, их свойства и приложение. Случайный процесс типа «белый шум». Пуассоновский случайный процесс. Сложный пуассоновский процесс. Гауссовский (нормальный) случайный процесс, его свойства.

Винеровский случайный процесс. Процессы Леви. Марковский случайный процесс. Дискретная марковская цепь. Переходные вероятности.

Уравнения Колмогорова—Чепмена. Однородные дискретные марковские цепи. Классификация состояний дискретной марковской цепи, теорема о «солидарности» их свойств. Управляемые марковские про-10 Список обозначений цессы. Уравнение Вальда—Беллмана. Задача о разборчивой невесте.

Асимптотическое поведение дискретной марковской цепи. Предельное и стационарное распределения вероятностей состояний дискретной марковской цепи. Теоремы об эргодичности дискретных марковских цепей. Марковская цепь с непрерывным аргументом. Прямое и обратное уравнения Колмогорова—Феллера. Примеры приложения теории марковских цепей (модель Эренфестов, модель ранжирования webстраниц). Концепция равновесия макросистемы на примере задачи поиска вектора PageRank. Непрерывный марковский процесс. Обобщенное уравнение Маркова. Уравнения Колмогорова и Колмогорова—Фоккера—Планка.


Об авторах
top
photoГасников Александр Владимирович
Доктор физико-математических наук. С 2005 г. работает на кафедре математических основ управления Московского физико-технического института (МФТИ). С 2022 г. — заведующий кафедрой. Также с 2022 года возглавил лабораторию Математических методов оптимизации школы ПМИ МФТИ. В 2007 г. под руководством академика РАН А. А. Шананина защитил кандидатскую диссертацию, в которой было получено решение задачи И. М. Гельфанда о распаде разрыва для уравнения типа Бюргерса. С 2008 г. ведет курс в МФТИ «Математическое моделирование транспортных потоков». В 2013 г. выпустил книгу «Введение в математическое моделирование транспортных потоков», предисловие к которой написал руководитель департамента транспорта г. Москвы М. С. Ликсутов. В 2016 г. защитил докторскую диссертацию, в которой (на основе совместных работ с Ю. Е. Нестеровым) был предложен новый способ формализации задач поиска равновесий в многостадийных моделях транспортных потоков и эффективные численные методы решения таких задач. В 2019 г. получил награду от компании «Yahoo!». В 2020 г. получил премию им. Ильи Сегаловича и премию правительства Москвы по направлению «математика». Автор более 200 статей, в том числе более 90 статей за последние 5 лет, индексируемых в Scopus.
photoГорбунов Эдуард Александрович
Кандидат физико-математических наук. С 2017 г. занимается численными методами для решения задач стохастической, распределенной и безградиентной оптимизации, а также седловых задач и вариационных неравенств. Автор более 30 научных работ. Автор курса «Оптимизация в машинном обучении», читаемого в Академии больших данных MADE Mail.ru и в МФТИ. Лауреат премии им. Ильи Сегаловича за 2019 г.
photoГуз Сергей Анатольевич
Кандидат физико-математических наук, доцент кафедры математических основ управления МФТИ. В течение многих лет читал курсы лекций по случайным процессам и математической статистике для студентов факультета управления и прикладной математики МФТИ. Область научных интересов: теория стационарных случайных процессов, в частности находящихся под действием зеленого шума. Автор более 50 научных и учебно-методических работ.
photoЧерноусова Елена Олеговна
Кандидат физико-математических наук. В 2013 г. защитила кандидатскую диссертацию по специальности «Теоретические основы информатики». С 2009 г. по настоящее время работает в МФТИ на кафедре математических основ управления, ведет предметы вероятностно-статистического цикла. Область научных интересов: теория вероятностей, случайные процессы. Автор более 20 научных и учебно-методических работ.
photoШиробоков Максим Геннадьевич
Кандидат физико-математических наук. Старший научный сотрудник Института прикладной математики им. М. В. Келдыша, доцент МФТИ. Обладатель медали Российской академии наук для молодых ученых за цикл работ «Разработка математических методов проектирования и высокоточного моделирования перспективных миссий малых космических аппаратов». Автор более 90 научных публикаций и более 70 выступлений на конференциях и научных семинарах.
photoШульгин Егор Владимирович
Аспирант (PhD) Научно-технологического университета имени короля Абдаллы. В 2019 г. окончил факультет управления и прикладной математики МФТИ. С 2018 г. занимается исследованиями в области методов оптимизации для задач машинного обучения, а также распределенным и федеративным обучением. Соавтор 7 статей, 3 из которых опубликованы в сборниках трудов ведущих международных конференций по машинному обучению.