Стохастические модели

Общий обзор

Курс для магистрантов и аспирантов
Математическое моделирование, численные методы и комплексы программы
Тема 1.3

Содержание лекции

Определение и характеристики стохастических моделей
Классификация стохастических моделей
Случайные процессы: основные понятия и характеристики
Марковские процессы и цепи Маркова
Стохастические дифференциальные уравнения
Метод Монте-Карло в моделировании
Системы массового обслуживания
Броуновское движение и диффузионные процессы
Примеры применения в различных областях
Численные методы решения стохастических задач
Сравнение с детерминированными моделями

Определение стохастических моделей

Стохастическая модель

Математическая модель, которая учитывает случайные воздействия и описывает системы, поведение которых не может быть абсолютно предсказано.

Основные характеристики:

Присутствие случайных факторов и неопределенности
Вероятностный характер результатов
Использование теории вероятностей и случайных процессов
Статистическая интерпретация результатов

Ключевые понятия:

Случайные величины и процессы
Распределения вероятностей
Статистические моменты (среднее, дисперсия)
Корреляционные функции

Важно: В отличие от детерминированных моделей, стохастические модели дают не точные значения, а распределения возможных результатов.

Классификация стохастических моделей

По характеру времени:

Непрерывные (Q-схемы)

Процессы в непрерывном времени

Системы массового обслуживания
Диффузионные процессы
Стохастические дифференциальные уравнения

Дискретные (P-схемы)

Процессы в дискретном времени

Цепи Маркова
Временные ряды
Вероятностные автоматы

По пространству состояний:

Дискретные состояния — конечное или счетное множество состояний
Непрерывные состояния — несчетное множество состояний

По памяти:

Марковские — без памяти (будущее зависит только от настоящего)
Немарковские — с памятью (будущее зависит от истории)

Случайные процессы: основные понятия

Случайный процесс X(t) — семейство случайных величин, зависящих от параметра t (обычно времени).

$$X(t) = \{X(t,\omega) : t \in T, \omega \in \Omega\}$$

Реализация (траектория)

Конкретная функция X(t,ω₀) при фиксированном ω₀

Сечение процесса

Случайная величина X(t₀) при фиксированном t₀

Математическое ожидание

$$m(t) = E[X(t)]$$

Автокорреляционная функция

$$R(t_1,t_2) = E[X(t_1)X(t_2)]$$

Стационарность:

Слабая стационарность

Постоянство среднего и зависимость корреляционной функции только от разности времен

Строгая стационарность

Инвариантность всех конечномерных распределений относительно сдвигов по времени

Марковские процессы и цепи Маркова

Марковское свойство:

Будущее состояние системы зависит только от настоящего и не зависит от прошлого

$$P(X(t+\tau)|X(s), s\leq t) = P(X(t+\tau)|X(t))$$

Цепи Маркова:

Марковский процесс с дискретным пространством состояний

Матрица переходных вероятностей

$$P = \{p_{ij}\}, \text{ где } p_{ij} = P(X(n+1)=j|X(n)=i)$$

Свойства:

$\sum_j p_{ij} = 1$ для всех i (стохастическая матрица)
$p_{ij} \geq 0$ для всех i,j
Уравнение Чепмена-Колмогорова: $P^{(n)} = P^n$

Стационарное распределение:

$$\pi = \pi P$$

Существует для неприводимых апериодических цепей и представляет предельное распределение вероятностей состояний.

Применения:

Модели очередей и обслуживания
Анализ надежности систем
Финансовые модели временных рядов
Биологические процессы

Стохастические дифференциальные уравнения

СДУ — дифференциальное уравнение, содержащее стохастические процессы (обычно белый шум).

Общий вид СДУ Ито:

$$dX(t) = \mu(t,X(t))dt + \sigma(t,X(t))dW(t)$$

μ(t,x) — коэффициент сноса (детерминированная часть)

σ(t,x) — коэффициент диффузии (стохастическая часть)

W(t) — винеровский процесс (броуновское движение)

dW(t) — стохастический дифференциал (белый шум)

Формула Ито:

Обобщение классического правила дифференцирования для стохастических процессов

$$df(t,X(t)) = \left(\frac{\partial f}{\partial t} + \mu\frac{\partial f}{\partial x} + \frac{1}{2}\sigma^2\frac{\partial^2 f}{\partial x^2}\right)dt + \sigma\frac{\partial f}{\partial x}dW(t)$$

Геометрическое броуновское движение

$$dS(t) = \mu S(t)dt + \sigma S(t)dW(t)$$

Модель цен акций в финансовой математике

Процесс Орнштейна-Уленбека

$$dX(t) = \theta(\mu-X(t))dt + \sigma dW(t)$$

Модель возврата к среднему значению

Метод Монте-Карло

Группа численных методов, основанных на использовании случайных чисел для решения математических и физических задач.

Основная идея:

Построить случайную величину ξ такую, что E[ξ] = I (искомая величина)
Сгенерировать n независимых реализаций ξ₁, ξ₂, ..., ξₙ
Вычислить среднее арифметическое: Ī = (ξ₁ + ξ₂ + ... + ξₙ)/n
Использовать Ī как приближение к I

Точность метода:

$$\text{Погрешность} \sim \frac{\sigma}{\sqrt{n}}, \text{ где } \sigma^2 = \text{Var}[\xi]$$

Скорость сходимости O(n⁻¹/²) не зависит от размерности задачи

Преимущества:

Простота реализации алгоритма
Легкое распараллеливание вычислений
Эффективность для многомерных задач
Универсальность применения

Применения:

Вычисление многомерных интегралов
Моделирование сложных систем
Оценка финансовых рисков
Решение дифференциальных уравнений
Анализ надежности систем

Пример: оценка числа π

Генерируем случайные точки в единичном квадрате и подсчитываем долю попавших в единичный круг

Пример результатов моделирования методом Монте-Карло

Системы массового обслуживания

Стохастические модели систем, в которых поступающие заявки обслуживаются одним или несколькими приборами.

Входящий поток заявок

Характеризуется интенсивностью λ и распределением интервалов между поступлениями

Приборы обслуживания

Характеризуются интенсивностью обслуживания μ и числом приборов

Дисциплина обслуживания

Правило выбора заявки для обслуживания (FIFO, LIFO, приоритеты)

Буферная система

Ограничения на длину очереди

Обозначения Кендалла A/B/c/N/K:

A — распределение интервалов поступления (M-экспоненциальное, D-детерминированное)
B — распределение времени обслуживания
c — число приборов обслуживания
N — максимальное число заявок в системе
K — размер генеральной совокупности

Ключевые характеристики:

Вероятности состояний системы
Средняя длина очереди L
Среднее время ожидания W
Вероятность отказа
Коэффициент загрузки ρ = λ/μ

Примеры:

M/M/1 — простейшая система с одним прибором
M/M/c — система с c приборами
M/M/1/N — система с ограниченной очередью
M/G/1 — система с произвольным временем обслуживания

Броуновское движение и диффузионные процессы

Броуновское движение (винеровский процесс):

Случайный процесс W(t) с непрерывными траекториями и независимыми гауссовскими приращениями

Свойства:

W(0) = 0
W(t) - W(s) ~ N(0, t-s) для t > s
Независимые приращения на непересекающихся интервалах
Непрерывные, но нигде не дифференцируемые траектории

Физическая интерпретация:

Движение пыльцы в жидкости под действием молекулярных соударений

Предельный случай случайного блуждания при уменьшении шага и временного интервала

Диффузионные процессы:

Марковские процессы с непрерывными траекториями

$$dX(t) = \mu(t,X(t))dt + \sigma(t,X(t))dW(t)$$

Уравнение Фоккера-Планка:

$$\frac{\partial p}{\partial t} = -\frac{\partial}{\partial x}[\mu(x,t)p] + \frac{1}{2}\frac{\partial^2}{\partial x^2}[\sigma^2(x,t)p]$$

Описывает эволюцию плотности вероятности процесса

Применения:

Финансовые рынки — модели цен активов
Физика — диффузия частиц, тепловое движение
Биология — движение микроорганизмов
Химия — случайные реакции
Экология — миграция популяций

Обобщения:

Многомерное броуновское движение
Геометрическое броуновское движение
Дробное броуновское движение
Броуновское движение с сносом

Примеры применения стохастических моделей

Финансовая математика

Модель Блэка-Шоулза для оценки опционов: dS = μS dt + σS dW
Модели процентных ставок (Васичека, Кокса-Ингерсолла-Росса)
Анализ рисков портфеля методом VaR
Модели кредитных рисков и дефолтов

Физика и инженерия

Моделирование турбулентности в гидродинамике
Анализ надежности технических систем
Обработка сигналов в радиотехнике
Квантовая механика — стохастические интерпретации

Биология и медицина

Эпидемиологические SIR-модели с случайными воздействиями
Популационная генетика — диффузионные приближения
Фармакокинетика — случайные процессы концентрации лекарств
Нейронные сети — стохастические модели активности

Экономика и менеджмент

Модели экономического роста с случайными шоками
Анализ рисков инвестиционных проектов
Прогнозирование спроса с неопределенностью
Оптимизация производственных процессов

Информационные технологии

Модели сетевого трафика и производительности
Алгоритмы машинного обучения с случайностью
Анализ больших данных методами случайной выборки
Криптография — генераторы случайных чисел

Численные методы для стохастических систем

Для стохастических дифференциальных уравнений:

Метод Эйлера-Маруямы

$$X_{n+1} = X_n + \mu(X_n)\Delta t + \sigma(X_n)\Delta W_n$$

Сильная сходимость O(Δt^(1/2))

Схема Мильштейна

Учитывает производные коэффициента диффузии

Сильная сходимость O(Δt)

Стохастические методы Рунге-Кутты

Более высокий порядок точности

Методы Монте-Карло:

Прямой метод Монте-Карло
Выборка по важности для снижения дисперсии
Антитетические переменные
Контрольные переменные
Стратифицированная выборка

Для цепей Маркова:

Матричные методы для конечных цепей
Марковские цепи Монте-Карло (MCMC)
Алгоритм Метрополиса-Гастингса
Выборка Гиббса

Важные соображения:

Выбор размера шага для обеспечения устойчивости
Контроль стохастической погрешности
Проверка сходимости численных схем
Параллельные вычисления для ускорения
Генерация качественных случайных чисел

Сравнение детерминированных и стохастических моделей

Аспект	Детерминированные модели	Стохастические модели
Предсказуемость	Полная предсказуемость результатов	Результаты имеют вероятностное распределение
Воспроизводимость	Одинаковые входные данные → одинаковый результат	Результаты варьируются даже при одинаковых входных данных
Математический аппарат	Анализ, дифференциальные уравнения, алгебра	Теория вероятностей, случайные процессы, статистика
Точность решений	Может давать точные аналитические решения	Статистические оценки с доверительными интервалами
Вычислительная сложность	Обычно меньшие вычислительные затраты	Требуют множественных симуляций

Детерминированные модели предпочтительны:

Когда случайные факторы незначительны
При наличии точных входных данных
Для систем с хорошо изученной динамикой
При необходимости точных предсказаний