Теорема Слуцкого: сходимость суммы и произведения

Теорема Слуцкого - рабочий инструмент асимптотической статистики. Она отвечает на вопрос, который возникает почти в каждом доказательстве предельного распределения оценки: что будет с суммой или произведением двух последовательностей случайных величин, если одна сходится по распределению, а другая - по вероятности к константе. Ниже разберём формулировку, идею доказательства, типичные ошибки и покажем на интерактивном калькуляторе, как именно «съезжаются» распределения с ростом объёма выборки.

Что утверждает теорема Слуцкого

Пусть последовательность $X_n$ сходится по распределению к случайной величине $X$, а последовательность $Y_n$ сходится по вероятности к константе $c$:

$$X_n \xrightarrow{d} X, \qquad Y_n \xrightarrow{p} c.$$

Тогда верны три утверждения:

$$\begin{aligned} X_n + Y_n &\xrightarrow{d} X + c, \\ X_n Y_n &\xrightarrow{d} cX, \\ \frac{X_n}{Y_n} &\xrightarrow{d} \frac{X}{c} \quad (c \neq 0). \end{aligned}$$

Ключевое слово здесь - константа. Если бы $Y_n$ сходилась по распределению к невырожденной случайной величине $Y$, утверждение в общем случае было бы неверным: знать только маргинальные пределы $X$ и $Y$ недостаточно, нужна совместная сходимость. А вот сходимость к константе устроена так жёстко, что совместное распределение восстанавливается автоматически.

Почему именно константа

Сходимость по вероятности к константе $c$ означает, что для любого $\varepsilon > 0$

$$P\left(|Y_n - c| > \varepsilon\right) \to 0.$$

То есть почти вся вероятностная масса $Y_n$ при больших $n$ сосредоточена в узкой окрестности точки $c$. С точки зрения предельного поведения $Y_n$ ведёт себя как детерминированное число $c$, а детерминированный сдвиг или множитель не разрушает сходимость по распределению - он просто переносит или растягивает предельный закон $X$.

Если же предел $Y_n$ случаен, узкой окрестности нет: масса размазана, и сумма $X_n + Y_n$ зависит от того, как $X_n$ и $Y_n$ коррелируют между собой. Поэтому требование «предел - константа» не косметическое, а сущностное. Контроль над хвостом $P(|Y_n - c| > \varepsilon)$ обычно получают через неравенство Маркова: выборочное среднее или оценка дисперсии стягивается к константе, и её дальше можно подставлять в теорему Слуцкого.

Рассчитать для своей задачи

Идея доказательства

Удобнее всего доказывать через совместную сходимость. Сначала показывают вспомогательную лемму: если $X_n \xrightarrow{d} X$ и $Y_n \xrightarrow{p} c$, то пара сходится по распределению совместно,

$$(X_n, Y_n) \xrightarrow{d} (X, c).$$

Это и есть содержательный шаг. Сходимость по вероятности к константе позволяет «прицепить» вырожденную координату к любой сходящейся по распределению координате без дополнительных предположений о зависимости.

Дальше применяется теорема о непрерывном отображении: если $(X_n, Y_n) \xrightarrow{d} (X, c)$ и функция $g$ непрерывна в точках носителя предела, то $g(X_n, Y_n) \xrightarrow{d} g(X, c)$. Подставляя $g(x, y) = x + y$, $g(x, y) = xy$ или $g(x, y) = x/y$, получаем все три утверждения теоремы Слуцкого сразу. Для частного нужна аккуратность: точка $y = 0$ должна иметь нулевую вероятность в пределе, поэтому требуется $c \neq 0$.

Альтернативное доказательство суммы - через характеристические функции или прямую оценку функции распределения с «зажиманием» хвоста по событию $\{|Y_n - c| > \varepsilon\}$, вероятность которого стремится к нулю. Схема прямой оценки такая: фиксируют точку непрерывности $t$ предельной функции распределения, разбивают вероятность $P(X_n + Y_n \le t)$ на два случая - когда $Y_n$ близко к $c$ и когда нет. На «хорошем» событии сумма ведёт себя как $X_n + c$, на «плохом» вероятность исчезающе мала. Устремив $\varepsilon \to 0$ после $n \to \infty$, получают требуемый предел $P(X + c \le t)$. Этот же приём с зажиманием хвоста переносится на произведение и частное, если дополнительно ограничить область значений вблизи опасной точки $y = 0$.

Стоит подчеркнуть: ни в одном из этих доказательств не используется независимость $X_n$ и $Y_n$. Вся работа делается за счёт того, что предел второй последовательности - точка, а не распределение. Это и отличает теорему Слуцкого от наивной попытки «сложить два предельных закона».

Зачем теорема Слуцкого нужна в статистике

Главное применение - построение асимптотических доверительных интервалов и проверка гипотез, когда дисперсию приходится оценивать по выборке. Классическая ситуация: по центральной предельной теореме

$$\sqrt{n}\,\frac{\bar X_n - \mu}{\sigma} \xrightarrow{d} N(0, 1),$$

но истинное $\sigma$ неизвестно, и его заменяют состоятельной оценкой $\hat\sigma_n \xrightarrow{p} \sigma$. Тогда отношение

$$\sqrt{n}\,\frac{\bar X_n - \mu}{\hat\sigma_n} = \underbrace{\sqrt{n}\,\frac{\bar X_n - \mu}{\sigma}}_{\xrightarrow{d}\, N(0,1)} \cdot \underbrace{\frac{\sigma}{\hat\sigma_n}}_{\xrightarrow{p}\, 1}$$

по теореме Слуцкого тоже сходится к $N(0, 1)$. Именно поэтому «студенческая» статистика асимптотически нормальна, а оценку дисперсии можно подставлять «бесплатно».

Рассчитать для своей задачи

Тот же приём используется в дельта-методе, в асимптотике метода моментов и максимального правдоподобия, в анализе оценок регрессии. Почти всегда схема одна: основной множитель сходится по распределению к нормальному закону, а «мешающий» множитель (оценка масштаба, нормировка) сходится по вероятности к константе, и теорема Слуцкого склеивает их в один предел.

Связь с непрерывным отображением и законом больших чисел

Теорему Слуцкого удобно держать рядом с двумя соседними фактами. Закон больших чисел даёт состоятельные оценки - то есть поставщиков последовательностей $Y_n \xrightarrow{p} c$. Теорема о непрерывном отображении даёт общий механизм переноса сходимости через функцию. Теорема Слуцкого - это их аккуратная стыковка для самых частых операций: суммы, произведения и частного.

Полезно помнить и обобщение: если $Y_n \xrightarrow{p} c$ для вектора констант $c$, а $g$ непрерывна в окрестности предела, утверждение распространяется на векторный случай. Это и используют в многомерной асимптотике, где «масштаб» - целая матрица ковариаций, сходящаяся к константной матрице.

Если держать эти три факта вместе, большинство доказательств асимптотической нормальности оценок собираются как конструктор. Сначала центральная предельная теорема даёт нормальный предел для главного члена. Затем закон больших чисел поставляет состоятельные оценки мешающих параметров. Наконец, теорема Слуцкого и непрерывное отображение склеивают всё в финальное предельное распределение, по которому уже строят доверительный интервал. Понимание, какой именно факт отвечает за каждый шаг, сильно упрощает разбор чужих доказательств и написание собственных.

Частые ошибки

• Требовать сходимости только по распределению для $Y_n$. Если $Y_n \xrightarrow{d} Y$ к невырожденной величине, теорема не работает: нужна сходимость к константе.
• Забывать условие $c \neq 0$ для частного. При $c = 0$ деление на величину, стягивающуюся к нулю, даёт расходимость или вырождение.
• Менять местами типы сходимости. $X_n \xrightarrow{p} X$ и $Y_n \xrightarrow{d} c$ - это другая ситуация; в формулировке Слуцкого по распределению сходится именно $X_n$, а к константе по вероятности - $Y_n$.
• Считать, что нужна независимость $X_n$ и $Y_n$. Никакого требования независимости нет - в этом и сила теоремы: совместная сходимость следует из вырожденности предела $Y_n$ автоматически.
• Применять к нелинейной $g$ без непрерывности. Перенос работает только если $g$ непрерывна в точках носителя предельного распределения.

FAQ

Чем теорема Слуцкого отличается от теоремы о непрерывном отображении? Теорема о непрерывном отображении - общий факт: непрерывная функция переносит сходимость по распределению. Теорема Слуцкого - её частный, но крайне востребованный случай для суммы, произведения и частного, где одна из последовательностей сходится по вероятности к константе. Фактически Слуцкий выводится из непрерывного отображения плюс лемма о совместной сходимости.

Можно ли применять теорему Слуцкого к векторам и матрицам? Да. Если $Y_n$ сходится по вероятности к константному вектору или матрице $c$, а функция $g$ непрерывна в окрестности предела, перенос сходимости остаётся в силе. Это стандартный инструмент многомерной асимптотической статистики.

Почему оценку дисперсии можно подставлять без потери нормальности? Потому что состоятельная оценка $\hat\sigma_n$ сходится по вероятности к истинному $\sigma$, то есть к константе. Множитель $\sigma/\hat\sigma_n$ стягивается к единице, и по теореме Слуцкого предельное нормальное распределение сохраняется.

Коротко

Теорема Слуцкого склеивает сходимость по распределению ($X_n \xrightarrow{d} X$) и сходимость по вероятности к константе ($Y_n \xrightarrow{p} c$): сумма, произведение и частное сходятся по распределению к $X + c$, $cX$ и $X/c$ соответственно. Условие «предел - константа» критично, для частного нужно $c \neq 0$. На практике теорема позволяет подставлять состоятельные оценки масштаба в асимптотически нормальные статистики, не теряя нормальности предела.