Как работает ANOVA однофакторный дисперсионный анализ

ANOVA однофакторный дисперсионный анализ - это метод проверки гипотезы о равенстве средних значений в трёх и более группах одновременно. Вместо того чтобы попарно сравнивать группы t-критерием и накапливать ошибку первого рода, анализ раскладывает общую изменчивость данных на две части - связанную с влиянием фактора и случайную - и сравнивает их через отношение дисперсий. Ниже разберём логику метода, формулы сумм квадратов, F-статистику, условия применимости и типичные ошибки интерпретации.

Что такое однофакторный дисперсионный анализ

Однофакторный дисперсионный анализ (one-way ANOVA) изучает влияние одного качественного фактора с несколькими уровнями (группами) на одну количественную зависимую переменную. Например, фактор «удобрение» с уровнями A, B, C, а зависимая переменная - урожайность. Метод отвечает на вопрос: различаются ли средние урожайности между типами удобрения сильнее, чем это можно объяснить случайным разбросом внутри групп.

Ключевая идея ANOVA - разложение общей дисперсии. Если общая изменчивость данных объясняется в основном различиями между группами, а не разбросом внутри них, фактор считается значимым. Формально метод оперирует не самими дисперсиями, а суммами квадратов отклонений, которые затем нормируют на число степеней свободы.

Гипотезы дисперсионного анализа

Однофакторный анализ проверяет нулевую гипотезу о равенстве всех групповых средних:

$H_0: \mu_1 = \mu_2 = \dots = \mu_k$

Альтернативная гипотеза $H_1$ утверждает, что хотя бы одно среднее отличается от остальных. Важно: $H_1$ не говорит, какое именно среднее или сколько их - она лишь отрицает полное равенство. Поэтому значимый результат ANOVA сам по себе не показывает, между какими группами есть разница; для этого нужны апостериорные (post-hoc) сравнения.

Хотите быстро прикинуть F-критерий и решение по своим группам? Соберите данные ниже - калькулятор посчитает суммы квадратов и сформулирует вывод.

Разложение сумм квадратов

Пусть есть $k$ групп, в группе $i$ - $n_i$ наблюдений, $\bar{x}_i$ - среднее группы, $\bar{x}$ - общее среднее по всем $N = \sum n_i$ наблюдениям. Общая сумма квадратов раскладывается так:

$SS_{\text{total}} = SS_{\text{between}} + SS_{\text{within}}$

Межгрупповая сумма квадратов отражает разброс групповых средних относительно общего среднего:

$SS_{\text{between}} = \sum_{i=1}^{k} n_i (\bar{x}_i - \bar{x})^2$

Внутригрупповая сумма квадратов - это суммарный разброс наблюдений вокруг своих групповых средних (остаточная, «случайная» изменчивость):

$SS_{\text{within}} = \sum_{i=1}^{k} \sum_{j=1}^{n_i} (x_{ij} - \bar{x}_i)^2$

Чем больше доля $SS_{\text{between}}$ в общей сумме, тем сильнее фактор влияет на отклик.

Средние квадраты и F-критерий

Суммы квадратов делят на степени свободы и получают средние квадраты (дисперсии). Межгрупповые степени свободы $df_{\text{between}} = k - 1$, внутригрупповые $df_{\text{within}} = N - k$:

$MS_{\text{between}} = \frac{SS_{\text{between}}}{k - 1}, \qquad MS_{\text{within}} = \frac{SS_{\text{within}}}{N - k}$

F-критерий - это отношение межгрупповой дисперсии к внутригрупповой:

$F = \frac{MS_{\text{between}}}{MS_{\text{within}}}$

Если $H_0$ верна, обе оценки оценивают одну и ту же дисперсию ошибок, и $F \approx 1$. Чем сильнее различаются средние, тем больше числитель и тем больше $F$. Наблюдаемое значение сравнивают с критическим значением распределения Фишера $F_{\alpha}(k-1,\ N-k)$ или смотрят p-значение.

Условия применимости

ANOVA опирается на три предпосылки, и при их нарушении вывод может быть некорректным:

• Нормальность: остатки внутри каждой группы распределены приблизительно нормально. При больших выборках метод устойчив к умеренным отклонениям.
• Гомогенность дисперсий (гомоскедастичность): дисперсии во всех группах примерно равны. Проверяется тестом Левена или критерием Бартлетта.
• Независимость наблюдений: значения не должны быть связаны (не повторные измерения на одних и тех же объектах - для них есть ANOVA с повторными измерениями).

При сильном нарушении гомогенности применяют поправку Уэлча, а при нарушении нормальности - непараметрический аналог, критерий Краскела-Уоллиса.

Таблица ANOVA и интерпретация

Результат обычно сводят в таблицу с источниками изменчивости - «между группами», «внутри групп» и «всего». В ней указывают суммы квадратов, степени свободы, средние квадраты, значение $F$ и p-значение. Решающее правило простое: если $p \le \alpha$ (обычно $\alpha = 0{,}05$), нулевую гипотезу отвергают и заключают, что фактор влияет на отклик.

После отклонения $H_0$ переходят к апостериорным тестам (Тьюки HSD, Шеффе, Бонферрони), чтобы выяснить, какие именно пары групп различаются. Полезно также оценить размер эффекта - например $\eta^2 = SS_{\text{between}} / SS_{\text{total}}$, показывающий долю объяснённой дисперсии.

Связь с t-критерием и регрессией

Для двух групп ($k=2$) однофакторный дисперсионный анализ полностью эквивалентен двухвыборочному t-критерию: при этом $F = t^2$. ANOVA можно рассматривать как частный случай линейной регрессии с категориальным предиктором, закодированным фиктивными (dummy) переменными. Это объясняет, почему многие статистические пакеты выдают для ANOVA те же $SS$, $MS$ и $F$, что и регрессионная модель.

Частые ошибки

• Множественные t-тесты вместо ANOVA. Попарные сравнения всех групп раздувают суммарную ошибку первого рода; именно для этого и нужен единый F-критерий.
• Остановка на значимом F. Само по себе $p \le \alpha$ не указывает различающиеся пары - без post-hoc вывод неполный.
• Игнорирование предпосылок. Применение ANOVA при резко неравных дисперсиях или зависимых наблюдениях даёт заниженное p-значение.
• Путаница $SS_{\text{between}}$ и $SS_{\text{within}}$. Числитель F - межгрупповой средний квадрат, знаменатель - внутригрупповой; перестановка инвертирует смысл.
• Вывод о размере эффекта по p-значению. При большом $N$ значимым становится даже крошечное различие - нужен $\eta^2$ или другой показатель эффекта.

FAQ

Чем однофакторный анализ отличается от двухфакторного? Однофакторный учитывает один фактор, двухфакторный - два фактора и их взаимодействие. Если в вашем плане один группирующий признак - нужен именно one-way ANOVA.

Что делать, если дисперсии групп неравны? Используйте поправку Уэлча (Welch's ANOVA), которая не требует гомогенности дисперсий, либо непараметрический критерий Краскела-Уоллиса.

Можно ли применять ANOVA к двум группам? Можно, но это эквивалентно t-критерию: $F = t^2$ и p-значения совпадают. Для двух групп проще и привычнее использовать t-тест.

Коротко

ANOVA однофакторный дисперсионный анализ сравнивает средние нескольких групп, раскладывая общую изменчивость на межгрупповую и внутригрупповую составляющие. Отношение соответствующих средних квадратов даёт F-статистику: большое $F$ и малое p-значение говорят о влиянии фактора. Метод требует нормальности, равенства дисперсий и независимости наблюдений, а после отклонения $H_0$ дополняется апостериорными сравнениями и оценкой размера эффекта.