EssayAI
Блог
Блог
Гуманитарные науки

Логит-модель: формула, пример и смысл коэффициентов

8 ноября 2026Время чтения: 8 минут
#логит-модель#логистическая регрессия#эконометрика#бинарный выбор#вероятность
Логит-модель: формула, пример и смысл коэффициентов

Логит-модель описывает вероятность события с двумя исходами: например, купит ли человек товар или откажется от покупки. Она связывает признаки наблюдения с вероятностью через S-образную логистическую функцию, поэтому расчёт всегда даёт значение между нулём и единицей. В эконометрике её используют для анализа участия в рынке труда, получения кредита и других решений типа «да или нет». В калькуляторе можно изменить доход в учебном примере и увидеть, как меняются вероятность и шансы.

От бинарного исхода к вероятности

Пусть Y=1Y=1, если человек совершил покупку, и Y=0Y=0, если нет. Модель не утверждает, что человек купил товар на 60 %. Она оценивает условную вероятность P(Y=1∣x)P(Y=1\mid x) для наблюдений с заданными признаками xx. В учебном примере это доход; в исследовании могут учитываться цена, возраст, состав семьи и другие переменные.

Результаты отдельных людей остаются нулями и единицами, хотя предсказанная вероятность может быть любой между ними. Если для большой группы одинаковых по учтённым признакам людей модель хорошо откалибрована и назначает вероятность 0,6, примерно 60 % таких событий в среднем должны происходить. Это утверждение о частоте в группе, а не гарантия исхода для конкретного человека.

Маркер движется по логистической кривой при росте и снижении дохода. Вероятность меняется быстрее в середине диапазона и медленнее у его краёв.

Прямая регрессия вероятности проста для чтения, но её прогнозы могут оказаться меньше нуля или больше единицы. Логистическая функция устраняет эту проблему для конечного набора коэффициентов и признаков. При этом корректный диапазон сам по себе ещё не доказывает качество прогноза.

Формула логита и обратное преобразование

Сначала признаки складывают с весами в линейный индекс:

z=β0+β1x1+⋯+βkxk.z=\beta_0+\beta_1x_1+\cdots+\beta_kx_k.

Здесь β0\beta_0 - свободный член, а βj\beta_j - коэффициент при признаке xjx_j. Затем индекс переводят в вероятность события:

p=11+e−z=ez1+ez.p=\frac{1}{1+e^{-z}}=\frac{e^z}{1+e^z}.

Обратное преобразование называется логитом: оно берёт натуральный логарифм шансов события. Именно логит, а не сама вероятность, в этой модели линеен по указанным признакам:

logit⁡(p)=ln⁡p1−p=z.\operatorname{logit}(p)=\ln\frac{p}{1-p}=z.

При z=0z=0 вероятность равна 0,5; положительный индекс соответствует вероятности выше 0,5, отрицательный - ниже. При очень больших по модулю индексах кривая приближается к единице или нулю, но для конечного zz не достигает их. Линейность логита не требует линейной связи каждого исходного признака с ним: в индекс можно явно добавить, например, квадрат дохода или взаимодействие двух признаков.

Вероятность, шансы и отношение шансов

Вероятность pp сравнивает число событий со всеми исходами. Шансы p/(1−p)p/(1-p) сравнивают события с несобытиями. При p=0,5p=0,5 шансы равны 1, то есть один к одному; при p=0,8p=0,8 они равны 4, или четыре к одному. Значение шансов может быть больше единицы, в отличие от вероятности.

Если xjx_j увеличился на единицу, а остальные признаки фиксированы, логит меняется на βj\beta_j. Шансы при этом умножаются на eβje^{\beta_j}. Это и есть отношение шансов для единичного изменения признака. Например, при коэффициенте 0,5 множитель равен e0,5≈1,65e^{0,5}\approx1,65: шансы растут примерно на 65 %, но вероятность не обязательно растёт на 65 % или на 65 процентных пунктов.

Смысл единицы измерения важен. Если доход выражен в десятках тысяч рублей, коэффициент относится к прибавке именно в 10 тысяч. Для изменения на две единицы множитель шансов составит e2βje^{2\beta_j}. При взаимодействиях коэффициент одного признака нельзя интерпретировать без значения другого: соответствующее отношение шансов зависит от него. Различие шкал коэффициентов полезно учитывать и при чтении материала про стандартизованные коэффициенты регрессии.

Расчёт вероятности покупки

Возьмём искусственную модель, а не оценки по реальным покупателям. Пусть xx - месячный доход в десятках тысяч рублей, а индекс равен z=−2+0,5xz=-2+0,5x. При доходе 20 тысяч рублей x=2x=2, поэтому z=−1z=-1 и

p=11+e1≈0,269.p=\frac{1}{1+e^1}\approx0,269.

Вероятность покупки составляет около 26,9 %, а шансы - 0,269/(1−0,269)≈0,3680,269/(1-0,269)\approx0,368. Для 40 тысяч рублей x=4x=4: индекс равен нулю, вероятность 50 %, шансы 1. Для 60 тысяч рублей x=6x=6: индекс равен 1, вероятность около 73,1 %, шансы e≈2,72e\approx2,72.

Логистическая кривая для учебной модели: вероятность покупки равна 26,9 %, 50 % и 73,1 % при доходе 20, 40 и 60 тысяч рублей
Логистическая кривая для учебной модели: вероятность покупки равна 26,9 %, 50 % и 73,1 % при доходе 20, 40 и 60 тысяч рублей

Переход от 40 к 50 тысячам рублей увеличивает индекс на 0,5: вероятность становится примерно 62,2 %, а шансы - 1,65. Калькулятор выше использует те же коэффициенты и единицы. Это иллюстрация механики модели, а не оценка влияния дохода на покупку в конкретной экономике.

Предельный эффект: почему прирост не постоянен

Для непрерывного признака без взаимодействий и нелинейных членов производная вероятности равна

∂p∂xj=βjp(1−p).\frac{\partial p}{\partial x_j}=\beta_jp(1-p).

При βj=0,5\beta_j=0,5 и p=0,5p=0,5 она равна 0,125 на единицу xx: в этой точке очень малое увеличение дохода на 10 тысяч рублей соответствует локальному темпу 12,5 процентного пункта на единицу xx. Это производная, поэтому для конечной прибавки точнее пересчитать обе вероятности. От 40 до 50 тысяч фактическая разница составляет около 12,2 процентного пункта.

Ближе к нулю и единице множитель p(1−p)p(1-p) уменьшается. Поэтому один и тот же коэффициент логита даёт разные изменения вероятности в разных точках. Исследователь может сообщить эффект при выбранных признаках либо усреднить индивидуальные предельные эффекты по выборке. Для бинарного признака обычно понятнее вычислить конечную разность прогнозов при значениях 1 и 0, оставив прочие признаки фиксированными. Подробнее о различии отношения шансов и предельного эффекта пишет UCLA OARC.

Как оценивают и проверяют модель

Коэффициенты обычно находят методом максимального правдоподобия. Для наблюдения с yi=1y_i=1 вклад в правдоподобие равен pip_i, а для yi=0y_i=0 - 1−pi1-p_i. При независимых наблюдениях их произведение записывается так:

L(β)=∏i=1npiyi(1−pi)1−yi.L(\beta)=\prod_{i=1}^{n}p_i^{y_i}(1-p_i)^{1-y_i}.

Численный алгоритм ищет коэффициенты, при которых наблюдённая комбинация нулей и единиц наиболее правдоподобна в рамках выбранной модели. Это не означает, что полученная модель истинна или что выборка представительна. Формулу правдоподобия и пример оценки приводит курс Penn State.

Перед оцениванием задают, какое событие кодируется единицей, и проверяют, в какой момент измерен каждый признак. Например, если нужно предсказать покупку до её совершения, сведения, появившиеся только после покупки, использовать нельзя: они создадут утечку информации. Полезно разделить данные так, чтобы итоговая проверка проходила на наблюдениях, не использованных для подбора модели. Для повторных наблюдений одного человека или данных за разные периоды способ разделения должен учитывать эту структуру.

Коэффициент представляет оценку с погрешностью: наряду с точечным значением рассматривают стандартную ошибку и доверительный интервал. Широкий интервал может означать, что данных недостаточно для точного определения величины связи. Отсутствие статистической значимости само по себе не доказывает, что связи нет; важно также проверить масштаб возможных эффектов.

После оценки смотрят на неопределённость коэффициентов, состав выборки и качество прогнозов на новых данных. Калибровка отвечает на вопрос, соответствуют ли прогнозируемые вероятности частотам событий; способность различать исходы - насколько модель ранжирует события выше несобытий. Это разные свойства. Если вероятности превращают в классы, порог выбирают с учётом цены ошибок: при пороге 0,5 значения не ниже него относят к единице. Последствия такого решения удобно изучать через матрицу ошибок.

Если признак идеально разделяет нули и единицы, обычные оценки максимального правдоподобия могут не иметь конечного решения. Малочисленные события, пропуски и сильная связь признаков друг с другом тоже осложняют оценивание. Нужны проверка данных и подходящий метод, а не механическое чтение одной таблицы коэффициентов.

Применение и ограничения

В экономике модель полезна, когда результат действительно бинарный и интерес представляет условная вероятность: одобрен кредит или нет, участвует человек в программе или нет. Для нескольких взаимоисключающих альтернатив применяют другие постановки, например мультиномиальный логит; связанная с преобразованием нескольких индексов функция softmax рассматривается отдельно.

Положительный коэффициент показывает условную связь признака с логитом при фиксированных остальных переменных. Он не доказывает причинного эффекта: доход может быть связан с ненаблюдаемыми предпочтениями, а отбор в выборку - с самим исходом. Для причинного вывода нужны дизайн исследования и дополнительные предпосылки. Прогнозы также могут ухудшаться за пределами диапазона данных или после изменения условий, в которых модель обучали. При большом числе взаимосвязанных признаков исследователь может отдельно рассмотреть метод главных компонент, учитывая, что преобразованные признаки сложнее интерпретировать.

Частые ошибки

  • Принимать коэффициент βj\beta_j за изменение вероятности: он выражен в единицах логита.
  • Путать шансы с вероятностью и отношение шансов с отношением вероятностей.
  • Использовать производную как точную разницу для большой прибавки признака.
  • Называть связь причинной без обоснования и забывать единицы измерения признаков.
  • Считать высокую долю верных классов достаточной проверкой вероятностей, особенно при редких событиях.

FAQ

Чем логит отличается от пробит-модели?

Обе модели применяют к бинарному исходу, но используют разные функции связи: логит основан на логистической функции, пробит - на функции распределения стандартной нормальной величины. Их коэффициенты имеют разные масштабы и не сравниваются напрямую.

Что означает отрицательный коэффициент?

При прочих равных увеличение соответствующего признака уменьшает логит и вероятность события. Отношение шансов eβje^{\beta_j} тогда меньше единицы; сила изменения вероятности зависит от исходной точки.

Обязательно ли использовать порог 0,5?

Нет. Модель сначала выдаёт вероятность, а порог - отдельное решение для классификации. Его выбирают исходя из задачи, стоимости пропусков и ложных срабатываний и проверяют на подходящих данных.

Коротко

Логит-модель связывает линейный индекс с вероятностью бинарного события через логистическую функцию. Коэффициент меняет логарифм шансов, его экспонента даёт отношение шансов, а изменение самой вероятности зависит от исходной точки. Интерпретация требует ясных единиц измерения, проверки качества и осторожности с причинными выводами.

Доверьте текст нейросети EssayAI

Открыть EssayAI

Бесплатно, на русском языке и без VPN

Читайте также

Пробит-модель: формула, пример и интерпретация

Пробит-модель: формула, пример и интерпретация

Пробит-модель для бинарного выбора: как получить вероятность через нормальное распределение, оценить коэффициенты и рассчитать предельный эффект на примере.

8 ноября 20268 минут
Бесповторный отбор: формулы и пример расчёта

Бесповторный отбор: формулы и пример расчёта

Бесповторный отбор в статистике: как меняются вероятности, рассчитать состав случайной выборки и учесть конечную совокупность на примере контроля партии.

8 ноября 20268 минут
Индекс корреляции: формула и пример расчёта

Индекс корреляции: формула и пример расчёта

Как рассчитать индекс корреляции по группам и остаткам модели, прочитать его квадрат и отличить нелинейную связь от коэффициента Пирсона: пример с таблицей.

8 ноября 20268 минут
Коинтеграция: как найти долгосрочную связь рядов

Коинтеграция: как найти долгосрочную связь рядов

Коинтеграция временных рядов простыми словами: как проверить стационарность остатка, провести тест Энгла и Грейнджера и понять модель коррекции ошибки на примере.

8 ноября 20268 минут
Модель Хольта-Винтерса: формулы и пример прогноза

Модель Хольта-Винтерса: формулы и пример прогноза

Модель Хольта-Винтерса для сезонного временного ряда: формулы уровня, тренда и сезонности, пошаговый расчёт прогноза по кварталам и способы проверки его точности.

8 ноября 20268 минут
Модель Койка: формула распределённого лага и пример

Модель Койка: формула распределённого лага и пример

Модель Койка в эконометрике: геометрическое убывание лагов, преобразование уравнения, краткосрочный и долгосрочный эффекты, средний лаг и пример расчёта.

8 ноября 20268 минут