Сеть долгой краткосрочной памяти LSTM: вентили и состояние

Обычная рекуррентная сеть умеет помнить контекст, но только короткий: чем дальше во времени нужная информация, тем сильнее её «размывает» при обучении из-за затухающего градиента. Сеть долгой краткосрочной памяти (Long Short-Term Memory, LSTM) была придумана именно для того, чтобы держать важный сигнал на десятки и сотни шагов. Достигается это не магией, а аккуратной конструкцией из состояния ячейки и трёх управляющих вентилей. Разберём, как именно ячейка решает, что забыть, что записать и что выдать наружу, и почему такая схема обходит главную болезнь простых RNN. Ниже можно прогнать один шаг ячейки по числам и увидеть, как меняется горизонт памяти.

Зачем понадобилась долгая краткосрочная память

Название кажется парадоксальным: «долгая краткосрочная». Смысл такой - это всё ещё краткосрочная память (внутреннее состояние, а не отдельная база знаний, как веса), но способная жить долго. В обычной рекуррентной сети скрытое состояние на каждом шаге целиком перезаписывается через нелинейность, и при обучении градиент, пробегая назад через много шагов, многократно умножается на близкие к нулю производные. Сигнал об ошибке тает экспоненциально - это и есть проблема затухающего градиента.

LSTM добавляет рядом со скрытым состоянием отдельную «магистраль памяти» - состояние ячейки $c_t$. По ней информация течёт почти без искажений: на каждом шаге к ней применяются только покомпонентное умножение и сложение, без сжимающей нелинейности. Именно поэтому градиент по этой магистрали не затухает так быстро.

Рассчитать для своей задачи

Состояние ячейки и три вентиля

Сердце LSTM - это состояние ячейки $c_t$ и три вентиля (gates). Вентиль - это вектор чисел от 0 до 1, полученный через сигмоиду $\sigma$; он умножается покомпонентно на другой вектор и работает как набор «кранов»: 0 закрывает поток, 1 пропускает целиком.

Три вентиля решают три разные задачи:

• Вентиль забывания $f_t$ - сколько старой памяти оставить: $f_t = \sigma(W_f [h_{t-1}, x_t] + b_f)$.
• Входной вентиль $i_t$ - сколько новой информации записать: $i_t = \sigma(W_i [h_{t-1}, x_t] + b_i)$.
• Выходной вентиль $o_t$ - сколько из состояния ячейки выпустить наружу как скрытый выход: $o_t = \sigma(W_o [h_{t-1}, x_t] + b_o)$.

Здесь $[h_{t-1}, x_t]$ - конкатенация предыдущего скрытого состояния и нового входа; у каждого вентиля свои обучаемые веса $W$ и смещение $b$. Калькулятор выше как раз показывает, во что превращаются логиты (значения до сигмоиды) после активации, и как от этого зависит дальнейшее поведение ячейки.

Кандидат состояния и обновление памяти

Кроме вентилей, ячейка вычисляет кандидата состояния $\tilde c_t$ - что в принципе можно было бы записать в память на этом шаге:

$$\tilde c_t = \tanh(W_c [h_{t-1}, x_t] + b_c)$$

Гиперболический тангенс даёт значения в диапазоне от $-1$ до $1$, то есть кандидат может как увеличивать, так и уменьшать компоненты памяти. Само обновление состояния ячейки - ключевая формула LSTM:

$$c_t = f_t \odot c_{t-1} + i_t \odot \tilde c_t$$

Символ $\odot$ - покомпонентное (адамарово) умножение. Читается это так: новое состояние = (сколько оставили от старого) + (сколько записали нового). Если $f_t \approx 1$ и $i_t \approx 0$, ячейка почти буквально копирует прошлую память дальше - сигнал едет по магистрали без изменений. Если $f_t \approx 0$, прошлое стирается, и память начинается «с чистого листа».

Рассчитать для своей задачи

Скрытый выход и роль выходного вентиля

Состояние ячейки $c_t$ - это внутренняя память, наружу она не идёт напрямую. Наружу подаётся скрытое состояние $h_t$, которое получается фильтрацией памяти через выходной вентиль:

$$h_t = o_t \odot \tanh(c_t)$$

Сначала состояние ячейки сжимается через $\tanh$ в диапазон $[-1, 1]$, затем выходной вентиль решает, какие компоненты этой памяти важны прямо сейчас. Так LSTM может хранить в $c_t$ много всего, но выдавать на каждом шаге только релевантную часть. Именно $h_t$ уходит на следующий шаг и в выходной слой сети (например, для предсказания следующего слова).

Полезно сравнить это с механизмом внимания: LSTM сжимает всю историю в фиксированный вектор состояния, тогда как внимание обращается к любому прошлому элементу напрямую. Поэтому современные трансформеры во многих задачах вытеснили рекуррентные сети, но LSTM по-прежнему силён там, где данные строго последовательны и память должна обновляться шаг за шагом.

Почему LSTM побеждает затухающий градиент

Главная причина устойчивости - аддитивное обновление по магистрали $c_t$. При обратном распространении ошибки через много шагов градиент по состоянию ячейки умножается в основном на вентиль забывания $f_t$, а не на производную сжимающей нелинейности. Если сеть научилась держать $f_t$ около единицы для нужной компоненты, произведение $\prod_t f_t$ не схлопывается к нулю - путь для градиента остаётся открытым.

Удобная интуиция: записанный сигнал к шагу $t$ ослабляется примерно как $f^t$. Горизонт памяти - число шагов, за которое сигнал падает в $e$ раз - равен

$$\tau \approx -\frac{1}{\ln f}$$

При $f = 0.5$ горизонт всего около полутора шагов, при $f = 0.95$ - почти 20 шагов, при $f = 0.99$ - около ста. Сдвиньте слайдер вентиля забывания в калькуляторе и посмотрите на кривую затухания: она наглядно показывает, как одно число управляет длиной памяти. На практике, чтобы LSTM «по умолчанию» помнил, смещение $b_f$ часто инициализируют положительным - тогда в начале обучения вентиль забывания близок к единице.

Частые ошибки

• Путать состояние ячейки $c_t$ и скрытое состояние $h_t$. $c_t$ - внутренняя память, течёт по магистрали; $h_t$ - отфильтрованный выходным вентилем сигнал наружу. На следующий шаг идут оба, но в выходной слой - только $h_t$.
• Считать, что вентиль забывания «забывает». Наоборот: $f_t = 1$ означает «помнить полностью», $f_t = 0$ - «стереть». Имя про то, сколько оставить, а не сколько выбросить.
• Применять $\tanh$ к состоянию ячейки при его обновлении. В формуле $c_t = f_t \odot c_{t-1} + i_t \odot \tilde c_t$ нелинейности к самому $c_t$ нет - это и есть секрет незатухающего градиента. $\tanh$ применяется к кандидату и к выходу, но не к магистрали.
• Думать, что вентили - это отдельные слои. Все четыре преобразования (три вентиля и кандидат) считаются параллельно из одного и того же входа $[h_{t-1}, x_t]$, просто с разными весами.
• Забывать про инициализацию $b_f$. Нулевое смещение даёт $f \approx 0.5$ и короткую память на старте обучения; положительный сдвиг помогает сети сразу удерживать длинные зависимости.

FAQ

Чем LSTM отличается от обычной RNN? В простой RNN скрытое состояние на каждом шаге целиком пропускается через сжимающую нелинейность, из-за чего градиент затухает на длинных последовательностях. LSTM добавляет отдельную магистраль состояния ячейки с аддитивным обновлением и три вентиля, которые управляют потоком памяти. Это позволяет хранить зависимости на десятки и сотни шагов.

Что такое вентиль забывания и зачем он нужен? Это вектор значений от 0 до 1, который покомпонентно умножается на прошлое состояние ячейки. Он решает, какую часть старой памяти сохранить, а какую стереть. Значение около единицы означает «помнить долго», около нуля - «начать заново». Именно произведение вентилей забывания вдоль шагов определяет, насколько далеко назад тянется память.

Чем LSTM отличается от GRU? GRU (Gated Recurrent Unit) - облегчённая версия с двумя вентилями вместо трёх и без отдельного состояния ячейки: память и скрытое состояние объединены. GRU обучается быстрее и имеет меньше параметров, часто показывает сопоставимое качество. LSTM же даёт более гибкое разделение «что хранить» и «что выдавать», что иногда важно на сложных длинных зависимостях.

Коротко

Сеть долгой краткосрочной памяти LSTM хранит информацию в отдельной магистрали - состоянии ячейки $c_t$, которое обновляется аддитивно по формуле $c_t = f_t \odot c_{t-1} + i_t \odot \tilde c_t$. Три вентиля решают, что забыть (вентиль забывания $f_t$), что записать (входной $i_t$) и что выдать наружу (выходной $o_t$). Поскольку к магистрали памяти не применяется сжимающая нелинейность, градиент по ней не затухает, и сеть удерживает зависимости на десятки шагов - там, где простая RNN всё забывает. Горизонт памяти задаётся вентилем забывания: чем ближе $f_t$ к единице, тем дольше живёт сигнал.