Условный экстремум: множители Лагранжа без зубрёжки

Условный экстремум - это наибольшее или наименьшее значение функции не на всей области определения, а на множестве, заданном уравнениями связи. Метод множителей Лагранжа сводит такую задачу к поиску безусловного экстремума вспомогательной функции и потому остаётся главным инструментом в курсе математического анализа и в прикладной оптимизации. Ниже разбираем, откуда берутся множители, как составить и решить систему, как отличить минимум от максимума и где студенты чаще всего ошибаются.

Что такое условный экстремум

Пусть нужно исследовать функцию $f(x_1,\dots,x_n)$ на экстремум при ограничениях $g_i(x_1,\dots,x_n)=0$, где $i=1,\dots,m$ и $m<n$. Точка $x^*$ даёт условный экстремум, если она доставляет локальный максимум или минимум $f$ среди всех точек, удовлетворяющих уравнениям связи. Геометрически связи вырезают в пространстве кривую или поверхность, и мы ищем экстремум именно вдоль неё.

Ключевое отличие от безусловной задачи: точка $x^*$ может вовсе не быть экстремумом $f$ как функции на всём $\mathbb{R}^n$. Например, у функции $f(x,y)=x+y$ нет безусловного экстремума, но на окружности $x^2+y^2=1$ она достигает и максимума, и минимума. Поэтому условный экстремум множители Лагранжа находят там, где обычное приравнивание частных производных к нулю бессильно.

После того как вы поняли постановку, удобно сразу прогнать конкретную задачу через формализм Лагранжа и проверить себя. Ниже - небольшой конструктор: задайте целевую функцию, связь и тип экстремума, и получите разбор с функцией Лагранжа, системой и проверкой.

Идея метода множителей Лагранжа

В точке условного экстремума градиент целевой функции коллинеарен градиентам связей. Это означает, что вдоль допустимых направлений (касательных к множеству связей) производная $f$ обращается в ноль. Формально условие записывается так:

$\nabla f(x^*) = \sum_{i=1}^{m} \lambda_i\, \nabla g_i(x^*).$

Числа $\lambda_i$ и есть множители Лагранжа. Каждому уравнению связи отвечает свой множитель. Содержательно $\lambda_i$ показывает чувствительность экстремального значения $f$ к сдвигу соответствующего ограничения - это интерпретация Лагранжа как «теневой цены» в экономике.

Почему градиенты обязаны быть коллинеарны? Множество связей - это гладкая поверхность, а допустимые перемещения из точки $x^*$ лежат в касательной плоскости к ней. Само существование такой касательной плоскости и возможность локально разрешить связь относительно части переменных гарантирует теорема о неявной функции - именно она лежит в основе условия регулярности. Если бы у $\nabla f$ была ненулевая проекция на эту плоскость, то, двигаясь вдоль связи в нужную сторону, мы бы увеличивали (или уменьшали) $f$ - и точка не была бы экстремумом. Значит, в экстремуме $\nabla f$ ортогонален касательной плоскости, то есть лежит в линейной оболочке нормалей $\nabla g_i$. Именно это и записано в формуле выше.

Чтобы не работать с векторным равенством напрямую, вводят функцию Лагранжа.

Функция Лагранжа и система уравнений

Функция Лагранжа объединяет цель и связи в одно выражение:

$L(x,\lambda)=f(x)-\sum_{i=1}^{m}\lambda_i\, g_i(x).$

Необходимое условие условного экстремума - равенство нулю всех частных производных $L$ по переменным $x_j$ и по множителям $\lambda_i$:

$\frac{\partial L}{\partial x_j}=0,\qquad \frac{\partial L}{\partial \lambda_i}=0.$

Производные по $\lambda_i$ автоматически возвращают уравнения связи $g_i(x)=0$, поэтому система содержит и условие стационарности, и сами ограничения. Решения этой системы называют стационарными (критическими) точками; среди них и нужно искать условный экстремум. Для двух переменных и одной связи система выглядит так:

$\begin{cases} f_x - \lambda g_x = 0,\\ f_y - \lambda g_y = 0,\\ g(x,y)=0. \end{cases}$

Знак перед суммой в $L$ можно брать как минус, так и плюс - это лишь меняет знак найденных $\lambda_i$, на координаты точек не влияет.

Алгоритм решения

1. Запишите целевую функцию $f$ и приведите все связи к виду $g_i=0$.
2. Проверьте регулярность: градиенты $\nabla g_i$ в подозрительных точках должны быть линейно независимы (условие регулярности связей). Иначе метод может пропустить экстремум.
3. Составьте $L=f-\sum\lambda_i g_i$.
4. Выпишите систему из частных производных и решите её - найдите все стационарные точки и соответствующие $\lambda_i$.
5. Исследуйте каждую точку на тип: минимум, максимум или ни то ни другое.
6. Если множество связей замкнуто и ограничено (компакт), сравните значения $f$ в стационарных точках - наибольшее даёт глобальный максимум, наименьшее минимум (теорема Вейерштрасса гарантирует их существование).

Как отличить минимум от максимума

Необходимое условие не различает максимум и минимум. Для проверки есть два пути.

Первый - содержательный: если множество связей компактно, достаточно подставить координаты всех стационарных точек в $f$ и сравнить значения. Самое большое - максимум, самое малое - минимум. Этот приём избавляет от второго дифференциала и часто самый быстрый на экзамене.

Второй - формальный, через окаймлённый гессиан (bordered Hessian). Составляют матрицу из вторых производных $L$ по $x_j$, «окаймлённую» производными связей:

$\bar{H}=\begin{pmatrix} 0 & g_x & g_y\\ g_x & L_{xx} & L_{xy}\\ g_y & L_{yx} & L_{yy} \end{pmatrix}.$

Знак определителя $\det\bar{H}$ в стационарной точке даёт тип экстремума: для задачи с двумя переменными и одной связью $\det\bar{H}>0$ отвечает максимуму, $\det\bar{H}<0$ - минимуму. В общем случае анализируют знаки последовательности угловых миноров окаймлённого гессиана с учётом числа связей.

Разобранный пример

Найдём экстремум $f(x,y)=xy$ при связи $x+y=2$, то есть $g(x,y)=x+y-2$. Функция Лагранжа: $L=xy-\lambda(x+y-2)$. Система:

$\begin{cases} y-\lambda=0,\\ x-\lambda=0,\\ x+y-2=0. \end{cases}$

Из первых двух уравнений $x=y=\lambda$, подстановка в связь даёт $x=y=1$, $\lambda=1$. Единственная стационарная точка - $(1,1)$, значение $f(1,1)=1$. Связь - прямая, множество не компактно, поэтому проверяем тип через знак: вдоль прямой $y=2-x$ функция $f=x(2-x)=2x-x^2$ - парабола ветвями вниз, в вершине $x=1$ максимум. Значит $(1,1)$ - точка условного максимума, $f_{\max}=1$.

Тот же результат даёт окаймлённый гессиан. Здесь $L_{xx}=0$, $L_{yy}=0$, $L_{xy}=1$, а $g_x=g_y=1$, поэтому

$\det\bar{H}=\det\begin{pmatrix} 0 & 1 & 1\\ 1 & 0 & 1\\ 1 & 1 & 0 \end{pmatrix}=2>0,$

что по правилу для двух переменных и одной связи подтверждает максимум. Полезно решать задачу обоими способами: сравнение значений ловит глобальный характер на компакте, а гессиан - локальный, и совпадение ответов служит проверкой.

Связь с неравенствами и условиями ККТ

Метод Лагранжа в исходном виде работает с равенствами. Если ограничения заданы неравенствами $g_i(x)\le 0$, его обобщают до условий Каруша - Куна - Таккера: к стационарности добавляют условия дополняющей нежёсткости $\lambda_i g_i=0$ и знаковые ограничения на множители. Дополняющая нежёсткость означает, что в каждой точке либо ограничение активно ($g_i=0$), либо его множитель равен нулю, - неактивное неравенство не влияет на экстремум. Для базового курса достаточно понимать, что классические множители Лагранжа - частный случай ККТ для активных (выполняющихся как равенство) ограничений, поэтому, освоив метод связей-равенств, вы получаете каркас и для задач с неравенствами, и для большинства задач математического программирования. Когда же связи неудобно учитывать напрямую, ограничения «зашивают» в саму цель штрафным слагаемым - этот приём разбирает метод штрафных функций, сводящий условную задачу к серии безусловных.

Частые ошибки

• Забывают уравнение связи в системе: дифференцируют $L$ только по $x$ и $y$, но не по $\lambda$, и теряют ограничение.
• Не проверяют регулярность: в точках, где $\nabla g=0$, метод неприменим, и настоящий экстремум проскакивает мимо.
• Останавливаются на необходимом условии и объявляют любую стационарную точку экстремумом, не определив минимум это или максимум.
• Путают условный экстремум с безусловным: приравнивают к нулю $\nabla f$ вместо $\nabla L$ и игнорируют связь.
• На компакте находят одну точку и забывают, что вторая граница множества может давать другой экстремум.

FAQ

Сколько множителей нужно вводить? Ровно столько, сколько уравнений связи: по одному $\lambda_i$ на каждое ограничение $g_i=0$.

Можно ли подставить связь в функцию и не вводить множители? Да, если связь легко разрешается относительно одной переменной - тогда задача сводится к безусловному экстремому. Множители Лагранжа удобнее, когда связь неявная или их несколько.

Что означает значение множителя $\lambda$? Это скорость изменения экстремального значения $f$ при малом сдвиге правой части ограничения - «теневая цена» связи.

Коротко

Условный экстремум ищется на множестве, заданном связями, а метод множителей Лагранжа сводит задачу к стационарным точкам функции $L=f-\sum\lambda_i g_i$. Выписав систему из производных по переменным и по множителям, находят кандидатов, а затем определяют тип через сравнение значений на компакте или через окаймлённый гессиан. Главное - не забыть уравнения связи, проверить регулярность и довести разбор до вывода о минимуме или максимуме.