Теорема Хана-Банаха: продолжение функционала и разделение выпуклых множеств

Теорема Хана-Банаха - одна из трёх «китов» функционального анализа (наряду с теоремой Банаха-Штейнгауза и теоремой об открытом отображении). Её главный смысл: на любом векторном пространстве сопряжённое $X^*$ достаточно богатое - функционалов хватает, чтобы «увидеть» каждый ненулевой вектор. Без этого факта не работают двойственность, теорема Рисса о представлении, теория рефлексивных пространств, а в прикладных задачах - двойственность линейного программирования и теоремы об отделимости из математической экономики. Носит имя Ганса Хана (1927, для нормированных пространств) и Стефана Банаха (1929, общий случай с сублинейной мажорантой).

Постановка: что значит «продолжить функционал»

Пусть $X$ - вещественное векторное пространство, $M \subset X$ - его линейное подпространство, $f \colon M \to \mathbb{R}$ - линейный функционал. Вопрос: можно ли расширить $f$ до линейного функционала $F \colon X \to \mathbb{R}$, совпадающего с $f$ на $M$? Без дополнительных условий - да, всегда, тривиально (по теореме о базисе и аксиоме выбора). Но содержательный вопрос - можно ли при этом сохранить оценку: если на $M$ выполняется $f(x) \leq p(x)$ для какой-то функции $p$, можно ли получить $F(x) \leq p(x)$ уже на всём $X$?

Ответ - да, при единственном условии на $p$: она должна быть сублинейной.

Определение. Функция $p \colon X \to \mathbb{R}$ называется сублинейной, если:

1. $p(\alpha x) = \alpha p(x)$ для всех $\alpha \geq 0$ (положительная однородность);
2. $p(x + y) \leq p(x) + p(y)$ (субаддитивность).

Норма - частный случай сублинейной функции, как и опорная функция выпуклого множества. Это широкий класс.

Аналитическая теорема Хана-Банаха

Теорема (Хан, 1927; Банах, 1929). Пусть $X$ - вещественное векторное пространство, $p \colon X \to \mathbb{R}$ - сублинейная функция, $M \subset X$ - линейное подпространство, $f \colon M \to \mathbb{R}$ - линейный функционал с $f(x) \leq p(x)$ для всех $x \in M$. Тогда существует линейный функционал $F \colon X \to \mathbb{R}$ такой, что

$$F|_M = f \quad \text{и} \quad F(x) \leq p(x) \text{ для всех } x \in X.$$

Продолжение, вообще говоря, не единственно - выбор зависит от того, какой направление «нового» вектора $x_0 \notin M$ берётся первым.

Подставь свою тройку $(X, M, f)$ или пару выпуклых множеств ниже - соберём постановку и доведём до конкретного продолжения или разделяющей гиперплоскости.

Доказательство-эскиз через лемму Цорна

Стандартный план - расширять $f$ на один вектор за шаг и потом применить лемму Цорна.

Шаг 1 (один новый вектор). Пусть $x_0 \in X \setminus M$. Расширим $f$ на $M_0 = M + \mathbb{R} x_0$. Любой элемент $M_0$ записывается единственно как $y + t x_0$ ($y \in M$, $t \in \mathbb{R}$). Положим $F(y + t x_0) = f(y) + t c$ - нужно выбрать $c \in \mathbb{R}$ так, чтобы $F \leq p$ на $M_0$. Это приводит к двойному неравенству

$$\sup_{y \in M} \bigl( f(y) - p(y - x_0) \bigr) \leq c \leq \inf_{y \in M} \bigl( p(y + x_0) - f(y) \bigr).$$

Существование такого $c$ - следствие субаддитивности $p$: для любых $y_1, y_2 \in M$ выполняется $f(y_1) + f(y_2) = f(y_1 + y_2) \leq p(y_1 + y_2) \leq p(y_1 - x_0) + p(y_2 + x_0)$, откуда левая часть не превосходит правой.

Шаг 2 (лемма Цорна). Рассмотрим множество всех пар $(N, g)$, где $N \supset M$ - подпространство и $g \colon N \to \mathbb{R}$ - продолжение $f$ с $g \leq p$. Введём на нём порядок: $(N_1, g_1) \preceq (N_2, g_2)$, если $N_1 \subset N_2$ и $g_2|_{N_1} = g_1$. Любая цепь имеет верхнюю грань (объединение подпространств с согласованными функционалами). По лемме Цорна есть максимальный элемент $(N^*, F)$. Если бы $N^* \neq X$, можно было бы применить шаг 1 к любому $x_0 \notin N^*$ - противоречие. Значит $N^* = X$.

Шаг 2 - единственное место, где привлекается аксиома выбора. В сепарабельных нормированных пространствах можно обойтись индукцией по счётному плотному множеству, но в общем случае без AC доказательство известными методами не построить.

Комплексная версия: Боненблуст-Собчик

В комплексном случае линейность означает $f(\lambda x) = \lambda f(x)$ для $\lambda \in \mathbb{C}$. Сублинейная мажоранта $p$ должна быть полунормой (то есть $p(\lambda x) = |\lambda| p(x)$).

Теорема (Боненблуст-Собчик, 1938). Пусть $X$ - комплексное векторное пространство, $p$ - полунорма на $X$, $M \subset X$ - комплексное подпространство, $f \colon M \to \mathbb{C}$ - комплексно-линейный функционал с $|f(x)| \leq p(x)$. Тогда существует комплексно-линейное продолжение $F \colon X \to \mathbb{C}$ с $|F(x)| \leq p(x)$.

Трюк доказательства - представить $f = u + i v$ через вещественные части, заметить $v(x) = -u(ix)$ (из комплексной линейности), применить вещественную теорему к $u$, восстановить $F(x) = U(x) - i U(ix)$. Получается комплексное продолжение с сохранением оценки модуля.

Геометрическая форма: разделение выпуклых множеств

Эта формулировка для прикладника часто полезнее аналитической. Она утверждает, что два непересекающихся выпуклых множества можно «разделить» гиперплоскостью - линейным функционалом, на котором значения одного множества не превосходят значений другого.

Первая теорема об отделимости (open separation). Пусть $A, B \subset X$ - непустые непересекающиеся выпуклые множества в нормированном пространстве, причём $A$ открыто. Тогда существует ненулевой непрерывный линейный функционал $f \in X^*$ и число $c \in \mathbb{R}$ такие, что

$$f(a) < c \leq f(b) \quad \text{для всех } a \in A,\ b \in B.$$

Вторая теорема об отделимости (strict separation). Если $A$ компактно, $B$ замкнуто, и оба выпуклые непересекающиеся, то можно разделить строго: существуют $f \in X^*$ и $c_1 < c_2$ такие, что

$$f(a) \leq c_1 < c_2 \leq f(b) \quad \text{для всех } a \in A,\ b \in B.$$

Геометрическая форма выводится из аналитической: берём $C = A - B$ (выпукло, $0 \notin C$ из непересечения, $C$ открыто в первой версии), строим опорную функцию $p_C$ - функционал Минковского - и применяем аналитическую теорему к одномерному подпространству, проходящему через выбранную точку. Строгая отделимость требует компактности именно потому, что нужно отделить $0$ от замкнутого множества с положительным расстоянием.

Следствие: нормирующий функционал

Это самое частое прикладное следствие. Если $X$ - нормированное пространство и $x_0 \in X$, $x_0 \neq 0$, то существует функционал $f \in X^*$ с $\|f\| = 1$ и $f(x_0) = \|x_0\|$.

Доказательство. На одномерном подпространстве $M = \mathbb{R} x_0$ определим $f_0(\alpha x_0) = \alpha \|x_0\|$. Тогда $|f_0(\alpha x_0)| = |\alpha| \|x_0\| = \|\alpha x_0\|$, значит $\|f_0\|_M = 1$. По теореме Хана-Банаха (с $p(x) = \|x\|$) продолжаем $f_0$ до $f \in X^*$ с $|f(x)| \leq \|x\|$, то есть $\|f\| \leq 1$. С другой стороны, $f(x_0) = \|x_0\|$, значит $\|f\| \geq 1$. Итого $\|f\| = 1$.

Это следствие гарантирует, что сопряжённое пространство $X^*$ «различает точки»: для разных $x \neq y$ всегда найдётся $f$ с $f(x) \neq f(y)$ (применить к $x_0 = x - y$). Без теоремы Хана-Банаха неочевидно даже, что $X^* \neq \{0\}$ для произвольного нормированного пространства.

Вложение $X \hookrightarrow X^{**}$ и рефлексивность

Каноническое вложение $J \colon X \to X^{**}$ задаётся формулой $J(x)(f) = f(x)$, то есть $x$ интерпретируется как «функционал на функционалах». Это вложение всегда изометрично:

$$\|J(x)\|_{X^{**}} = \sup_{\|f\| \leq 1} |f(x)| = \|x\|.$$

Верхняя грань достигается на нормирующем функционале - а его существование как раз гарантирует Хан-Банах. Без теоремы можно было бы только утверждать $\|J(x)\| \leq \|x\|$, без обратного неравенства.

Пространство $X$ называется рефлексивным, если вложение $J$ ещё и сюръективно, то есть $J(X) = X^{**}$. Гильбертовы пространства, $L^p$ при $1 < p < \infty$, $\ell^p$ при $1 < p < \infty$ - рефлексивны. Пространства $L^1$, $L^\infty$, $C[0,1]$, $\ell^1$, $\ell^\infty$ - нет. Изометричность $J$ - нижняя планка, без неё разговор о рефлексивности был бы бессмысленным.

Двойственность в линейном программировании

Классическая LP-задача:

$$\text{(P)} \quad \min c^T x \quad \text{при } A x \geq b,\ x \geq 0.$$

Двойственная задача:

$$\text{(D)} \quad \max b^T y \quad \text{при } A^T y \leq c,\ y \geq 0.$$

Теорема о сильной двойственности. Если (P) имеет конечный оптимум, то (D) имеет тот же оптимум: $\min (\text{P}) = \max (\text{D})$.

Доказательство - через геометрическую теорему Хана-Банаха. Множество достижимых пар $(z, A x - b)$ при $x \geq 0$ и $c^T x = z$ - выпуклый конус в $\mathbb{R}^{1 + m}$. Если оптимум (P) равен $v$, то точка $(v - \varepsilon, 0)$ при $\varepsilon > 0$ не лежит в этом конусе - её можно отделить гиперплоскостью. Коэффициенты этой гиперплоскости - двойственные множители $y$, удовлетворяющие условиям (D). Эта же конструкция в чуть более общем виде даёт теорему Каруша-Куна-Таккера для нелинейного программирования.

В теории меры аналогичную роль играет теорема Рисса о представлении функционалов на $C(K)$ - каждый положительный линейный функционал представляется интегралом по борелевской мере, и существование этой меры в общем виде опирается на Хана-Банаха через построение разделяющих функционалов.

В математической экономике вторая теорема благосостояния (об эффективности по Парето равновесных распределений) - это прямое применение теоремы об отделимости выпуклых множеств в пространстве распределений.

Частые ошибки

• Считают продолжение единственным. Оно почти никогда не единственно. Единственность есть только в гладких пространствах (например, $L^p$ при $1 < p < \infty$) и только для нормирующего функционала. В $C[0,1]$, $\ell^1$, $L^1$ продолжений нормирующего функционала бесконечно много.
• Применяют без сублинейности $p$. Если $p$ только субаддитивна, но не положительно однородна (или однородна, но не субаддитивна), теорема не работает. Норма и опорная функция выпуклого множества - сублинейны; модуль линейного отображения - нет (он удовлетворяет $|f(\alpha x)| = |\alpha| |f(x)|$, а не $\alpha |f(x)|$). В комплексном случае нужна полунорма, а не сублинейная функция.
• Путают открытую и строгую отделимость. Открытое непустое выпуклое и непересекающееся с ним выпуклое - отделимы (нестрого, с $\leq$). Строгая отделимость ($<$) требует компактности одного множества и замкнутости другого. Без этой пары условий получить $c_1 < c_2$ нельзя - пример с экспонентой выше показывает почему.
• Забывают про комплексную версию. Прямое применение вещественной теоремы к комплексному пространству (через рассмотрение его как $\mathbb{R}$-пространства двойной размерности) даёт только $\mathbb{R}$-линейное продолжение. Чтобы получить $\mathbb{C}$-линейное продолжение с сохранением $|f| \leq p$, нужна именно версия Боненблуста-Собчика и условие, что $p$ - полунорма.
• Считают, что теорема даёт явную формулу. Нет - она утверждает только существование. Конкретное продолжение строится либо явно для конкретной задачи (например, через интегральное представление), либо опирается на аксиому выбора и неконструктивно.

FAQ

Зачем нужна аксиома выбора в доказательстве? Лемма Цорна (эквивалент аксиомы выбора) гарантирует, что цепь вложенных подпространств с согласованными продолжениями имеет максимальный элемент. Без неё нельзя гарантировать, что счётное расширение «доходит» до всего $X$, если $X$ не сепарабельно. В моделях ZF без AC теорема Хана-Банаха, как было показано Дж. Пинкусом, доказуема в более слабых формах (с использованием теоремы об ультрафильтрах), но эти формы дают меньше - например, не позволяют построить разрывный функционал на нормированном пространстве, а его существование для бесконечномерных пространств - следствие именно полной версии теоремы.

Чем теорема Хана-Банаха отличается от теоремы Рисса о представлении? Хан-Банах - это теорема о существовании функционала с нужными свойствами; она не описывает его явный вид. Теорема Рисса - конкретный явный вид для функционалов на пространствах функций: на $L^p$ ($1 \leq p < \infty$) функционалы представляются интегралом с ядром из $L^q$; на $C(K)$ - интегралом по борелевской мере. Доказательство Рисса для $C(K)$ опирается на Хана-Банаха (через построение положительной меры по разделяющему функционалу), а для $L^p$ - на гильбертову технику и теорему Радона-Никодима. Это разные уровни абстракции: Хан-Банах - про существование, Рисс - про конкретное представление.

Что такое «нормирующий функционал» и зачем он нужен? Нормирующий функционал для $x_0 \in X$ - это $f \in X^*$ с $\|f\| = 1$ и $f(x_0) = \|x_0\|$. Он нужен везде, где требуется явное «свидетельство» нормы: в доказательстве изометричности вложения $X \hookrightarrow X^{**}$, в построении геодезических в банаховых пространствах, в субдифференциальном анализе (нормирующий функционал - это субградиент нормы в точке). Существование гарантируется именно теоремой Хана-Банаха - иначе $X^*$ могло бы быть «слишком бедным», чтобы такие функционалы найти.

Коротко

Теорема Хана-Банаха в аналитической форме: линейный функционал $f$, заданный на подпространстве $M \subset X$ и мажорируемый сублинейной $p$, продолжается до линейного $F$ на всём $X$ с той же мажорацией $F \leq p$. Доказательство - через лемму Цорна (один новый вектор за шаг + цепная индукция). В геометрической форме теорема разделяет непересекающиеся выпуклые множества гиперплоскостью: открыто (open separation) или строго (strict separation, требует компактности одного множества). Главные следствия - существование нормирующего функционала $f(x) = \|x\|$ при $\|f\| = 1$, изометричность вложения $X \hookrightarrow X^{**}$, базис теории рефлексивных пространств. Прикладные ветви - двойственность в линейном программировании, теорема Рисса о представлении функционалов, теоремы об отделимости в математической экономике.