Как найти норму матрицы: три нормы и пример расчёта

Дано: матрица $A$ со строками $2\ {-}1\ 0$; $-3\ 4\ 1$; $1\ 2\ {-}4$ и вектор $x = (1, -2, 3)$. Найти: три нормы матрицы и проверить согласованность с нормой вектора.

Норма матрицы - это одно число, которым измеряют «величину» всей таблицы сразу, и считается оно тремя стандартными способами: максимум суммы модулей по строкам, максимум суммы модулей по столбцам и корень из суммы квадратов всех элементов. Ответ: $\lVert A \rVert_{\infty} = 8$, $\lVert A \rVert_{1} = 7$, $\lVert A \rVert_{E} = \sqrt{52} \approx 7{,}21$; неравенство согласованности выполнено во всех трёх нормах. Калькулятор сверху пересчитает все три нормы, если подвигать элемент $a_{33}$, и покажет, что происходит с числом обусловленности у вырожденной матрицы.

Решение по шагам

Дано.

Найти: $\lVert A \rVert_{\infty}$, $\lVert A \rVert_{1}$, $\lVert A \rVert_{E}$ и проверить $\lVert Ax \rVert \le \lVert A \rVert \cdot \lVert x \rVert$.

Шаг 1. Максимум суммы модулей по строкам. Складываем модули элементов каждой строки и берём наибольшую из трёх сумм:

$$\begin{aligned} S_1 &= |2| + |-1| + |0| = 3, \\ S_2 &= |-3| + |4| + |1| = 8, \\ S_3 &= |1| + |2| + |-4| = 7. \end{aligned}$$

Наибольшую сумму даёт вторая строка, поэтому $\lVert A \rVert_{\infty} = \max(3, 8, 7) = \mathbf{8}$. Модули здесь принципиальны: без них вторая строка дала бы $-3 + 4 + 1 = 2$, и норма вышла бы вчетверо меньше настоящей.

Шаг 2. Максимум суммы модулей по столбцам. Та же процедура, но суммируем вниз по столбцам:

$$\begin{aligned} C_1 &= |2| + |-3| + |1| = 6, \\ C_2 &= |-1| + |4| + |2| = 7, \\ C_3 &= |0| + |1| + |-4| = 5. \end{aligned}$$

Максимум даёт второй столбец: $\lVert A \rVert_{1} = \max(6, 7, 5) = \mathbf{7}$. Обрати внимание, что «рекордсмены» у двух норм разные, и сами значения не совпали. Это нормально: разные нормы - разные числа для одной и той же матрицы.

Шаг 3. Евклидова норма. Возводим в квадрат все девять элементов и складываем, не разбивая на строки и столбцы:

$$\lVert A \rVert_{E} = \sqrt{\sum_{i=1}^{3}\sum_{j=1}^{3} a_{ij}^{2}} = \sqrt{4 + 1 + 0 + 9 + 16 + 1 + 1 + 4 + 16} = \sqrt{52} \approx 7{,}2111.$$

Здесь модули не нужны - квадрат сам убирает знак. Значение $\approx 7{,}21$ оказалось между двумя предыдущими, но это случайность конкретной матрицы, а не правило.

Шаг 4. Проверка согласованности. Сначала считаем образ вектора:

$$Ax = \begin{pmatrix} 2\cdot 1 + (-1)\cdot(-2) + 0\cdot 3 \\ -3\cdot 1 + 4\cdot(-2) + 1\cdot 3 \\ 1\cdot 1 + 2\cdot(-2) + (-4)\cdot 3 \end{pmatrix} = \begin{pmatrix} 4 \\ -8 \\ -15 \end{pmatrix}.$$

Теперь каждую матричную норму сверяем с одноимённой нормой вектора. Правило простое: норма-максимум по строкам работает в паре с $\lVert x \rVert_{\infty} = \max|x_i|$, норма-максимум по столбцам - с $\lVert x \rVert_{1} = \sum |x_i|$, евклидова - с обычной длиной вектора.

Ответ. $\lVert A \rVert_{\infty} = 8$, $\lVert A \rVert_{1} = 7$, $\lVert A \rVert_{E} = \sqrt{52} \approx 7{,}21$. Неравенство $\lVert Ax \rVert \le \lVert A \rVert \cdot \lVert x \rVert$ выполняется во всех трёх парах норм, то есть все три нормы согласованы с соответствующими нормами вектора.

Формула и откуда она берётся

Норма - это функция, которая каждой матрице сопоставляет неотрицательное число и ведёт себя как «длина». От неё требуют четыре свойства: положительность ($\lVert A \rVert > 0$ при $A \ne 0$ и ноль только у нулевой матрицы), однородность ($\lVert \lambda A \rVert = |\lambda| \cdot \lVert A \rVert$), неравенство треугольника ($\lVert A + B \rVert \le \lVert A \rVert + \lVert B \rVert$) и мультипликативность ($\lVert AB \rVert \le \lVert A \rVert \cdot \lVert B \rVert$). Последнее свойство и отличает матричную норму от «просто нормы» на пространстве таблиц: без него оценки в численных методах разваливаются, потому что там всё время перемножают матрицы.

Три рабочие формулы выглядят так.

Первые две формулы не придуманы из удобства, а выведены. Матрица действует на векторы, и естественная мера её «силы» - во сколько раз она способна растянуть вектор в худшем случае:

$$\lVert A \rVert = \max_{x \ne 0} \frac{\lVert Ax \rVert}{\lVert x \rVert}.$$

Такую норму называют подчинённой, или операторной. Если в правой части взять $\lVert x \rVert_{\infty}$, максимум окажется ровно наибольшей суммой модулей по строке, а если взять $\lVert x \rVert_{1}$ - наибольшей суммой по столбцу. Отсюда и два рецепта: они не аппроксимации, а точные значения максимального коэффициента растяжения.

Евклидова норма устроена иначе. Она согласована с длиной вектора, то есть неравенство $\lVert Ax \rVert_{2} \le \lVert A \rVert_{E} \cdot \lVert x \rVert_{2}$ верно всегда, но подчинённой не является: точный максимум растяжения в евклидовой метрике даёт спектральная норма, равная наибольшему сингулярному числу. Проще всего это видно на единичной матрице: она не меняет ни один вектор, поэтому подчинённая норма обязана равняться единице, а $\lVert E \rVert_{E} = \sqrt{3}$ для порядка 3. Зато евклидова норма считается без единого перебора и потому остаётся самой дешёвой оценкой сверху.

Когда неравенство превращается в равенство

Согласованность даёт оценку сверху, но насколько она груба? Для подчинённых норм ответ приятный: найдётся вектор, на котором достигается точное равенство. Построить его легко - надо взять строку-рекордсмена и подобрать знаки координат так, чтобы все слагаемые сложились без взаимного погашения.

У нашей матрицы максимум держит вторая строка $(-3,\ 4,\ 1)$. Берём $x = (-1,\ 1,\ 1)$: знаки координат совпадают со знаками элементов строки, а $\lVert x \rVert_{\infty} = 1$. Тогда

$$Ax = \begin{pmatrix} -3 \\ 8 \\ -3 \end{pmatrix}, \qquad \lVert Ax \rVert_{\infty} = 8 = \lVert A \rVert_{\infty} \cdot \lVert x \rVert_{\infty}.$$

Равенство достигнуто, и это доказывает, что число 8 уменьшить нельзя: восьмёрка и есть точный максимум растяжения. В калькуляторе сверху переключи вектор на $(-1;\ 1;\ 1)$ и посмотри на плитку «Проверка согласованности» - оба числа станут одинаковыми. На векторе $(1, -2, 3)$ из условия запас был почти двукратным именно потому, что знаки координат не подошли под вторую строку и часть слагаемых погасила друг друга.

Для евклидовой нормы такого вектора может не существовать вовсе - она переоценивает растяжение почти всегда. Это плата за простоту вычисления.

Число обусловленности и зачем всё это нужно

Главный потребитель матричных норм - оценка устойчивости систем уравнений. Величина

$$\operatorname{cond}(A) = \lVert A \rVert \cdot \lVert A^{-1} \rVert$$

показывает, во сколько раз относительная ошибка решения может превысить относительную ошибку исходных данных. Для нашей матрицы определитель равен $-25$, обратная существует, и её элементы после деления присоединённой матрицы на определитель получаются такими: строки $0{,}72\ \ 0{,}16\ \ 0{,}04$; $0{,}44\ \ 0{,}32\ \ 0{,}08$; $0{,}40\ \ 0{,}20\ \ {-}0{,}20$. Как получить обратную через алгебраические дополнения, разобрано в задаче про присоединённую матрицу.

Максимальная сумма модулей по строкам у обратной матрицы равна $0{,}92$, значит

$$\operatorname{cond}_{\infty}(A) = 8 \cdot 0{,}92 = 7{,}36,$$

а в норме по столбцам получится $7 \cdot 1{,}56 = 10{,}92$. Числа порядка десятки означают хорошо обусловленную систему: погрешность входных данных вырастет примерно на порядок, не больше. Что делать, когда это число оказывается огромным, разобрано в статье про число обусловленности матрицы.

Второе применение - критерий сходимости итерационных методов. Если систему привели к виду $x = Bx + c$, то любой из методов простой итерации сходится при $\lVert B \rVert < 1$ хотя бы в одной норме, и именно поэтому нормы считают перед запуском метода Гаусса-Зейделя. Проверять удобно норму-максимум по строкам: она вычисляется быстрее всех и сразу показывает диагональное преобладание.

Полезно поиграть со слайдером в калькуляторе. Пока $a_{33}$ лежит между $-5$ и $4$, обе подчинённые нормы вообще не меняются: максимум держат вторая строка и второй столбец, а третья строка до них не дотягивается. Евклидова норма при этом меняется непрерывно, потому что учитывает каждый элемент. Зато при $a_{33} \to 1$ определитель обращается в ноль, и число обусловленности взлетает в бесконечность - на логарифмической шкале виден характерный разрыв. Это и есть картина вырождения: сама матрица выглядит совершенно обычной, её нормы остаются небольшими, а система становится нерешаемой. Похожую проверку устойчивости делают и при оценке абсолютной погрешности вычислений.

Частые ошибки

• Складывают элементы со знаком. В обеих суммах стоят модули. Строка $(-3,\ 4,\ 1)$ даёт 8, а не 2; без модуля норма перестаёт быть нормой уже потому, что может обнулиться на ненулевой матрице.
• Путают нумерацию норм в учебниках. В одних пособиях $\lVert A \rVert_{1}$ - это максимум по строкам, в других по столбцам, а евклидову обозначают то $\lVert A \rVert_{E}$, то $\lVert A \rVert_{F}$, то $\lVert A \rVert_{3}$. Перед сдачей сверься с обозначениями своего курса, а в ответе пиши формулу словами.
• Берут сумму всех строчных сумм вместо максимума. У подчинённой нормы стоит максимум: одно наибольшее число, а не итог по всей матрице.
• Проверяют согласованность в разных нормах. Норму-максимум по строкам сверяют с $\lVert x \rVert_{\infty}$, а не с суммой модулей координат. Смешанная пара неравенство не гарантирует.
• Считают евклидову норму подчинённой. Она согласована, но максимум растяжения даёт спектральная норма. Контрольный пример - единичная матрица, у которой евклидова норма равна $\sqrt{n}$, а не единице.
• Ждут, что $\operatorname{cond}(A)$ может быть меньше единицы. Из мультипликативности $1 = \lVert E \rVert \le \lVert A \rVert \cdot \lVert A^{-1} \rVert$, поэтому число обусловленности всегда не меньше единицы; результат вроде 0,4 означает арифметическую ошибку.

FAQ

Чем норма матрицы отличается от определителя? Определитель измеряет изменение объёма и обращается в ноль у вырожденной матрицы, а норма измеряет максимальное растяжение вектора и у ненулевой матрицы всегда положительна. Матрица может иметь крошечный определитель и при этом большую норму - именно такое сочетание и даёт плохую обусловленность.

Какую из трёх норм выбирать в задаче? Любую, если в условии не сказано иначе: все нормы на конечномерном пространстве эквивалентны, и выводы о сходимости от выбора не зависят. На практике берут ту, что считается быстрее: норму-максимум по строкам для проверки диагонального преобладания и евклидову для грубой оценки сверху.

Почему евклидова норма единичной матрицы не равна единице? Потому что она суммирует квадраты всех элементов, а у единичной матрицы порядка $n$ на диагонали стоят $n$ единиц, и корень из суммы даёт $\sqrt{n}$. Подчинённые нормы дают ровно 1, так как единичная матрица ни один вектор не растягивает. Это и доказывает, что евклидова норма не подчинена длине вектора.

Как быстро оценить норму большой матрицы? Сумму модулей по строкам и по столбцам считают за один проход по всем элементам, и для матрицы любого размера это самая дешёвая оценка. Спектральную норму так дёшево не получить: нужны сингулярные числа, то есть фактически собственные значения матрицы $A^{T}A$.

Коротко

1. Норма-максимум по строкам: сложить модули элементов в каждой строке и взять наибольшую сумму. Для матрицы примера это $\max(3, 8, 7) = 8$.
2. Норма-максимум по столбцам: то же самое по столбцам, $\max(6, 7, 5) = 7$.
3. Евклидова норма: корень из суммы квадратов всех элементов, $\sqrt{52} \approx 7{,}21$. Она согласована с длиной вектора, но не является подчинённой.
4. Согласованность проверяется неравенством $\lVert Ax \rVert \le \lVert A \rVert \cdot \lVert x \rVert$ в одноимённых нормах; для $x = (1, -2, 3)$ получается $15 \le 24$, $27 \le 42$ и $17{,}46 \le 26{,}98$.
5. Число обусловленности $\operatorname{cond}(A) = \lVert A \rVert \cdot \lVert A^{-1} \rVert$ для этой матрицы равно $7{,}36$ по строкам и $10{,}92$ по столбцам: система хорошо обусловлена.