Система линейных алгебраических уравнений

Система линейных уравнений от трёх переменных определяет набор плоскостей. Каждая плоскость - множество решений одного из системы линейных уравнений. Точка пересечения является решением системы линейных уравнений (См. Способы представления системы линейных алгебраических уравнений. Строчное и столбцовое представление.)

Система линейных алгебраических уравнений (линейная система, также употребляются аббревиатуры СЛАУ, СЛУ) — система уравнений, каждое уравнение в которой является линейным — алгебраическим уравнением первой степени.

В классическом варианте коэффициенты при переменных, свободные члены и неизвестные считаются вещественными числами, но все методы и результаты сохраняются (либо естественным образом обобщаются) на случай любых полей, например, комплексных чисел.

Решение систем линейных алгебраических уравнений — одна из классических задач линейной алгебры, во многом определившая её объекты и методы. Кроме того, линейные алгебраические уравнения и методы их решения играют важную роль во многих прикладных направлениях, в том числе в линейном программировании, эконометрике.

Могут обобщаться на случай бесконечного множества неизвестных.

Соглашения и определения

Общий вид системы линейных алгебраических уравнений:

[math]\displaystyle{ \begin{cases} a_{11}x_1 + a_{12}x_2 + \dots + a_{1n}x_n = b_1 \\ a_{21}x_1 + a_{22}x_2 + \dots + a_{2n}x_n = b_2 \\ \dots\\ a_{m1}x_1 + a_{m2}x_2 + \dots + a_{mn}x_n = b_m \\ \end{cases} }[/math]

Здесь [math]\displaystyle{ m }[/math] — количество уравнений, а [math]\displaystyle{ n }[/math] — количество переменных, [math]\displaystyle{ x_1, x_2, \dots, x_n }[/math] — неизвестные, которые надо определить, коэффициенты [math]\displaystyle{ a_{11}, a_{12}, \dots, a_{mn} }[/math] и свободные члены [math]\displaystyle{ b_1, b_2, \dots, b_m }[/math] предполагаются известными. Индексы коэффициентов в системах линейных уравнений ([math]\displaystyle{ a_{ij} }[/math]) формируются по следующему соглашению: первый индекс ([math]\displaystyle{ i }[/math]) обозначает номер уравнения, второй ([math]\displaystyle{ j }[/math]) — номер переменной, при которой стоит этот коэффициент^[1].

Система называется однородной (англ. homogeneous), если все её свободные члены равны нулю ([math]\displaystyle{ b_1 = b_2 = \dots = b_m = 0 }[/math] или, в общем, [math]\displaystyle{ Ax = 0 }[/math]), иначе — неоднородной (англ. inhomogeneous) ([math]\displaystyle{ Ax = b }[/math], где [math]\displaystyle{ b\ne0 }[/math]). Однородная система по крайней мере всегда имеет решение [math]\displaystyle{ x=0 }[/math]. Это решение называется тривиальным решением. Любое решение [math]\displaystyle{ x\ne0 }[/math] называется нетривиальным решением. Если однородная система имеет нетривиальное решение, то системой ее решений будет линейная оболочка.

Квадратная система линейных уравнений: — система, у которой количество уравнений совпадает с числом неизвестных ([math]\displaystyle{ m=n }[/math]). Система, у которой число неизвестных больше числа уравнений, является недоопределённой, такие системы линейных алгебраических уравнений также называются прямоугольными. Если уравнений больше, чем неизвестных, то система является переопределённой.

Решение системы линейных алгебраических уравнений — совокупность [math]\displaystyle{ n }[/math] чисел [math]\displaystyle{ c_1, c_2, \dots, c_n }[/math], таких что их соответствующая подстановка вместо [math]\displaystyle{ x_1, x_2, \dots, x_n }[/math] в систему обращает все её уравнения в тождества.

Система называется совместной, если она имеет хотя бы одно решение, и несовместной, если у неё нет ни одного решения. Строчное представление матрицы системы линейных уравнений в случае несовместности покажет параллельные прямые графиков каждого уравнения.

Столбцовое представление несовместной системы уравнений покажет, что никакая комбинация векторов столбцов левой части уравнений не может дать вектор столбца правой части уравнений.

Решения считаются различными, если хотя бы одно из значений переменных не совпадает. Совместная система с единственным решением называется определённой, при наличии более одного решения — недоопределённой.

Способы представления системы линейных алгебраических уравнений. Строчное и столбцовое представление.

Существует четыре эквивалентных способа представления линейной системы:

1. Система уравнений.

[math]\displaystyle{ \begin{cases}\begin{align}2x_1 + 3x_2 -2x_3 &= 7\\ x_1 - x_2 -3x_3 &= 5 \end{align} \end{cases} }[/math]

2. Расширенная матрица.

[math]\displaystyle{ \left[\begin{array}{ccc|c} 2& 3& -2& 7\\ 1& -1& -3& 5 \end{array}\right] }[/math]

3. Векторное уравнение [math]\displaystyle{ x_1v_1 + x_2v_2 + \cdots + x_nv_n = b }[/math].

[math]\displaystyle{ x_1\begin{pmatrix}2\\ 1\end{pmatrix} + x_2\begin{pmatrix}3\\ -1\end{pmatrix} + x_3\begin{pmatrix}-2 \\-3\end{pmatrix} = \begin{pmatrix}7\\ 5\end{pmatrix} }[/math]

4. Матричное уравнение [math]\displaystyle{ Ax=b }[/math].

[math]\displaystyle{ \begin{pmatrix}2& 3& -2\\ 1& -1& -3\end{pmatrix}\begin{pmatrix}x_1\\ x_2\\ x_3\end{pmatrix} = \begin{pmatrix}7\\ 5\end{pmatrix} }[/math]

Представление системы линейных алгебраических уравнений как расширенной матрицы (левая сторона системы линейных уравнений отображается в виде матрицы коэффициентов), и как векторного уравнения американский математик Гилберт Стрэнг называл двумя разными представлениями, соответственно: "представлением в строках" (строчное представление) и "представлением в столбцах" (столбцовое представление). Он призывал отдавать предпочтение представлению в столбцах, поскольку оно дает более простую трактовку в случаях, когда векторное пространство имеет больше трех измерений.^[2]

Если рассматривать представление в строках (строчное представление; соответствует нуль-пространству), то [math]\displaystyle{ x_1, x_2, x_3, ..., x_n }[/math] будут координатами, а уравнение в каждой строке соответствует множеству точек, являющихся решением уравнения данной строки. Например, для [math]\displaystyle{ x_1, x_2, x_3 }[/math] (три переменных) таким множеством точек будет плоскость в пространстве ([math]\displaystyle{ \R^3 }[/math]). Точки, координаты которых удовлетворяют всем уравнениям системы линейных уравнений, будут находится в пересечениях, в данном примере - плоскостей каждого уравнения. (См. рисунок выше) Это будет множеством решений системы линейных алгебраических уравнений. В строчном представлении каждая точка пространства - это возможное решение системы линейных уравнений. Если у системы линейных уравнений изменяется правая часть, то соответствующие строкам плоскости смещаются и, соответственно, их пересечение также изменяется.

Если рассматривать представление в столбцах (столбцовое представление; соответствует пространству столбцов), то [math]\displaystyle{ x_1, x_2, x_3 }[/math] будут коэффициентами масштабирования которые применяются к конкретным векторам (соответствующим столбцам системы линейных уравнений), таким образом, чтобы сумма этих масштабированных векторов достигала определенной заданной точки в 3-х мерном пространстве с координатами в правой части системы линейных уравнений. В столбцовом представлении каждая точка пространства это множество точек, с координатами, всевозможные значения которых записываются в правой части системы линейных уравнений. Если у системы линейных уравнений изменяется правая часть, то заданная точка, которую должна достигнуть сумма векторов, меняет свое положение в пространстве, соответственно, необходимо изменить коэффициенты масштабирования векторов.

Таким образом, используя матрицу [math]\displaystyle{ m\times n }[/math] для разного представления системы линейных уравнений, мы получаем два разных геометрических объекта, которые могут быть описаны как линейные оболочки:

Множество решений (См. Параметрическая векторная форма). Для данного [math]\displaystyle{ b }[/math] это множество всех [math]\displaystyle{ x }[/math] таких, что верно [math]\displaystyle{ Ax=b }[/math]. Это линейная оболочка для [math]\displaystyle{ b=0 }[/math] и она параллельно перемещается если [math]\displaystyle{ b\ne0 }[/math] (при условии что [math]\displaystyle{ Ax=b }[/math] является совместной). Это множество является подмножеством [math]\displaystyle{ R^n }[/math]. Оно получается при решении уравнений, обычно с применением метода Гаусса и параметрической векторной формы. Полученный геометрический объект отвечает на вопрос о значениях при которых уравнение верно при заданном [math]\displaystyle{ b }[/math].
Линейная оболочка столбцов матрицы [math]\displaystyle{ A }[/math]. Множество всех [math]\displaystyle{ b }[/math] таких, что [math]\displaystyle{ Ax=b }[/math] является совместной. Это множество является подмножеством [math]\displaystyle{ R^m }[/math]. Метод Гаусса не применяется. Полученный геометрический объект отвечает на вопрос о том, какие возможны [math]\displaystyle{ b }[/math], с определенными значениям [math]\displaystyle{ x }[/math], при условии если [math]\displaystyle{ Ax=b }[/math] будет оставаться совместной.

Корелляция множества решений, соответствующих нуль-пространству, и линейной оболочки столбцов, соответствующей пространству столбцов, устанавливается теоремой о ранге матрицы.

Векторное уравнение

Система линейных алгебраических уравнений, состоящая из m уравнений может быть представлена как уравнение с векторами, образованными упорядоченной совокупностью m чисел (компонентами вектора). Векторное уравнение это уравнение состоящее из линейной комбинации векторов с коэффициентами - неизвестными.

Например система линейных алгебраических уравнений

[math]\displaystyle{ \left\{\begin{array}{lcc} x - y = 8\\ 2x - 2y = 16\\ 6x - y = 3\end{array}\right. }[/math]

может быть представлено как векторное уравнение:

[math]\displaystyle{ x\begin{pmatrix}1\\ 2\\ 6\end{pmatrix} + y \begin{pmatrix}-1\\ -2\\ -1\end{pmatrix} = \begin{pmatrix}8\\ 16\\ 3\end{pmatrix} }[/math]

Решение системы линейных уравнений и линейная комбинация векторов

Вопрос о том имеет ли векторное уравнение решение тождественен вопросу о том является ли данный вектор (в примере - [math]\displaystyle{ \begin{pmatrix}8\\ 16\\ 3\end{pmatrix} }[/math] ) линейной комбинацией других данных векторов ([math]\displaystyle{ \begin{pmatrix}1\\ 2\\ 6\end{pmatrix} }[/math] и [math]\displaystyle{ \begin{pmatrix}-1\\ -2\\ -1\end{pmatrix} }[/math]). Все линейные комбинации векторов правой части системы линейных уравнений образуют линейную оболочку. То есть для системы линейных уравнений представленной как векторное уравнение [math]\displaystyle{ x_1v_1 + x_2v_2 + \cdots + x_kv_k = b }[/math] верно равенство

[math]\displaystyle{ \text{Span}\{v_1,v_2,\ldots,v_k\} = \bigl\{x_1v_1 + x_2v_2 + \cdots + x_kv_k \mid x_1,x_2,\ldots,x_k \text{ in }\R\bigr\} }[/math],

где [math]\displaystyle{ \text{Span}\{v_1,v_2,\ldots,v_k\} }[/math] - обозначение линейной оболочки векторов [math]\displaystyle{ v_1,v_2,\ldots,v_k }[/math].

Эквивалентные утверждения:

вектор [math]\displaystyle{ b }[/math] в линейной оболочке [math]\displaystyle{ v_1,v_2,\ldots,v_k }[/math],
векторное уравнение [math]\displaystyle{ x_1v_1 + x_2v_2 + \cdots + x_kv_k = b }[/math] имеет решение.

Параметрическая векторная форма

Векторная форма применяется и при параметрическом представлении множества решений системы линейных уравнений.

Однородная система линейных уравнений

Например, возьмем однородную систему линейных уравнений:

[math]\displaystyle{ \begin{cases}x_1 - x_2 + 2x_3 = 0\\ -2x_1 + 2x_2 + 4x_3 = 0\end{cases} }[/math].

Матричное представление этой системы уравнений: [math]\displaystyle{ Ax=0 }[/math], где [math]\displaystyle{ A = \begin{pmatrix}1&-1&2\\-2&2&4\end{pmatrix} }[/math].

После применения метода Гаусса получаем: [math]\displaystyle{ A = \begin{pmatrix}1&-1&2\\0&0&0\end{pmatrix} }[/math],

что соответствует уравнению [math]\displaystyle{ x_1 - x_2 + 2x_3 = 0 }[/math]. Это уравнение можно представить в параметрической форме, включающей равенства [math]\displaystyle{ x_2=x_2 }[/math] и [math]\displaystyle{ x_3=x_3 }[/math]:

[math]\displaystyle{ \begin{cases}x_1 = x_2 - 2x_3\\ x_2=x_2\\x_3=\qquad x_3\end{cases} }[/math], которую, в свою очередь, можно представить в форме векторного уравнения:

[math]\displaystyle{ x = \begin{pmatrix}x_1\\ x_2\\ x_3\end{pmatrix} = x_2\begin{pmatrix}1\\ 1\\ 0\end{pmatrix} + x_3\begin{pmatrix}-2\\ 0\\ 1\end{pmatrix} }[/math]

Это параметрическая векторная форма множества решений системы линейных уравнений. Поскольку [math]\displaystyle{ x_2 }[/math] и [math]\displaystyle{ x_3 }[/math] могут принимать любые значения (что следует из равенств [math]\displaystyle{ x_2=x_2 }[/math] и [math]\displaystyle{ x_3=x_3 }[/math]), множеством решений системы линейных уравнений будет множество всех линейных комбинаций векторов [math]\displaystyle{ \begin{pmatrix}1\\ 1\\ 0\end{pmatrix} }[/math] и [math]\displaystyle{ \begin{pmatrix}-2\\ 0\\ 1\end{pmatrix} }[/math]. Другим словами, множеством решений системы линейных уравнений будет:

[math]\displaystyle{ \text{Span}\left\{\begin{pmatrix}1\\ 1\\ 0\end{pmatrix},\begin{pmatrix}-2\\ 0\\ 1\end{pmatrix}\right\} }[/math].

В приведенном примере в системе линейных уравнений три переменных, поэтому множество решений является подмножеством [math]\displaystyle{ R^3 }[/math], а поскольку свободными являются две переменных (выступающие коэффициентами двух векторов), множество решений представляет собой плоскость в [math]\displaystyle{ R^3 }[/math].

Размерность множества решений системы линенйных уравнений зависит от количества свободных переменных в совместном матричном уравнении. Одной такой сободной переменной соответствует прямая, двум свободным переменным соответствует плоскость. Таким образом, количество свободных переменных это размерность множества решений системы линейных уравнений.

Размерность множества решений системы линейных уравнений можно трактовать как количество параметров, необходимых для того чтобы описать положение точки множества решений системы линейных уравнений в самом этом множестве решений.

Неоднородная система линейных уравнений

Например, возьмем однородную систему линейных уравнений:

[math]\displaystyle{ \begin{cases}x_1 - 3x_2 = -3\\ 2x_1 - 6x_2 = -6\end{cases} }[/math].

Матричное представление этой системы уравнений: [math]\displaystyle{ Ax=b }[/math], где [math]\displaystyle{ A = \begin{pmatrix}1&-3\\2&-6\end{pmatrix} }[/math], [math]\displaystyle{ b = \begin{pmatrix}-3\\-6&\end{pmatrix} }[/math].

После применения метода Гаусса получаем: [math]\displaystyle{ A = \left(\begin{array}{cc|c}1&-3&-3\\0&0&0\end{array}\right) }[/math],

что соответствует уравнению [math]\displaystyle{ x_1 - 3x_2 = -3 }[/math]. Это уравнение можно представить в параметрической форме:

[math]\displaystyle{ \begin{cases}x_1 = 3x_2 - 3\\ x_2=x_2 + 0\end{cases} }[/math],

которую, в свою очередь, можно представить в форме векторного уравнения: [math]\displaystyle{ x = \begin{pmatrix}x_1\\ x_2\end{pmatrix} = x_2\begin{pmatrix}3\\ 1\end{pmatrix} + \begin{pmatrix}-3\\ 0\end{pmatrix} }[/math]

Это параметрическая векторная форма множества решений системы линейных уравнений. Поскольку [math]\displaystyle{ x_2 }[/math] может принимать любые значения, множеством решений системы линейных уравнений будет множество всех векторов вида: [math]\displaystyle{ x = \begin{pmatrix}x_1\\ x_2\end{pmatrix} = x_2\begin{pmatrix}3\\ 1\end{pmatrix} + \begin{pmatrix}-3\\ 0\end{pmatrix} }[/math].

Другим словами, множеством решений системы линейных уравнений будет:

[math]\displaystyle{ \text{Span}\left\{\begin{pmatrix}3\\ 1\end{pmatrix}\right\}+\begin{pmatrix}-3\\ 0\end{pmatrix} }[/math].

Вектор [math]\displaystyle{ p=\begin{pmatrix}-3\\ 0\end{pmatrix} }[/math] также является решением данного уравнения [math]\displaystyle{ Ax=b }[/math] при [math]\displaystyle{ x_2=0 }[/math]. [math]\displaystyle{ p }[/math] называется частным решением.

Для неоднородной системы линейных уравнений [math]\displaystyle{ Ax=b }[/math], где [math]\displaystyle{ b\ne0 }[/math] множество решений можно получить если взять частное решение уравнения [math]\displaystyle{ Ax=b }[/math], то есть [math]\displaystyle{ p }[/math], и прибавлять к нему все решения уравнения [math]\displaystyle{ Ax=0 }[/math]. Это правило верно для любого решения [math]\displaystyle{ p }[/math], которое может быть получено при применении метода Гаусса. То есть в результате другого применения метода Гаусса мы можем получить другое частное решение [math]\displaystyle{ p^\prime }[/math] уравнения [math]\displaystyle{ Ax=b }[/math]. Но и в этом случае правило будет продолжать действовать: решения уравнения [math]\displaystyle{ Ax=b }[/math] получают путем прибавления решения уравнения math>Ax=0</math> к частным решениям [math]\displaystyle{ p }[/math] или [math]\displaystyle{ p^\prime }[/math].

Матричная форма

Система линейных алгебраических уравнений может быть записана в матричной форме.

Рассмотрим систему линейных алгебраических уравнений:

[math]\displaystyle{ \begin{cases}a_{11}x_1 + a_{12}x_2 + \ldots + a_{1n}x_n = b_1 \\a_{21}x_1 + a_{22}x_2 + \ldots + a_{2n}x_n = b_2 \\ \cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \cdots \\a_{m1}x_1 + a_{m2}x_2 + \ldots + a_{mn}x_n = b_m \end{cases} }[/math].

Эта система состоит из [math]\displaystyle{ m }[/math] линейных уравнений относительно [math]\displaystyle{ n }[/math] неизвестных. Она может быть записана в виде следующего матричного уравнения:

[math]\displaystyle{ Ax = b }[/math],

где

[math]\displaystyle{ A = \begin{bmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{bmatrix} ; \quad x = \begin{bmatrix} x_{1} \\ x_{2} \\ \vdots \\ x_{n} \end{bmatrix} ; \quad b = \begin{bmatrix} b_{1} \\ b_{2} \\ \vdots \\ b_{m} \end{bmatrix} }[/math]

Матрица [math]\displaystyle{ A }[/math] — это матрица коэффициентов системы линейных уравнений, вектор-столбец [math]\displaystyle{ x }[/math] — вектор неизвестных, а вектор-столбец [math]\displaystyle{ b }[/math] — некоторый заданный вектор (вектор констант).

Таким образом система линейных уравнений может быть представлена:

[math]\displaystyle{ A = \begin{bmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{bmatrix} \cdot \begin{bmatrix} x_{1} \\ x_{2} \\ \vdots \\ x_{n} \end{bmatrix} = \begin{bmatrix} b_{1} \\ b_{2} \\ \vdots \\ b_{m} \end{bmatrix} }[/math]

Матричное уравнение представляет собой произведение матрицы и вектора.

В строчном представлении матричное уравнение представляет собой произведение координат точки [math]\displaystyle{ x }[/math] (вектора, представленного как точка См. Вектор (алгебра)) и каждой строки матрицы [math]\displaystyle{ A }[/math] или системы линейных уравнений. Эта точка является точкой пересечения графиков функций каждой строки системы линейных уравнений. В столбцовом представлении матричное уравнение это комбинация столбцов матрицы [math]\displaystyle{ A }[/math]. Произведение [math]\displaystyle{ Ax }[/math] вычисляется как скалярное произведение в строчном представлении и является комбинацией столбцов в столбцовом представлении.

Матричное уравнение как комбинация столбцов столбцового представления матрицы

Пусть [math]\displaystyle{ A }[/math] матрица, имеющая размер [math]\displaystyle{ m\times n }[/math] со столбцами [math]\displaystyle{ v_1,v_2,\ldots,v_n }[/math]:

[math]\displaystyle{ A = \begin{pmatrix}| & |& & | \\ v_1 & v_2 & \cdots& v_n\\ |& |& & |\end{pmatrix} }[/math].

Произведением матрицы [math]\displaystyle{ A }[/math] на вектор [math]\displaystyle{ x }[/math] из [math]\displaystyle{ R^n }[/math] будет линейная комбинация:

[math]\displaystyle{ Ax = \begin{pmatrix}| & |& & | \\ v_1 & v_2 & \cdots& v_n\\ |& |& & |\end{pmatrix}\begin{pmatrix} x_{1} \\ x_{2} \\ \vdots \\ x_{n} \end{pmatrix}= x_1v_1 + x_2v_2 + \cdots + x_nv_n }[/math] - вектор в [math]\displaystyle{ R^m }[/math]

Пример

Рассмотрим матричное уравнение [math]\displaystyle{ Av=b }[/math], где [math]\displaystyle{ A }[/math] - невырожденная матрица:

[math]\displaystyle{ \begin{bmatrix} 1 & 0 & 0 \\-1 & 1 & 0 \\ 0 & -1 & 1 \end{bmatrix} \begin{bmatrix} v_1 \\v_2 \\ v_3 \end{bmatrix} = \begin{bmatrix} 1 \\3 \\ 5 \end{bmatrix} }[/math]

Матрица [math]\displaystyle{ A }[/math] является нижней треугольной матрицой. Первое уравнение системы линейных уравнений дает [math]\displaystyle{ v_1=1 }[/math], второе уравнение -[math]\displaystyle{ v_1+v_2=3 }[/math] дает [math]\displaystyle{ v_2=4 }[/math], третье уравнение [math]\displaystyle{ -v_2+v_3=5 }[/math] дает [math]\displaystyle{ v_3=9 }[/math]. В результате применения коэффициентов [math]\displaystyle{ v_1, v_2, v_3 }[/math], соответственно, к векторам матрицы [math]\displaystyle{ a_1, a_2, a_3 }[/math], и комбинации векторов мы получаем [math]\displaystyle{ b }[/math].

$Векторы матрицы [math]\displaystyle{ A }[/math] после применения к ним коэффициентов [math]\displaystyle{ v_1, v_2, v_3 }[/math]. Векторы [math]\displaystyle{ a_2 v_2 }[/math] и [math]\displaystyle{ a_3 v_3 }[/math] обозначены красным цветом поскольку больше исходных векторов [math]\displaystyle{ v_2 }[/math] и [math]\displaystyle{ v_3 }[/math], вектор [math]\displaystyle{ a_1 v_1 }[/math] равен [math]\displaystyle{ v_1 }[/math] и обозначен черным цветом.$

Векторы матрицы [math]\displaystyle{ A }[/math] после применения к ним коэффициентов [math]\displaystyle{ v_1, v_2, v_3 }[/math]. Векторы [math]\displaystyle{ a_2 v_2 }[/math] и [math]\displaystyle{ a_3 v_3 }[/math] обозначены красным цветом поскольку больше исходных векторов [math]\displaystyle{ v_2 }[/math] и [math]\displaystyle{ v_3 }[/math], вектор [math]\displaystyle{ a_1 v_1 }[/math] равен [math]\displaystyle{ v_1 }[/math] и обозначен черным цветом.
$После применения к векторам матрицы коэффициентов [math]\displaystyle{ v_1, v_2, v_3 }[/math] и их линейной комбинации (вектора зеленого цвета) получаем вектор [math]\displaystyle{ b=(1,3,5) }[/math] (синего цвета).$

После применения к векторам матрицы коэффициентов [math]\displaystyle{ v_1, v_2, v_3 }[/math] и их линейной комбинации (вектора зеленого цвета) получаем вектор [math]\displaystyle{ b=(1,3,5) }[/math] (синего цвета).

В этом примере мы видим три связанных друг с другом суждения: система линейных уравнений имеет только одно решение, соответствующая матрица является невырожденной, векторы соответствующие столбцам матрицы являются линейно независимыми.

Выражение системы линейных уравнений через матрицу дает возможность свести вопрос о количестве решений системы линейных уравнений к свойствам матрицы [math]\displaystyle{ A }[/math].

Для того, чтобы система имела решение (хотя бы одно), необходимо и достаточно, чтобы вектор [math]\displaystyle{ b }[/math] был линейной комбинацией столб v_2</math> цов [math]\displaystyle{ A }[/math], и тогда вектор [math]\displaystyle{ x }[/math] — это вектор, содержащий коэффициенты разложения вектора [math]\displaystyle{ b }[/math] по столбцам матрицы [math]\displaystyle{ A }[/math].

[math]\displaystyle{ A = \begin{bmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{bmatrix} \cdot \begin{bmatrix} x_{1} \\ x_{2} \\ \vdots \\ x_{n} \end{bmatrix} = x_1\begin{bmatrix}a_{11}\\a_{21}\\ \vdots \\a_{m1}\end{bmatrix} + x_2\begin{bmatrix}a_{12}\\a_{22}\\ \vdots \\a_{m2}\end{bmatrix} + \dots + x_n\begin{bmatrix}a_{1n}\\a_{2n}\\ \vdots \\a_{mn}\end{bmatrix} = \begin{bmatrix}b_1\\b_2\\ \vdots \\b_m\end{bmatrix} }[/math]

Решением системы линейных уравнений являются значения [math]\displaystyle{ x }[/math], которые если применить их как коэффициенты к сумме столбцов матрицы [math]\displaystyle{ A }[/math] дают вектор [math]\displaystyle{ b }[/math]. То есть вектор [math]\displaystyle{ b }[/math] лежит в линейной облочке столбцов [math]\displaystyle{ A }[/math].

Если в произведении [math]\displaystyle{ Ax }[/math] матрица [math]\displaystyle{ A }[/math] имеет размер [math]\displaystyle{ m \times n }[/math], то оно выполнимо только если вектор [math]\displaystyle{ x }[/math] имеет размерность [math]\displaystyle{ n }[/math]. Тогда произведение [math]\displaystyle{ Ax }[/math] имеет размерность [math]\displaystyle{ m }[/math]. Например,

[math]\displaystyle{ \begin{bmatrix} 4& 5& 6\\7& 8& 9\end{bmatrix} \begin{bmatrix}1 \\2\\ 3\end{bmatrix} = 1\begin{bmatrix}4\\ 7\end{bmatrix} + 2\begin{bmatrix}5\\ 8\end{bmatrix} + 3\begin{bmatrix}6\\ 9\end{bmatrix} = \begin{bmatrix}32\\ 50\end{bmatrix} }[/math]

Матрица [math]\displaystyle{ A }[/math] имеет размер [math]\displaystyle{ 2\times3 }[/math], произведение [math]\displaystyle{ Ax }[/math] имеет размерность [math]\displaystyle{ 2 }[/math].

Решение системы линейных уравнений и линейная оболочка

Матричная интерпретация системы линейных уравнений дает возможность определить количество ее решений исходя из свойств матрицы [math]\displaystyle{ A }[/math]. Система линейных уравнений:

Не имеет решений, если вектор [math]\displaystyle{ b }[/math] лежит вне линейной оболочки векторов, образованных столбцами матрицы [math]\displaystyle{ A }[/math], то есть мы не можем построить вектор [math]\displaystyle{ b }[/math] используя векторы-столбцы матрицы [math]\displaystyle{ A }[/math], какие бы коэффициенты [math]\displaystyle{ x }[/math] мы не использовали. Такое возможно только если матрица [math]\displaystyle{ A }[/math] является вырожденной.

Решение системы линейных уравнений и ступенчатый вид расширенной матрицы

Если рассмотреть систему уравнений как расширенную матрицу в ступенчатом виде, то относительно ее решений можно выделить следующие варианты:

Последний столбец является ведущим. Такая система уравнений является несовместной. Множество решений такой системы уравнений является пустым. Например, система линейных уравнений соответствующая матрице:

[math]\displaystyle{ \left[\begin{array}{cc|c}1& 0& \color{red}0\\ 0& 1& \color{red}0\\ 0& 0& \color{red}1\end{array}\right] }[/math]

не имеет решений.

Все столбцы, за исключением последнего являются ведущими. В этом случае система линейных уравнений имеет единственное решение. Например, матрица

[math]\displaystyle{ \left[\begin{array}{ccc|c}1& 0& 0& a\\ 0& 1& 0& b\\ 0& 0& 1& c\end{array}\right] }[/math]

показывает, что соответствующая система уравнений имеет только одно решение [math]\displaystyle{ (x, y, z)=(a, b, c) }[/math]

Последний столбец не является ведущим и еще какие то столбцы также не является ведущими. Соответствующая система линейных уравнений имеет бесконечное множество решений соответствующих бесконечному множеству возможных значений несвязанной переменной. Например, в системе линейных уравнений соответствующей матрице:

[math]\displaystyle{ \left[\begin{array}{cccc|c}1& \color{red}-2& 0& \color{blue}3& 1\\ 0& \color{red}0& 1& \color{blue}4& -1\end{array}\right] }[/math]

любые значения [math]\displaystyle{ x_2 }[/math] и [math]\displaystyle{ x_4 }[/math] дают решение системы линейных уравнений.

На языке матриц условие разрешимости системы линейных уравнений формулируется в виде теоремы Кронекера-Капелли:

ранг матрицы [math]\displaystyle{ A }[/math] равен рангу расширенной матрицы [math]\displaystyle{ [A|b] }[/math],

составленной из столбцов [math]\displaystyle{ A }[/math] и столбца [math]\displaystyle{ b }[/math].

Важный частный случай. Если количество уравнений совпадает с количеством неизвестных ([math]\displaystyle{ m = n }[/math], то есть матрица [math]\displaystyle{ A }[/math] — квадратная), то условие однозначной разрешимости является равносильным условию обратимости матрицы [math]\displaystyle{ A }[/math].

(Замечание. Разрешимость системы ещё не влечёт невырожденности матрицы. Пример: [math]\displaystyle{ 0x=0 }[/math].)

В частности, если матрица [math]\displaystyle{ A }[/math] является обратимой, то решение системы может быть записано (а если вычислена [math]\displaystyle{ A^{-1} }[/math], то и найдено) в виде

[math]\displaystyle{ x = A^{-1}b }[/math].

Это приводит к алгоритму вычисления значений неизвестных по правилу Крамера.

Эквивалентные системы линейных уравнений

Системы линейных уравнений называются эквивалентными, если множество их решений совпадает, то есть любое решение одной системы одновременно является решением другой, и наоборот. Также считается, что системы, не имеющие решений, эквивалентны.

Систему, эквивалентную данной, можно получить, в частности, заменив одно из уравнений на это уравнение, умноженное на любое отличное от нуля число. Эквивалентную систему можно получить также, заменив одно из уравнений суммой этого уравнения с другим уравнением системы. В общем, замена уравнения системы на линейную комбинацию уравнений даёт систему, эквивалентную исходной.

Система линейных алгебраических уравнений [math]\displaystyle{ A \mathbf{x} \ = \mathbf{b} }[/math] эквивалентна системе [math]\displaystyle{ C A \mathbf{x} \ = C \mathbf{b} }[/math], где [math]\displaystyle{ C }[/math] — невырожденная матрица. В частности, если сама матрица [math]\displaystyle{ A }[/math] — невырожденная, и для неё существует обратная матрица [math]\displaystyle{ A^{-1} }[/math], то решение системы уравнений можно формально записать в виде [math]\displaystyle{ \mathbf{x} = A^{-1} \mathbf{b} }[/math].

Методы решения

Прямые методы дают алгоритм, по которому можно найти точное решение систем линейных алгебраических уравнений. Итерационные методы основаны на использовании повторяющегося процесса и позволяют получить решение в результате последовательных приближений.

Некоторые прямые методы:

Метод Гаусса
Метод Гаусса — Жордана
Метод Крамера
Матричный метод
Метод прогонки (для трёхдиагональных матриц)
Разложение Холецкого или метод квадратных корней (для положительно-определённых симметричных и эрмитовых матриц)

Итерационные методы устанавливают процедуру уточнения определённого начального приближения к решению. При выполнении условий сходимости они позволяют достичь любой точности просто повторением итераций. Преимущество этих методов в том, что часто они позволяют достичь решения с заранее заданной точностью быстрее, а также позволяют решать большие системы уравнений. Суть этих методов состоит в том, чтобы найти неподвижную точку матричного уравнения

[math]\displaystyle{ \mathbf{x} = A^\prime \mathbf{x} + \mathbf{b}^\prime }[/math],

эквивалентного начальной системе линейных алгебраических уравнений. При итерации [math]\displaystyle{ \mathbf{x} }[/math] в правой части уравнения заменяется, например, в методе Якоби (метод простой итерации) приближение, найденное на предыдущем шаге:

[math]\displaystyle{ \mathbf{x}_{n+1} = A^\prime \mathbf{x}_n + \mathbf{b}^\prime }[/math].

Итерационные методы делятся на несколько типов, в зависимости от применяемого подхода:

Основанные на расщеплении: [math]\displaystyle{ (M-N)\mathbf{x}=\mathbf{b}\Leftrightarrow M\mathbf{x}=N\mathbf{x}+\mathbf{b} \Rightarrow M\mathbf{x}^{n+1}=N\mathbf{x}^n+\mathbf{b} }[/math]
Вариационного типа: [math]\displaystyle{ A\mathbf{x}=\mathbf{b}\Rightarrow \|A\mathbf{x}-\mathbf{b}\|\rightarrow \min }[/math]
Проекционного типа: [math]\displaystyle{ A\mathbf{x}=\mathbf{b}\Rightarrow (A\mathbf{x},\mathbf{m})=(\mathbf{b},\mathbf{m}) \forall\mathbf{m} }[/math]

Среди итерационных методов:

Примечания

↑ Ильин В. А., Позняк Э. Г. Линейная алгебра: Учебник для вузов. — 6-е изд., стер. — М.: Физматлит, 2004. — 280 с.
↑ Strang G. Differential equations and linear algebra. – Wellesley-Cambridge Press, 2014. – С. 512.
↑ Вержбицкий В. М. Основы численных методов. — М.: Высшая школа, 2009. — С. 80—84. — 840 с. — ISBN 9785060061239.

Ссылки

Куксенко С. П., Газизов Т. Р. Итерационные методы решения системы линейных алгебраических уравнений с плотной матрицей. — Томск: Томский государственный университет, 2007. — 208 с. — ISBN 5-94621-226-5.
Форсайт Дж., Молер К. Численное решение систем линейных алгебраических уравнений. — Москва: Мир, 1969. — 166 с.

[ilin-1] Ильин В. А., Позняк Э. Г. Линейная алгебра: Учебник для вузов. — 6-е изд., стер. — М.: Физматлит, 2004. — 280 с.

[2] Strang G. Differential equations and linear algebra. – Wellesley-Cambridge Press, 2014. – С. 512.

[3] Вержбицкий В. М. Основы численных методов. — М.: Высшая школа, 2009. — С. 80—84. — 840 с. — ISBN 9785060061239.

[1]

[2]

[3]

Методы решения СЛАУ
Прямые методы	Матричный метод Метод Гаусса Метод Гаусса — Жордана Метод Крамера LU-разложение Разложение Холецкого Метод прогонки
Итерационные методы	Метод Якоби Метод Гаусса — Зейделя Метод итерации Метод релаксации Метод сопряженных градиентов Метод бисопряжённых градиентов Стабилизированный метод бисопряжённых градиентов
Общее	Обратная матрица Проекционные методы решения СЛАУ Предобуславливание