ВУЗ: Не указан
Категория: Не указан
Дисциплина: Не указана
Добавлен: 07.04.2021
Просмотров: 3489
Скачиваний: 14
§
25. Матрица Грама и ее применение
177
Умножая обе части этого равенства скалярно на векторы
a
i
,
1
≤
i
≤
n,
получим однородную систему уравнений вида
(
a
1
, a
1
)
x
1
+ (
a
1
, a
2
)
x
2
+
· · ·
+ (
a
1
, a
n
)
x
n
= 0
,
(
a
2
, a
1
)
x
1
+ (
a
2
, a
2
)
x
2
+
· · ·
+ (
a
2
, a
n
)
x
n
= 0
,
· · ·
(
a
n
, a
1
)
x
1
+ (
a
n
, a
2
)
x
2
+
· · ·
+ (
a
n
, a
n
)
x
n
= 0
,
коэффициенты которой образуют матрицу Грама. Поскольку эта матрица
имеет ненулевой определитель, то
x
1
=
x
2
=
· · ·
=
x
n
= 0
,
т.е. векторы
a
1
, . . . , a
n
линейно независимы.
Пусть векторы
a
1
, . . . , a
n
∈
H
линейно независимы. Допустим, что
G
(
a
1
, . . . , a
n
) = 0
.
Тогда столбцы матрицы Грама (1) линейно зависимы и
поэтому существуют такие числа
(
x
1
, . . . , x
n
)
∈
K,
не все равные нулю, что
x
1
(
a
i
, a
1
) +
x
2
(
a
i
, a
2
) +
· · ·
+
x
n
(
a
i
, a
n
) = 0
, i
= 1
, . . . , n.
Эти равенства можно записать в виде
(
x
1
a
1
+
x
2
a
2
+
· · ·
+
x
n
a
n
, a
i
) = 0
, i
= 1
, . . . , n.
Умножая
i
- ое равенство на
x
i
и складывая эти равенства, получим
(
x
1
a
1
+
· · ·
+
x
n
a
n
, x
1
a
1
+
· · ·
+
x
n
a
n
) = 0
,
т.е.
||
x
1
a
1
+
· · ·
+
x
n
a
n
||
2
= 0
,
и поэтому
x
1
a
1
+
· · ·
+
x
n
a
n
= 0
.
Следовательно,
векторы
a
1
, . . . , a
n
линейно зависимы. Теорема доказана.
До сих пор мы рассматривали системы линейных уравнений, которые
либо имели решения, либо их не имели, и используемые нами методы решений
относились лишь к системам уравнений, которые заведомо имели решения.
Здесь мы рассмотрим систему уравнений вида
a
11
x
1
+
a
12
x
2
+
· · ·
+
a
1
n
x
n
=
b
1
,
a
21
x
1
+
a
22
x
2
+
· · ·
+
a
2
n
x
n
=
b
2
,
· · ·
a
m
1
x
1
+
a
m
2
x
2
+
· · ·
+
a
mn
x
n
=
b
m
,
(2)
178
Глава 3. Линейная алгебра
где
m > n
и ранг матрицы
A
= (
a
ij
)
∈
M atr
m,n
(
R
)
равен
n
, т. е. столбцы
матрицы
A
линейно независимы. В этих условиях система (2) может не иметь
решений.
Будем ставить задачу поиска такого вектора
x
0
= (
x
0
1
, . . . , x
0
n
)
,
чтобы
при подстановке чисел
(
x
0
1
, . . . , x
0
n
)
в левую часть разных частей уравнений
(2) правые части уравнений отличались от левых как можно меньше (мини-
мизировать среднюю ошибку для всех уравнений). Существует много спосо-
бов такой минимизации, но среди наиболее распространенных является поиск
такого вектора
x
0
с тем, чтобы суммарное среднеквадратичное отклонение
левых частей от правых (отсюда следует наименование метода, как метода
наименьших квадратов)
m
X
i
=1
"
n
X
j
=1
a
ij
x
0
j
−
b
i
#
2
(3)
принимало наименьшее возможное значение. Вектор
x
0
= (
x
0
1
, . . . , x
0
n
)
назо-
вем
решением системы (2) по методу наименьших квадратов
.
Эта задача может быть с успехом решена с использованием результатов
§
17. Систему (2) запишем в виде уравнения
x
1
a
1
+
· · ·
+
x
n
a
n
=
b,
где
a
1
= (
a
11
, a
21
. . . a
m
1
)
,
· · ·
, a
n
= (
a
1
n
, a
2
n
. . . a
mn
)
- векторы из евклидова
пространства
R
m
со скалярным произведением
(
a, b
) =
m
X
i
=1
a
i
b
i
, a
= (
a
1
, . . . , a
m
)
, b
= (
b
1
, . . . , b
m
)
.
Положим
x
=
x
1
a
1
+
· · ·
+
x
n
a
n
∈
K
m
. Тогда
||
x
−
b
||
2
=
m
X
i
=1
n
X
j
=1
a
ij
x
j
−
b
i
2
и поэтому минимум среднеквадратичного отклонения, согласно терминоло-
гии
§
17, есть квадрат расстояния от вектора
b
∈
K
m
до линейной оболочки
§
25. Матрица Грама и ее применение
179
M
векторов
a
1
, . . . , a
n
.
Следовательно, в силу замечания 3 из
§
17 минимум
отклонения достигается на единственном векторе
x
0
=
x
0
1
a
1
+
· · ·
+
x
0
n
a
n
,
яв-
ляющемся ортогональной проекцией вектора
b
на подпространство
M
. Из
условия ортогональности вектора
x
0
−
b
всем элементам из
M
(см. опреде-
ление 7 из
§
17) получаем, что имеют место равенства
(
a
i
, x
0
−
b
) = 0
, i
= 1
, . . . , n,
из которых следует, что упорядоченный набор
(
x
0
1
, . . . , x
0
n
)
является решени-
ем линейной системы алгебраических уравнений вида
(
a
1
, a
1
)
x
1
+ (
a
1
, a
2
)
x
2
+
· · ·
+ (
a
1
, a
n
)
x
n
= (
a
1
, b
)
,
(
a
2
, a
1
)
x
1
+ (
a
2
, a
2
)
x
2
+
· · ·
+ (
a
2
, a
n
)
x
n
= (
a
2
, b
)
,
· · ·
(
a
n
, a
1
)
x
1
+ (
a
n
, a
2
)
x
2
+
· · ·
+ (
a
n
, a
n
)
x
n
= (
a
n
, b
)
.
(4)
Систему уравнений (4) называют
фундаментальной системой уравнений
ме-
тода наименьших квадратов. Матрицей коэффициентов этой системы явля-
ется матрица Грама
G
(
A
) = (
a
i
, a
j
)
∈
M atr
n
(
R
)
системы векторов
a
1
, . . . , a
n
и поэтому, согласно теореме 1, ее определитель отличен от нуля,
так как предполагалось, что ранг этой системы векторов равен
n.
Таким
образом, имеет место
Т е о р е м а 2.
Решение
x
0
= (
x
0
1
, . . . , x
0
n
)
системы уравнений (2) по ме-
тоду наименьших квадратов существует, единственно, и является решением
совместной системы уравнений (4).
Упражнения к § 25
1. Пусть
C
[0
,
1]
- линейное пространство со скалярным произведением
(
x, y
) =
R
1
0
x
(
t
)
y
(
t
)
dt.
Проверьте линейную независимость функций
x
1
(
t
) = 1
, x
2
(
t
) =
√
t, x
3
(
t
) =
t.
2. По методу наименьших квадратов решите систему линейных уравнений
180
Глава 3. Линейная алгебра
a)
x
1
−
x
2
= 1
,
x
1
−
2
x
2
= 0
,
2
x
1
+
x
2
= 2
,
x
1
+
x
2
= 1
.
b)
x
1
+
x
2
−
3
x
3
= 1
,
2
x
1
+
x
2
−
2
x
3
= 1
,
x
1
+
x
2
+
x
3
=
3
,
x
1
+ 2
x
2
−
3
x
3
= 1
.
3. Пусть заданы результаты четырех измерений
x
1
= 0
при
t
1
= 0
,
x
2
= 1
при
t
2
= 1
,
x
3
= 0
при
t
3
= 3
,
x
4
= 5
при
t
4
= 4 (
t
∈
R
- время).
Найдите прямую
x
(
t
) =
at
+
b,
t
∈
R
,
наименее уклоняющуюся от
указанных точек в среднем квадратичном (т.е. укажите такие числа
a, b
∈
R
, чтобы величина
(
at
1
+
b
−
x
1
)
2
+ (
at
2
+
b
−
x
2
)
2
+ (
at
3
+
b
−
x
3
)
2
+
(
at
4
+
b
−
x
4
)
2
принимала наименьшее значение).
4. Проверьте, что матрица Грама
G
(
A
)
,
построенная по столбцам матри-
цы
A
системы уравнений 2, совпадает с матрицей
A
t
A ∈
M atr
n
(
R
)
,
а
уравнение 4 можно записать в виде
A
t
A
x
=
A
t
b
(см. начало § 23).)
5. Докажите, что проекция
x
0
вектора
b
на подпространство
M
, являю-
щегося линейной оболочкой векторов столбцов матрицы
A
системы (2),
задается формулой
x
0
=
A
(
A
t
A
)
−
1
A
t
b.
§
26. Собственные значения и собственные векторы.
Операторы простой структуры
Начиная с этого параграфа, будут рассматриваться только конечномер-
ные линейные пространства размерности
≥
1
и линейные операторы, опре-
деленные на линейном пространстве со значениями в том же пространстве.
Пусть
X
- линейное пространство размерности
n
≥
1
и
L
(
X
)
- алгебра
линейных операторов, действующих в
X.
Если
dim X
=
n
= 1
,
то алгебра
L
(
X
)
изоморфна полю
K
. Более того,
каждый оператор
A
∈
L
(
X
)
имеет вид
Ax
=
αx, x
∈
X,
(1)
§
26. Собственные значения и собственные векторы
181
где
α
∈
K,
т.е.
A
=
αI.
Операторы такого вида называют
скалярными
.
В общем случае (для
n
≥
2
) ситуация значительно сложнее (например,
нам известно, что
L
(
X
)
- некоммутативная алгебра) и в нашем распоряже-
нии нет изученных алгебр, которым, скажем, алгебра
L
(
X
)
алгебраически
изоморфна.
Мы начнем изучение специальных классов линейных операторов из ал-
гебры
L
(
X
)
, структура которых в некотором смысле проста и по своему виду
они наиболее близки к операторам вида (1).
Определение 1.
Скажем, что оператор
A
∈
L
(
X
)
имеет
простую
структуру
, если существует базис
e
1
, . . . , e
n
в
X
и числа
λ
1
, . . . , λ
n
∈
K
(не обязательно различные) такие, что имеют место равенства
Ae
k
=
λ
k
e
k
, k
= 1
, . . . , n.
(2)
Операторами простой структуры являются операторы 0 и
I
. Таким об-
разом, для оператора простой структуры можно указать векторы
e
1
, . . . , e
n
,
образующие базис в
X,
и каждый из которых оператор
A
переводит в кол-
линеарный вектор (векторы вида
αa, α
∈
K
называются векторами,
колли-
неарными
вектору
a
∈
X
).
Из-за своей близости по виду к скалярным операторам операторы про-
стой структуры называют также
операторами скалярного типа
.
Непосредственно
из
равенств
(2)
следует,
что
матрица
A
=
= (
a
ij
)
∈
M atr
n
(
K
)
оператора простой структуры
A
будет диагональной
a
ij
=
λ
i
δ
ij
, i, j
= 1
, . . . , n.
Лемма 1.
Оператор простой структуры
A
, определяемый равенствами
(2), обратим тогда и только тогда, когда все числа
λ
k
, k
= 1
, . . . , n
нену-
левые. Если
A
обратим, то оператор
A
−
1
задается на базисных векторах
равенствами
A
−
1
e
k
=
1
λ
k
e
k
, k
= 1
, . . . , n,
(3)
Доказательство.
Поскольку
det A
=
det
A
=
λ
1
· · ·
λ
n
, то в силу теоре-