ВУЗ: Не указан
Категория: Не указан
Дисциплина: Не указана
Добавлен: 08.02.2025
Просмотров: 1265
Скачиваний: 2
Условные числовые характеристики
Рассмотрим двумерную случайную величину (X;Y ). В соответствии с результатами предыдущего параграфа можно определить условное распределение случайной величины X при условии, что случайная величина Y приняла определенное значение y. Поскольку условное распределение обладает всеми свойствами обычного (безусловного) распределения, то по нему можно определить математическое ожидание, дисперсию и другие числовые характеристики, которые естественно назвать условными.
Начнем со случая дискретной случайной величины (X;Y ). Пусть случайная величина X принимает значения x1;:::;xn, а случайная величина Y значения y1;:::;ym и пусть
= P X = x |
Y = y |
= |
PfX = xi; Y = yjg |
= |
pij |
; i = |
||||||||
¼ |
ij |
jg |
1;n; j = 1;m; |
|||||||||||
PfY = yjg |
||||||||||||||
ij |
f |
pY j |
||||||||||||
условные вероятности случайной величине X принять значение xi при условии Y = yj.
Определение 11.3 Для дискретной двумерной случайной величины (X;Y ) значением M(X jY = yj) условного математического ожидания дискретной случайной величины X при условии
Y = yj, называют число
Xn
M(XjY = yj) = xi¼ij:
i=1
Далее для краткости будем писать M(Xjyj) вместо M(XjY = yj).
По аналогии с (безусловным) математическим ожиданием MX случайной величины X значение M(Xjyj) условного математического ожидания при условии Y = yj задает “среднее” значение случайной величины X, но при условии, что случайная величина Y приняла значение yj.
Таким же образом интерпретируют значение M(Y jxi) = M(Y jX = xi) условного математического ожидания случайной величины Y при условии X = xi.
Согласно определению 11.3, значение M(Xjyj) условного математического ожидания зависит от значения yj случайной величины Y , и только от него. Вспоминая понятие функции от случайной величины, приходим к следующему определению условного математического ожидания.
Определение 11.4 Условным математическим ожиданием M(XjY ) дискретной случайной величины X относительно дискретной случайной величины Y называют функцию M(XjY ) = g(Y ) от случайной величины Y , где область определения функции g(y) совпадает с множеством значений y1;:::;ym случайной величины Y , а каждому значению yj аргумента y поставлено в соответствие число g(yj) = M(Xjyj):
Подчеркнем еще раз, что условное математическое ожидание M(XjY ) является функцией от случайной величины, т.е. также случайной величиной.
Приведем примеры.
Пример 11.5 Пусть X1 и X2 числа успехов в первом и втором испытаниях по схеме Бернулли с вероятностью успеха p. Найдем M(X1jX2). Воспользовавшись табл. 11.1, имеем:
M(X1j0) = 0 ¢ q + 1 ¢ p = p; M(X1j1) = 0 ¢ q + 1 ¢ p = p:
Таким образом, значения M(X1j0) и M(X1j1) условного математического ожидания совпадают для обоих значений 0 и 1 случайной величины X2 и равны p. Поэтому M(X1jX2) ´ p:
Определение 11.5 Для непрерывной двумерной случайной величины (X;Y ) значением
M(Xjy) = M(XjY = y) условного математического ожидания непрерывной случайной величины X при условии Y = y называют число
Z+1
M(Xjy) = xpX(xjy)dx;
¡1
где
p(x;y) pX(xjy) = pY (y)
является условной плотностью распределения случайной величины X при условии Y = y.
Определение 11.6 Для непрерывной двумерной случайной величины (X;Y ) условным математическим ожиданием M(XjY ) непрерывной случайной величины X относительно случайной величины Y называют функцию g(Y ) = M(XjY ) от случайной величины Y , принимающую значение g(y) = M(Xjy) при Y = y.
53
Проверьте самостоятельно, что свойства условного математического ожидания, выведенные для дискретного случая, справедливы и для непрерывного (исключение составляет свойство 1, поскольку непрерывная случайная величина не может принимать всего одно значение).
Резюмируя изложенное выше, можно сказать, что зависимость поведения “в среднем” случайной величины X от значения случайной величины Y характеризуется функцией g(y) = M(Xjy).
Условное математическое ожидание, как обычное (безусловное) математическое ожидание, характеризует центр рассеивания случайной величины. Однако оно не дает никакой информации о степени рассеивания случайной величины относительно среднего значения.
Поскольку степень рассеивания случайной величины X можно оценить с помощью дисперсии, то в качестве меры рассеивания случайной величины X относительно Y можно принять условную дисперсию, которую естественно определить аналогично обычной дисперсии, но используя условное распределение случайной величины X при условии Y = y.
Определение 11.7 Условной дисперсией D(XjY ) случайной величины X относительно (случайной величины) Y называют случайную величину, задаваемую формулой
D(XjY ) = M¡£X ¡ M(XjY )¤2jY ¢:
Приведенное определение применимо как для двумерной дискретной случайной величины, так и для непрерывной.
Для двумерной дискретной случайной величины (X;Y ) значение D(Xjyj) условной дисперсии X при условии Y = yj определяется формулой
D(Xjyj) = M¡[X¡M(Xjyj)]2¯¯Y ¢ = Xn £xi¡M(Xjyj)¤2¼ij;
i=1
а для двумерной непрерывной случайной величины (X;Y ) значение D(Xjy) условной дисперсии X при условии Y = y задается формулой
D(Xjy) = M¡[X¡M(Xjy)]2¯¯y¢ = Z+1£x¡M(Xjy)¤2pX(xjy)dx:
¡1
Условная дисперсия случайной величины X так же, как и условное математическое ожидание этой случайной величины, зависит от того значения, которое приняла случайная величина Y . Поэтому условная дисперсия D(XjY ) является функцией от случайной величины Y , область определения которой совпадает с множеством возможных значений случайной величины Y .
54
Лекция 12
Многомерное нормальное распределение
Нормальное распределение одномерной случайной величины рассматривалось в лекции 7. Сейчас обратимся к многомерному случаю. При этом сначала введем двумерное нормальное распределение
~ |
|||||||||
случайного вектора X = (X1;X2), а затем обобщим полученные результаты на случайный вектор |
|||||||||
~ |
|||||||||
X произвольной размерности n > 2. |
~ |
||||||||
Пусть координаты X1 и X2 случайного вектора X = (X1;X2) являются случайными величинами, |
|||||||||
распределенными по нормальному закону, т.е. имеют плотности распределения |
µ¡ |
2¾22 |
¶ |
||||||
p2¼¾1 |
µ¡ |
2¾12 |
¶ |
p2¼¾2 |
|||||
pX1 (x) = 'm1;¾1 (x) = |
1 |
exp |
(x ¡ m1)2 |
и pX2 (x) = 'm2;¾2 (x) = |
1 |
exp |
(x ¡ m2)2 |
||
Напомним, что параметры mi и ¾i > 0; i = 1;2, этих распределений называют математическими ожиданиями и средними квадратическими отклонениями случайных величин X1 и X2.
Если X1 и X2 являются независимыми случайными величинами, то, согласно теореме 8.3,
pX1;X2 (x1;x2) = pX1 (x1)pX2 (x2)
и в этом случае плотность двумерного нормального распределения имеет вид
(p2¼)2 |
¾1¾2 |
µ¡ |
2¾12 |
¡ |
2¾22 |
¶ |
||
pX1;X2 (x1;x2) = |
1 |
exp |
(x1 ¡ m1)2 |
(x2 |
¡ m2)2 |
: |
||
~
В общем случае вектор X = (X1;X2) имеет (невырожденное) двумерное нормальное распределение, если его плотность распределения определяется формулой
1 |
1 |
|||||||||||||||
pX1;X2 (x1;x2) = |
(p |
)2¾1¾2p |
e¡ |
2 Q(x1¡m1;x2¡m2); |
(12.1) |
|||||||||||
2¼ |
1 ¡ ½2 |
|||||||||||||||
где функция двух переменных |
||||||||||||||||
Q(y1; y2) = |
1 |
µ |
y12 |
2½y1y2 |
+ |
y22 |
¶; |
(12.2) |
||||||||
¡ |
||||||||||||||||
1 ¡ ½2 |
¾12 |
¾1¾2 |
¾22 |
|||||||||||||
yi = xi ¡ mi; i = 1; 2; есть положительно определенная квадратичная форма (т.е. Q(y1;y2) > 0 для
любых (y1;y2) 2 R, (y1;y2) =6 (0;0)).
Двумерное нормальное распределение зависит от пяти параметров: m1, m2, ¾1, ¾2, ½. Можно показать, что m1 = MX1, m2 = MX2, ¾12 = DX1, ¾22 = DX2, ½ коэффициент корреляции случайных
величин X1 и X2.
Последние три параметра запишем для дальнейшего обобщения на случай n > 2 в виде мат-
~ |
;X2): |
||||||
рицы ковариаций (ковариационной матрицы) § вектора X = (X1 |
|||||||
§ = |
µ ¾21 |
¾22 |
¶; |
||||
¾11 |
¾12 |
||||||
где ¾ii = ¾i2; i = |
, а ¾12 = ¾21 = ½¾1¾2: |
||||||
1;2 |
|||||||
§ |
матрице §, т.е. |
||||||
Если ввести матрицу e, обратную |
§ = §¡1 |
||||||
и вектор |
e |
||||||
~y = (y1; y2);
55
то квадратичную форму (12.2) можно записать в матричной форме в виде
e T
Q(~y) = ~y §~y ; (12.3)
где знак “T ” означает транспонирование. Действительно, если учитывать, что
§ = 1 2 |
0 |
¾12 |
¡¾1¾2 1 |
; |
||||||
1 |
½ |
|||||||||
e |
1 ¡ ½ |
B |
¡¾1¾2 |
¾22 |
C |
|||||
@ |
½ |
1 |
A |
|||||||
e
то, подставляя § в (12.3), приходим к выражению (12.2). Далее, если заметить, что множитель
pp
¾1¾2 1 ¡ ½2 = det§;
где det§ определитель матрицы §, то выражение (12.1) можно записать в виде
X |
(p2¼)2(det§)2 |
e |
|||||||
p ~ |
(~x) = |
1 |
e¡ |
21 |
(~x¡m~)§(~x¡m~)T : |
(12.4) |
|||
1 |
|||||||||
Теперь можно записать плотность (невырожденного) нормального распределения для случай-
~
ного вектора X = (X1;:::;Xn) произвольной размерности n > 2.
~
Определение 12.1 Случайный вектор X = (X1;:::;Xn) назовем случайным вектором, имеющим нормальное распределение с вектором математических ожиданий m~ = (m1;:::;mn) и ковариационной матрицей § = (¾ij); i;j = 1;n; если его плотность имеет вид
p ~ (~x) = |
1 |
e¡21 (~x¡m~)§(~x¡m~)T |
; |
|||
1 |
||||||
X |
(p2¼)n(det§)2 |
e |
||||
где § матрица, обратная к матрице §.
Если матрица § (а значит, и матрица § = §¡1) совпадает с единичной матрицей I, а вектор |
|
e |
e |
m~ = (0;:::;0), то |
|
pX1;:::;Xn (x1;:::;xn) = (p21¼)n e¡12 (x21+:::+x2n):
Такую плотность по аналогии с одномерным случаем называют плотностью стандартного многомерного (n-мерного) нормального распределения.
Дадим геометрическую интерпретацию плотности нормального распределения.
Начнем с двумерного случая. При этом (X1; X2) будем трактовать как координаты брошенной случайным образом на плоскость точки.
Функция pX1;X2 (x1;x2) задает некоторую поверхность в трехмерном пространстве. Линии уровня этой поверхности имеют уравнение pX1;X2 (x1;x2) = a; которое с учетом (12.1) можно записать в виде
Q(x1 ¡ m1;x2 ¡ m2) = b; |
(12.5) |
|||
1 |
¡m2) определяет- |
|||
где b = ¡2lnf2¼a(det§)2 g, а Q(x1 ¡m1;x2 |
||||
ся формулой (12.2). |
||||
Последнее уравнение (см. рис. 12.1) представляет собой |
||||
уравнение эллипса (точнее говоря, семейства эллипсов при |
||||
разных значениях b). Оси симметрии O0x1 и O0x2 этого эл- |
||||
липса проходят через точку O0(m1;m2), а их направления |
||||
совпадают с направлениями собственных векторов матрицы |
||||
§. В свою очередь, собственные векторы ~ei, i = 1;2, матрицы |
||||
§ определяются из уравнений e~ § = ¸ e~ |
где ¸ собствен- |
|||
ныеe |
значения матрицы §, т.е. решенияi i характеристическогоi i |
Рис. 12.1. |
||
e |
e |
|||
уравнения |
e |
det(§e ¡ ¸I) = 0; |
||
или |
||||
¸2¾12¾22(1 ¡ ½2) ¡ ¸(¾12 + ¾22) + 1 = 0: |
||||
Углы ®i; i = 1;2, между осями симметрии эллипса и осью Ox1 можно найти из уравнения
tg2® = |
2½¾1¾2 |
: |
(12.6) |
||
¾12 ¡ ¾22 |
|||||
56
Это уравнение дает два значения углов: ®1 и ®2 различающиеся на ¼2 .
Оси симметрии эллипса (12.5) называют осями рассеивания, сам эллипс эллипсом рассеивания (или эллипсом равной вероятности), а центр эллипса точку O0(m1;m2) центром рассеивания.
Из формулы (12.6), в частности, следует, что при ½ = 0, ¾1 6= ¾2 оси рассеивания параллельны координатным, при ¾1 = ¾2 = ¾ эллипс рассеивания представляет собой окружность радиуса ¾ и в качестве осей рассеивания можно взять любые две перпендикулярные прямые, проходящие через точку O0.
Вводя новую (прямоугольную) систему координат, оси которой совпадают с осями рассеивания,
т.е. каноническую систему координат для эллипса рассеивания, можно показать, что в этой систе- |
|||||||
ме координаты (X10 ;X20 ) случайной точки имеют нормальное распределение с нулевым вектором |
|||||||
¾102 |
0 |
1 |
1 |
||||
средних значений m0 = (0;0) и матрицей ковариаций §0 = µ 0 |
¾202 ¶, где ¾10 |
= p |
, ¾20 |
= p |
. |
||
¸1 |
¸2 |
||||||
Если изменить масштабы на осях канонической системы координат, взяв за единицы отсчета ¾10 и ¾20 соответственно, то в такой системе координат координаты случайной точки будут иметь нормальное распределение с нулевым вектором средних и единичной матрицей ковариаций, т.е. иметь двумерное стандартное нормальное распределение.
Аналогично в случае n > 2 уравнение p ~ (~x) = a или эквивалентное ему уравнение |
||||||||||
X |
p |
|||||||||
1 |
||||||||||
(~x ¡ m~)§(~x ¡ m~) |
T |
= b; |
2¼) |
n |
a(det§) |
g |
||||
2 |
||||||||||
b = ¡2lnf( |
||||||||||
в силу положительной |
определенности матрицы § представляет собой уравнение n-мерного эл- |
|||||||||
e |
||||||||||
липсоида, называемого эллипсоидом рассеивания, его оси симметрии по-прежнему называются
осями рассеивания.
~
Будем трактовать n-мерный случайный вектор X как координаты случайной точки в n-мерном
пространстве. Пусть x01;:::;x0n каноническая система координат эллипсоидов рассеивания, тогда новые координаты (X10 ; :::; Xn0 ) случайной точки снова будут описываться n-мерным нормальным
законом, имеющим нулевой вектор средних m~0 и диагональную матрицу ковариаций §0, причем ее
02 e
диагональные элементы ¾i = 1=¸i, где ¸i, i = 1;n, собственные значения матрицы § с учетом их кратностей. Еще раз вводя новые координаты yi = ¾i0x0i (т.е изменяя масштабы на осях канонической системы координат), получаем, что в последней системе координат y1;:::;yn координаты случайной точки будут распределены по стандартному нормальному закону.
Таким образом, делая обратные преобразования, можно трактовать (невырожденный) нормаль-
~
но распределенный вектор X с произвольным вектором средних m~ и матрицей ковариаций § как координаты случайной точки в некоторой (вообще говоря, не ортонормированной, но ортогональной) прямолинейной системе координат, причем эта точка имеет стандартное нормальное распределение.
Рассмотрим основные свойства многомерного нормального распределения.
~
1. Закон распределения каждой из координат случайного вектора X, имеющего n-мерное нормальное распределение с вектором средних m~ = (m1;:::;mn) и матрицей ковариаций § = ¾ij, является нормальным с параметрами mi и ¾i.
Доказательство. Докажем это утверждение для случая n = 2 (общий случай требует более громоздких преобразований).
Найдем плотность распределения pX1 (x1), если pX1;X2 (x1;x2) определяется формулами (12.1) и (12.2). Воспользовавшись свойством 7 двумерной плотности распределения, имеем
+1 |
1 |
||||||||||||||||||||||||||||||||||||||||
pX1 (x1) = Z |
2¼¾1¾2 |
1 ½2 e¡ e |
1 |
2 |
) |
dx2; |
|||||||||||||||||||||||||||||||||||
Q(x |
;x |
||||||||||||||||||||||||||||||||||||||||
p |
|||||||||||||||||||||||||||||||||||||||||
где |
· |
¡1 |
¡ |
¸ |
|||||||||||||||||||||||||||||||||||||
Q(x1; x2) = ¡ |
¡ 2½ |
+ |
: |
||||||||||||||||||||||||||||||||||||||
2(1 ¡ ½2) |
³ |
¾1 |
´ |
³ |
¾1 |
´³ |
¾2 |
¾2 |
´ |
||||||||||||||||||||||||||||||||
Делая заменуe |
1 |
x1 ¡ m1 |
2 |
x1 |
´ |
³ |
x2 |
¡ m2 |
2 |
||||||||||||||||||||||||||||||||
¡ m1 |
x2 ¡ m2 |
||||||||||||||||||||||||||||||||||||||||
x2¡m2 |
¡ |
½(x1¡m1) |
|||||||||||||||||||||||||||||||||||||||
y = |
¾2 |
¾1 |
; |
||||||||||||||||||||||||||||||||||||||
p |
|||||||||||||||||||||||||||||||||||||||||
после преобразований получаем |
1 ¡ ½2 |
||||||||||||||||||||||||||||||||||||||||
+1 |
y2 (x |
m |
)2 |
||||||||||||||||||||||||||||||||||||||
pX1 (x1) = Z |
1 |
e¡ 2 ¡ |
1 |
¡ |
1 |
||||||||||||||||||||||||||||||||||||
2 |
|||||||||||||||||||||||||||||||||||||||||
2¾1 |
dy: |
||||||||||||||||||||||||||||||||||||||||
2¼¾1 |
|||||||||||||||||||||||||||||||||||||||||
Поскольку |
¡1 |
||||||||||||||||||||||||||||||||||||||||
+1 |
|||||||||||||||||||||||||||||||||||||||||
Z |
e¡y2=2dy = p |
||||||||||||||||||||||||||||||||||||||||
2¼; |
|||||||||||||||||||||||||||||||||||||||||
¡1 |
|||||||||||||||||||||||||||||||||||||||||
57