ВУЗ: Не указан
Категория: Не указан
Дисциплина: Не указана
Добавлен: 08.02.2025
Просмотров: 1274
Скачиваний: 2
p
Пример 13.2 Пусть в условиях предыдущего примера известно дополнительно, что ¾ = DX = 1. Оценим минимальное значение x0, при котором вероятность опоздания студента на время не менее x0 не превышает заданного значения Pз = 0;1.
Для решения поставленной задачи воспользуемся вторым неравенством Чебышева. Тогда
Pз 6 PfX > x0g = PfX ¡ MX > x0 ¡ MXg 6 PfjX ¡ MXj > x0 ¡ MXg 6 |
¾2 |
: |
||||||||||
(x0 ¡ MX)2 |
||||||||||||
2 |
||||||||||||
2 |
1 |
|||||||||||
Значит, (x0 ¡MX)2 6 ¾Pз и x0 6 MX + |
¾Pз : Подставляя конкретные значения, имеем x0 6 1 + |
¼ |
||||||||||
0;1 |
||||||||||||
4;16: |
Таким образом, вероятность |
опоздания студента на время более 4;16 мин не более 0;1. |
||||||||||
q |
q |
|||||||||||
Сравнивая полученный результат с результатом примера 13.1, видим, что дополнительная информация о дисперсии времени опоздания позволяет дать более точную оценку искомой вероятности.
Рассмотрим некоторые формы закона больших чисел.
Пусть X1;X2;:::;Xn;::: последовательность случайных величин, имеющих математические ожидания mi = MXi.
Определение 13.3 Последовательность X1, X2, . . . , Xn, . . . случайных величин удовлетворяет
закону больших чисел (слабому), если для любого " > 0
¯ |
1 |
n |
1 |
n |
¯ |
||||||
X |
X |
||||||||||
P |
( |
n |
Xi ¡ |
n |
mi |
> ")n¡! 0; |
|||||
т.е. |
¯ |
i=1 |
i=1 |
¯ |
!1 |
||||||
¯ |
¯ |
||||||||||
1 n |
1 |
n |
P |
0: |
|||||||
n i=1 Xi ¡ n i=1 mi n¡!!1 |
|||||||||||
X |
X |
||||||||||
Иными словами, выполнение закона больших чисел отражает предельную устойчивость средних арифметических случайных величин: при большом числе испытаний они практически перестают быть случайными и совпадают со своими средними значениями.
Очевидно, что последовательность X1, X2, . . . , Xn, . . . удовлетворяет закону больших чисел тогда и только тогда, когда среднее арифметическое случайных величин X1 ¡m1, X2 ¡ m2;:::; Xn ¡ mn сходится по вероятности к нулю при n ! 1.
Теорема 13.3 Если последовательность X1;X2;:::;Xn;::: независимых случайных величин такова, что существуют MXi = mi и DXi = ¾i2, причем дисперсии ¾i2 ограничены в совокупности (т.е. ¾i2 6 C < +1), то для последовательности X1;X2;:::;Xn;::: выполнен закон больших чисел.
При этом говорят также, что к последовательности X1, X2, . . . , Xn, . . . случайных величин применим закон больших чисел в форме Чебышева.
Доказательство. Теорема является элементарным следствием второго неравенства Чебышева.
Действительно, в силу свойств математического ожидания и дисперсии |
= n : |
|||||||||||||
M |
Ãn |
Xi |
! = n |
mi; |
D |
Ãn |
Xi |
! = n2 |
¾i2 6 n2 |
|||||
1 |
n |
1 |
n |
1 |
n |
1 |
n |
Cn |
C |
|||||
X |
X |
X |
Xi |
|||||||||||
i=1 |
i=1 |
i=1 |
=1 |
|||||||||||
Применяя теперь второе неравенство Чебышева к случайным величинам Yn = n1 Pn Xi; получаем
i=1
для любого " > 0 |
(¯n |
n |
Xi ¡ n |
n |
mi |
¯ > ") 6 n"2 |
n¡! 0: |
|||
P |
||||||||||
¯ |
1 |
1 |
¯ |
C |
||||||
X |
X |
|||||||||
¯ |
¯ |
|||||||||
¯ |
i=1 |
i=1 |
¯ |
!1 |
||||||
¯ |
¯ |
|||||||||
Таким образом, мы показали, что для последовательности X1; X2; :::; Xn; ::: выполняется закон больших чисел.
Следствие 13.1 Если случайные величины Xi, i = 1;2;:::, в условиях теоремы 13.3 являются также одинаково распределенными (в этом случае mi = m и ¾i2 = ¾2), то последовательность X1;X2;:::;Xn;::: случайных величин удовлетворяет закону больших чисел в следующей форме:
1 n P
X
n i=1 Xi n¡!!1m:
Доказательство. Доказательство проведите самостоятельно.
62
Теорема 13.4 Пусть X1;X2;:::;Xn;::: последовательность независимых одинаково распределенных случайных величин с MXi = m и MjXij < 1. Тогда
1 n п.н.
X
n i=1 Xi n¡!!1m:
Это утверждение называют усиленным законом больших чисел в форме Колмогорова.
Теорема 13.5 Пусть проводится n испытаний по схеме Бернулли и Yn общее число успехов в n испытаниях. Тогда наблюденная частота успехов
rn = Ynn
cходится по вероятности к вероятности p успеха в одном испытании
P
rn n¡!!1p:
Доказательство. Обозначим Xi число успехов в i-м испытании Бернулли. Тогда частоту успехов в n испытаниях можно определить в виде rn = n1 Pn Xi; причем MXi = p и DXi = pq. Значит,
i=1
выполняются все условия следствия 13.1, из которого вытекает утверждение теоремы.
Теорему 13.5 называют также теоремой Бернулли, или законом больших чисел в форме Бернулли. Из хода доказательства теоремы 13.5 видно, что закон больших чисел в форме Бернулли является частным случаем закона больших чисел в форме Чебышева.
Пример 13.3 Пусть дана последовательность X1, X2, . . . , Xn, . . . |
Xn |
¡5n |
0 |
5n |
||||||||||||||||||
независимых случайных величин, причем ряд распределения слу- |
1 |
1 |
1 |
|||||||||||||||||||
чайной величины Xn представлен в табл. 13.1. Покажем, что к |
P |
1 ¡ |
||||||||||||||||||||
2n2 |
n2 |
2n2 |
||||||||||||||||||||
этой последовательности применим закон больших чисел в форме |
Таблица 13.1. |
|||||||||||||||||||||
Чебышева. Для этого вычислим дисперсию DXn. Имеем |
||||||||||||||||||||||
1 |
1 |
1 |
||||||||||||||||||||
MXn = (¡5n) ¢ |
+ 0 ¢ ³1 ¡ |
´+ 5n ¢ |
= 0; |
|||||||||||||||||||
2n2 |
n2 |
2n2 |
||||||||||||||||||||
1 |
1 |
1 |
||||||||||||||||||||
DXn = MXn2 ¡ (MXn)2 = MXn2 = (¡5n)2 |
+ 02³1 ¡ |
´+ (5n)2 |
= 25: |
|||||||||||||||||||
2n2 |
n2 |
2n2 |
||||||||||||||||||||
Итак, дисперсии DXn ограничены в совокупности, и к последовательности X1;X2;:::;Xn;::: применим закон больших чисел в форме Чебышева.
Центральная предельная теорема
Рассмотрим последовательность X1; X2; :::; Xn; ::: независимых одинаково распределенных случайных величин, имеющих математическое ожидание MXn = m. Предположим также, что существует дисперсия DXn = ¾2. Закон больших чисел (слабый) для этой последовательности можно представить в следующей форме:
1 |
n |
1 |
P |
||||
X |
(Xi ¡ MXi) = |
(Sn ¡ nm)n¡! 0; |
|||||
n |
n=1 |
n |
|||||
!1 |
|||||||
где |
n |
||||||
Sn = XXi |
|||||||
i=1
суммарное значение первых n случайных величин последовательности, а сходимость можно понимать как в смысле сходимости по вероятности (слабый закон больших чисел), так и в смысле сходимости с вероятностью 1 (усиленный закон больших чисел).
Однако сразу возникает вопрос: поскольку случайные величины Xn имеют не только математическое ожидание, но и дисперсию, то нельзя ли доказать более “тонкую” предельную теорему, позволяющую точнее описать предельное поведение распределений величин Sn ¡nm? Такая теорема существует, ее называют центральной предельной теоремой.
Теорема 13.6 (центральная предельная теорема) Пусть X1; X2; :::; Xn;::: последовательность независимых одинаково распределенных случайных величин, MXn = m, DXn = ¾2. Тогда
P |
Sn ¡ nm |
< x |
©(x); |
||
½ |
pn¾2 |
¾n¡!!1 |
|||
где ©(x) функция стандартного нормального распределения.
63
Центральная предельная теорема выявляет ту особую роль, которую играет нормальное распределение на практике. Нормальный закон всегда имеет место в тех ситуациях, когда случайная величина порождена большим количеством случайных факторов, действующих независимо друг от друга. Уже само название “нормальный закон” объясняется тем широким распространением, которое он находит в самых различных областях научных исследований.
Следствием из центральной предельной теоремы является интегральная теорема Муавра Лапласа.
Теорема 13.7 (интегральная теорема Муавра Лапласа) Обозначим Sn суммарное число успехов в n испытаниях по схеме Бернулли с вероятностью успеха p и вероятностью неудачи q = 1 ¡ p. Тогда с ростом n последовательность функций распределения случайных величин (Sn ¡ np)=pnpq сходится к функции стандартного нормального распределения, т.е.
P |
Sn ¡ np |
< x |
©(x): |
||
½ |
p |
npq |
¾n¡!!1 |
||
Доказательство. Пусть Xi число успехов в i-м испытании. Тогда MXi = p, DXi = pq. Представляя Sn в виде Sn = X1 + ::: + Xn и используя центральную предельную теорему, приходим к утверждению теоремы.
Пример 13.4 Для определения скорости v движения объекта делают n измерений v1;:::;vn, причем i-е измерение проводят с погрешностью Xi (т.е. vi = v + Xi), при этом погрешности измерений являются независимыми и одинаково распределенными случайными величинами с математическим ожиданием MXi = 0 (отсутствуют систематические погрешности наблюдений) и дисперсии DXi = ¾2.
Оценим вероятность того, что средняя наблюденная скорость
vср = |
v1 + ::: + vn |
|||||||||||||||||
n |
||||||||||||||||||
будет отличаться от истинной скорости v не более чем на ". Имеем |
pn¾2n ¡ |
< "r¾2 ¾ |
||||||||||||||||
Pfjvср ¡ vj < "g = Pf¡" < |
1 |
n |
n ¡ |
< "g = P½¡"r |
¾2 < |
1 |
: |
|||||||||||
v |
+ ::: + v |
nv |
n |
v |
+ ::: + v |
nv |
n |
|||||||||||
Считая теперь, что число n измерений велико, воспользуемся центральной предельной теоремой, согласно которой случайная величина
v1 + ::p: + vn ¡ nv n¾2
приближенно распределена по стандартному нормальному закону. Значит,
Pfjvср ¡ vj < "g ¼ ©³"r¾2 |
´¡ ©³¡"r¾2 ´ |
= 2©0 |
³"r¾2 ´: |
|||||||||||
n |
n |
n |
||||||||||||
64
Лекция 14
Основные понятия выборочной теории
Определение 14.1 В математической статистике множество возможных значений случайной величины X называют генеральной совокупностью случайной величины X или просто генеральной совокупностью X.
Под законом распределения (распределением) генеральной совокупности X будем понимать закон распределения вероятностей случайной величины X.
Исходным материалом для изучения свойств генеральной совокупности (т.е. некоторой случайной величины) являются экспериментальные (статистические) данные, под которыми понимают значения случайной величины, полученные в результате повторений случайного эксперимента (наблюдений над случайной величиной).
Предполагаем, что эксперимент хотя бы теоретически может быть повторен сколько угодно раз в одних и тех же условиях. Под словами “в одних и тех же условиях” будем понимать, что распределение случайной величины Xi, i = 1, 2, . . . , заданной на множестве исходов i-го эксперимента, не зависит от номера испытания и совпадает с распределением генеральной совокупности X. В этом случае принято говорить о независимых повторных экспериментах (испытаниях) или о независимых повторных наблюдениях над случайной величиной.
Определение 14.2 Совокупность независимых случайных величин X1, . . . , Xn, каждая из которых имеет то же распределение, что и случайная величина X, будем называть случайной вы-
~
боркой из генеральной совокупности X и записывать Xn = (X1;:::;Xn) (иногда просто X1, . . . , Xn). При этом число n называют объемом случайной выборки, а случайные величины Xi
элементами случайной выборки.
Часто используется и другая терминология. Так, если F (x) (или p(x)) функция распределения
~
(или плотность) случайной величины X, говорят, что Xn случайная выборка из F (x) (или из p(x)), или что X случайная выборка из распределения X. Если X нормальная случайная величина
2 ~ 2
с MX = ¹, DX = ¾ , то будем писать, что Xn случайная выборка из N(¹;¾ ).
~
Определение 14.3 Любое возможное значение x~n = (x1;:::;xn) случайной выборки Xn будем на-
~
зывать выборкой из генеральной совокупности X (также реализацией случайной выборки Xn) Число n характеризует объем выборки, а числа xi, i = 1;n, представляют собой элементы выборки x~n.
Выборку x~n можно интерпретировать как совокупность n чисел x1, . . . , xn, полученных в результате проведения n повторных независимых наблюдений над случайной величиной X.
Для краткости случайную выборку часто называют просто выборкой, если это не приводит к путанице.
Множество возможных значений Xn 2 R |
n |
~ |
случайной выборки Xn называют выборочным про- |
||
~ |
~ |
странством. Любую функцию '(Xn) от случайной выборки Xn будем называть статистикой.
Одним из самых простых преобразований статистических данных является их упорядочивание по величине. Пусть (x1;:::;xn) выборка объема n из генеральной совокупности X. Ее можно
упорядочить, расположив значения в неубывающем порядке: |
|
x(1) 6 x(2) 6 ::: 6 x(i) 6 ::: 6 x(n); |
(14.1) |
где x(1) наименьший, x(n) наибольший из элементов выборки. |
65
Определение 14.4 Последовательность чисел
x(1); x(2); :::;x(i); :::; x(n);
удовлетворяющих условию (14.1), называют вариационным рядом выборки, или, для краткости, просто вариационным рядом; число x(i), i = 1;n, называют i-м членом вариационного ряда.
Обозначим X(i), i = 1;n, случайную величину, которая при каждой реализации случайной вы-
~
борки Xn принимает значение, равное i-му члену вариационного ряда.
Определение 14.5 Последовательность случайных величин
X(1); X(2); :::; X(i); :::; X(n)
называют вариационным рядом случайной выборки. При этом X(i), i = 1;n, называют i-м членом вариационного ряда случайной выборки.
Среди элементов выборки x1;:::;xn (а значит и среди членов вариационного ряда x(1) · x(2) ·
¢¢¢ · x(n)) могут быть одинаковые. Так бывает либо когда наблюдаемая случайная величина X дискретная, либо когда X непрерывная, но ее значения при измерениях округляют.
Пусть среди элементов выборки x1;:::;xn выделены r < n их различных значений, расположенных в порядке возрастания. Обозначим их z(1);:::;z(r). Предположим, что, каждое из них повторя-
ется соответственно n1;:::;nr раз, причем, разумеется |
r |
nk = n. |
|||||||||||||||||||||
k=1 |
|||||||||||||||||||||||
P |
|||||||||||||||||||||||
Определение 14.6 Статистическим рядом для выборки называют |
z(1) |
z(2) |
. . . |
z(r) |
|||||||||||||||||||
таблицу 14.1, где в первой строке расположены элементы z(1);:::;z(r) (на- |
n1 |
n2 |
. . . |
nr |
|||||||||||||||||||
помним, что z(1) < ¢¢¢ < z(r)), а во второй числа их повторений. Число |
Таблица 14.1. |
||||||||||||||||||||||
nk, |
k = |
1;r |
, |
показывающее, |
сколько |
раз |
встречался |
элемент |
z(k) |
в |
выборке, |
||||||||||||
называют частотой, а отношение nk=n относительной частотой этого значения. |
|||||||||||||||||||||||
Пример 14.1 В течение суток измеряют напря- |
z(k) |
216 |
217 |
218 |
219 |
220 |
221 |
222 |
223 |
||||||||||||||
жение X тока в электросети (в вольтах). В ре- |
nk |
1 |
3 |
4 |
6 |
9 |
4 |
2 |
1 |
||||||||||||||
зультате опыта получена выборка объема n = 30: |
Таблица 14.2. |
||||||||||||||||||||||
217, |
218, |
220, |
219, |
220, |
221, |
219, |
217, |
218, |
|||||||||||||||
220, |
221, |
||||||||||||||||||||||
219, 220, 218, 217, 220, 219, 221, 221, 220, 219, 222, 223, 220, 216, 220, 219, 220, 218, 222. Построим статистический ряд для данной выборки. Наименьшее значение в выборке x(1) = 106, наибольшееx(8) = 223. Подсчитываем частоту nk, k = 1;8, каждого из восьми различных значений в выборке
и строим таблицу 14.2. |
# |
|||||||||||||||||
~ |
||||||||||||||||||
Рассмотрим функцию n(x;Xn), которая для каждого значения x 2 R и каждой реализации ~xn |
||||||||||||||||||
~ |
принимает значение n(x;~n), равное числу элементов в выборке ~xn, меньших |
|||||||||||||||||
случайной выборки Xn |
||||||||||||||||||
x. |
||||||||||||||||||
Определение 14.7 Функцию |
~ |
|||||||||||||||||
~ |
n(x;Xn) |
|||||||||||||||||
n |
F (x;Xn) = |
n |
; |
x 2 R; |
(14.2) |
|||||||||||||
где |
будем называть выборочной функцией распределения. |
|||||||||||||||||
объем случайной выборки, b |
||||||||||||||||||
~ |
есть случайная |
|||||||||||||||||
Согласно определению 14.7, при любом фиксированном x функция F x;Xn |
||||||||||||||||||
0 |
1 |
2 |
n¡1 |
n = 1 |
имеет биномиальное рас- |
|||||||||||||
величина, которая принимает одно из значений |
, n , |
n |
,. . . , |
, |
n |
и |
¡ |
¢ |
||||||||||
n |
||||||||||||||||||
пределение с параметром p, равным значению функции распределения генеральнойb |
совокупности |
|||||||||||||||||
X в точке x, т.е. p = F (x).
b¡ ~ ¢
Теорема 14.1 Для любого фиксированного x последовательность случайных величин fF x;Xn g сходится по вероятности при n ! 1 к значению F (x) функции распределения генеральной совокупности X в точке x.
fn |
g |
b |
~ |
|||
X < |
||||||
Доказательство. При любом фиксированном x выборочная функция распределения F x;Xn |
||||||
есть относительная частота события |
X < x |
. В соответствии с законом больших чисел в |
форме |
|||
¡ |
¢ |
|||||
Бернулли, относительная частота при ! 1 сходится по вероятности к вероятности события f |
||||||
xg. Следовательно, |
P |
|||||
F ¡x;X~n |
¢ n¡!!1 P©X < xª = F (x): |
|||||
b |
||||||
66