Файл: Лекции (Теория вероятности).pdf

т.е. в каждой точке x(i) функция Fn(x) имеет скачок величиной 1=n. График функции Fn(x) изображен на рис. 14.1.

симости от объема выборки n. Для ориентировочной оценки величины m можно пользоваться следующей приближенной формулой.

представляющий собой кусочно постоянную функцию называют гистограммой (см. рис. 14.2).

Часто гистограммой называют диаграмму, составленную из прямоугольников с основанием ¢ и высотами ni=(n¢), i = 1;m. Нетрудно увидеть, что суммарная площадь всех прямоугольников, образующих такую диа-

грамму, равна 1, так как Pm nn¢i ¢ = n1 Pm

i=1 i=1

каждого прямоугольника ni=n есть частота попадания элементов выборки в соответствующий интервал Ji статистического ряда.

~

Рассмотрим случайную величину ni(Xn)=n, которая для

~

каждой реализации ~xn случайной выборки Xn ~ равна частоте ni=n. В соответствии с законом больших чисел в форме Бернулли ni(Xn)=n при n ! 1 будет сходиться по вероятности к вероятности попадания случайной величины X в промежуток Ji, i = 1;m, т.е.

где p(x) плотность распределения генеральной совокупности X. Если длина ¢ промежутков достаточно мала и объем выборки n велик, то с вероятностью, близкой к 1, можно утверждать, что

nni ¼ p(xei)¢;

67

где xei середина промежутка Ji, i = 1;m. Таким образом, при большом объеме выборки n и достаточно малом ¢ с вероятностью, близкой к 1, можно считать, что pn(x) ¼ p(x). Иными словами, функция pn(x) является статистическим аналогом плотности распределения p(x), наблюдаемой в эксперименте случайной величины X, а гистограмма выглядит приблизительно как график плотности случайной величины X.

~

Пусть Xn случайная выборка из генеральной совокупности X с функцией распределения F (x) (и плотностью распределения p(x) в случае непрерывной статистической модели).

Случайную величину

Значения выборочных моментов (неслучайные числа) будем для краткости называть теми же терминами, что и сами моменты (случайные величины).

Основное свойство выборочных моментов состоит в том, что при увеличении объема выборки n

68

Лекция 15

Точечные оценки

Одной из задач математической статистики является оценка неизвестных параметров выбранной

параметрической модели.

Предположим, что закон распределения генеральной совокупности принадлежит множеству

~ ~ ~

fF (x;µ) : µ 2 £g, где вид функции распределения задан, а вектор параметров µ = (µ1;:::;µr) неизве-

~

стен. Требуется найти оценку для µ или некоторой функции от него (например, математического ожидания, дисперсии) по случайной выборке (X1;:::;Xn) из генеральной совокупности X.

Например, предположим, что масса X детали имеет нормальный закон распределения, но его параметры µ1 = MX и µ2 = DX неизвестны. Нужно найти приближенное значение параметров по результатам наблюдений x1, . . . , xn, полученным в эксперименте (по реализации случайной выборки).

Определение 15.1 Точечной оценкой параметра µ 2 £ назовем любую функцию от наблюдений

^ ~

(т.е. любую статистику) µ(Xn).

b ~

Определение 15.2 Статистику µ(Xn) называют состоятельной оценкой параметра µ 2 £, если с ростом объема выборки n она сходится по вероятности к оцениваемому параметру µ, т.е.

b ~

Определение 15.3 Статистику µ(Xn) называют несмещенной оценкой параметра µ, если ее

b ~

математическое ожидание совпадает с µ, т.е. Mµ(Xn) = µ для любого фиксированного n.

Замечание 15.1 Можно показать, что статистика

является несмещенной и состоятельной оценкой дисперсии DX генеральной совокупности. Ее называют исправленной выборочной дисперсией.

Замечание 15.2 Можно доказать, что выборочные начальные и центральные моменты являются состоятельными оценками соответствующих теоретических моментов, если только они существуют. Однако эти оценки, кроме X, являются смещенными.

Пример 15.1 Пусть X1, . . . , Xn случайная выборка из генеральной совокупности X, имеющей нормальное распределение с неизвестным средним значением µ и известной дисперсией ¾2.

b b

Оценка µ = µ(X1;:::;Xn) = X1 является несмещенной для µ, ибо MX1 = MX = µ, но не является состоятельной, так как, во-первых, X1 не зависит от объема выборки и, следовательно, ее распределение не меняется с ростом n, а во-вторых,

69

Метод моментов

Метод моментов был предложен английским статистиком К. Пирсоном и является одним из

начальный и центральный моменты порядка k, k = 1;2;:::. В методе моментов в качестве точечной

относительно неизвестных µ1;:::;µr. Индексы i® и j¯ выбирают так,чтобы система уравнений решалась как можно проще. Можно показать,что при условии непрерывной зависимости решения этой системы от ¹bi® и ºbj¯ , оценка, полученная методом моментов, является состоятельной и имеет асимптотически нормальное распределение, т.е. ее распределение при n ! 1 стремится к нормальному. При этом уравнения (15.1) во многих случаях просты и их решение не вызывает больших вычислительных сложностей.

Понятно, что метод моментов не примен´им, когда моменты генеральной совокупности нужного порядка не существуют (например, для распределения Коши, у которого не существует даже начальный момент первого порядка математическое ожидание).

Пример 15.2 Пусть дана случайная выборка (X1;:::;Xn) объема n из генеральной совокупности X, имеющей равномерный закон распределения

с неизвестными параметрами a и b. Найдем методом моментов точечные оценки этих параметров. Известно, что для равномерно распределенной случайной величины X

Метод максимального правдоподобия

Одним из наиболее универсальных методов оценивания параметров является метод максимального правдоподобия (предложенный Р. Фишером), суть которого состоит в следующем.

70