Файл: Лекция_3.3.Статистические оценки параметров распределения.doc

Метод максимального правдоподобия состоит в определении оценок , максимизирующих функцию правдоподобия. Эта функция строиться следующим образом. Пусть- результаты наблюдений случайных величин, совместное распределение вероятностей которых зависит от неизвестных параметров, т.е. представляет собой условную плотность вероятностей. Условная плотность совместного распределения вероятностей случайных величинназываетсяфункцией правдоподобия. При фиксированных значениях выборки функция правдоподобия является только функцией неизвестных параметров, т.е..

По методу максимального правдоподобия в качестве оценок для выбираются такие значения, при которых «наблюдаемые» величинынаиболее вероятны, другими словами, значениямаксимизируют функцию правдоподобия.

Пусть X – дискретная случайная величина и ,- её закон распределения вероятностей. Тогда вероятность того, что элементы выборки (независимые случайные величины) примут конкретные значения, определяется равенством

Поскольку эта функция определяет совместное распределение вероятностей, то, следовательно, она является функцией правдоподобия. Таким образом, для дискретной случайной величины с законом распределения функция правдоподобия определяется соотношением

. (7)

При оценке параметров распределения непрерывной случайной величины X с плотностью распределения по МП-методу функция правдоподобия определяется следующим образом:

, (8)

где - произведение.

Оценка параметров θ_i, построенная по выборочным значениям случайной величины X и максимизирующая функцию , называетсяоценкой максимального правдоподобия или МП-оценкой.

Для упрощения вычислений МП-оценок часто бывает удобным рассматривать логарифм функции правдоподобия, т.е. .

При максимизации функции (8) x_i считаются фиксированными, а МП-оценки параметров определяются решением системы уравнений

, (9)

или

. (10)

Системы (9) или (10) называются системами уравнений правдоподобия.

Замечание: МП-метод не всегда даёт оценки, удовлетворяющие требованиям несмещённости, эффективности и состоятельности.

Метод наименьших квадратов. Пусть требуется измерить некоторую величину X и по результатам n измерений ,, гдеε_i – ошибки измерений, а θ – точное значение измеряемой величины.

По методу наименьших квадратов требуется найти такое значение , являющееся оценкой неизвестного параметраθ, которое минимизирует функцию

, (11)

т.е. минимизирует сумму квадратов отклонений выборочных данных от параметра θ.

П. 4 Интервальное оценивание параметров

Точечные оценки неизвестного параметра θ хороши в качестве первоначальных результатов обработки наблюдений. Их недостаток в том, что неизвестно, с какой точностью они дают оцениваемый параметр. Для выборок небольшого объёма вопрос о точности оценок очень существенен, так как между θ и может быть большое расхождение в этом случае. Кроме того, при решении практических задач часто требуется определить и надёжность этих оценок. Тогда и возникает задача о приближении параметраθ не одним числом, а целым интервалом .

Задачу о нахождении интервала , внутри которого с вероятностьюр находится точное значение оцениваемого параметра θ называют интервальным оцениванием, а сам интервал – доверительным.

Для её решения заранее выбирают число ,, называемое коэффициентом доверия (или уровнем значимости), и находят два других числаθ₁ и θ₂, зависящих от оценки θ, так что

. (12)

Число называетсядоверительной вероятностью (или надёжностью), с которой оцениваемый параметр θ покрывается интервалом . В связи с этим говорят, что доверительный интервалнакрывает оцениваемый параметр с вероятностьюили вслучаев. Границыθ₁ и θ₂ доверительного интервала называютдоверительными. От доверительных интервалов, основанных на всех возможных выборках объёма n, ожидается, что их содержит истинное значениеθ.

Величина выбирается заранее, её выбор зависит от конкретно решаемой задачи. Так, степень доверия авиапассажира к надёжности самолёта, очевидно, должна быть выше степени доверия покупателя к надёжности телевизора, лампочки, игрушки… На практике обычно выбирают значения=0,1; 0,05; 0,001, что соответствует 90-, 95- и 99%-ным доверительным интервалам соответственно.

В прикладных статистических задачах длина доверительного интервала играет важную роль: чем меньше его длина, тем точнее оценка. Если длина этого интервала велика, то ценность такой оценки незначительна.

Выведем формулу для вероятности попадания случайной величины, распределённой по нормальному закону в данный интервал. Поскольку плотность распределения вероятностей нормально распределённой случайной величины есть