Файл: Е.Н. Грибанов Теория вероятностей и математическая статистика. Методические указания для студентов специальности 230500 - Социальный сервис и туризм.pdf
ВУЗ: Не указан
Категория: Не указан
Дисциплина: Не указана
Добавлен: 03.06.2024
Просмотров: 979
Скачиваний: 1
-59-
Доказательство. Вычислим
~ |
||||||||||||
венство p{Θn −Θ <τ}>1−η, определяющее свойство состоятельно- |
||||||||||||
1 n |
1 |
n |
1 |
n |
1 |
nσ 2 |
σ 2 |
|||||
D(x)= D |
∑ Xi |
= |
∑D(Xi )= |
∑σ 2 = |
n2 |
= |
n |
. |
||||
n i=1 |
n2 i=1 |
n2 i=1 |
||||||||||
Запишем неравенство |
Чебышева для |
средней арифметической x , |
||||||||||
p{x −µ <τ}>1− D(x) |
или |
p{x −µ <τ}>1− σ 2 |
. При |
достаточно |
||||||||
τ 2 |
σ 2 |
nτ 2 |
||||||||||
большом числе испытаний величина nτ2 |
является числом, близким |
|||||||||||
к нулю. Поэтому для сколь угодно малого числа τ |
выполняется нера- |
|||||||||||
сти выборочных оценок.
Получение эффективных оценок - сложное дело. Приведём без доказательства важный для практики факт. Если случайная величина
Х распределена по нормальному закону с параметрами (µ,σ 2 ), то несмещённая оценка x математического ожидания µ имеет минималь-
ную дисперсию σ 2 n , поэтому средняя арифметическая x в этом
случае является эффективной оценкой математического ожидания µ.
Т.3. Если случайная выборка состоит из п независимых наблюдений над случайной величиной Х с математическим ожиданием µ и
дисперсией σ 2, то выборочная дисперсия S2 |
= |
1 |
n |
∑(Xi − x)2 |
|||
n i=1 |
|||
ляется несмещённой оценкой генеральной дисперсии.
Доказательство. |
По условию M (Xi )= µ |
и D(Xi )=σ 2 |
||||||||
1 |
n |
1 |
n |
1 |
n |
|||||
S 2 |
= |
∑(Xi − x)2 = |
∑((Xi |
−µ)−(x −µ))2 = |
∑(X i −µ)2 − |
|||||
n i =1 |
n i =1 |
n i =1 |
||||||||
− |
2 |
(x −µ)∑n (X i −µ)+(x −µ)2 |
||||||||
n |
||||||||||
i =1 |
||||||||||
не яв-
тогда
-60-
n |
n |
2 |
||
Упростим выражение |
=n(x −µ) , |
|||
(x −µ)∑(Xi −µ)=(x −µ) ∑Xi −nµ |
||||
i=1 |
i=1 |
|||
подставив полученное в выражение для эмпирической дисперсии по-
S2 = |
1 |
∑n (Xi − µ)2 − |
2 |
n(x − µ)2 + |
(x − µ)2 = |
1 |
∑n (Xi − µ)2 − |
||||||||||||||||||||
лучим |
|||||||||||||||||||||||||||
n i=1 |
n |
n i=1 |
|||||||||||||||||||||||||
−(x − µ)2 . |
|||||||||||||||||||||||||||
1 |
n |
2 |
2 |
2 |
σ |
2 |
|||||||||||||||||||||
Но так как |
M |
∑(Xi |
− µ) |
=σ |
и |
M (x − µ) |
= D(x)= |
n |
то |
||||||||||||||||||
M (S |
n i=1 |
2 |
|||||||||||||||||||||||||
2 |
1 |
n |
2 |
2 |
2 |
σ |
n −1 |
2 |
|||||||||||||||||||
=σ |
− |
= |
σ |
. То |
есть |
||||||||||||||||||||||
)= M |
∑(Xi − µ) |
−(x − µ) |
n |
n |
|||||||||||||||||||||||
n i=1 |
|||||||||||||||||||||||||||
S 2 является смещённой оценкой дисперсии генеральной совокупности.
Несмещённой оценкой дисперсии генеральной совокупности
является S)2 = |
1 |
n |
||||||
∑(Xi − x)2 . Обычно |
эту |
оценку называют ис- |
||||||
n −1 i=1 |
n |
|||||||
правленной выборочной дисперсией. Дробь |
называют поправкой |
|||||||
n −1 |
||||||||
Бесселя. Тогда имеем равенство S)2 = nn−1 S2 . При малых значениях
п поправка Бесселя довольно сильно отличается от единицы, с увеличением п она быстро стремится к единице. При n > 50 практически
нет разницы между S 2 и S)2 . Можно показать, что оценки S 2 и S)2 являются состоятельными оценками σ 2.
Несмещённой, состоятельной и эффективной оценкой σ 2 явля-
ется оценка S2 1 n (X )2 , для вычисления которой необходи-
x = n i∑=1 i − µ
мо знать математическое ожидание. Заметим, что оценка Sx2 эффективна лишь при условии нормальности распределения случайной ве-
личины Х в генеральной совокупности. Оценки S 2 и S)2 не являются эффективными. В том случае, когда значение математического ожи-
-61-
дания неизвестно, то для оценки дисперсии σ 2 используют состоятельную и несмещённую оценку S)2 .
41. Метод максимального правдоподобия Основным способом получения оценок параметров генеральной
совокупности по данным выборке является метод максимального правдоподобия. Основная идея метода заключается в следующем.
Пусть X1 , X2 ,K, Xn - результаты независимых наблюдений над
случайной величиной Х, которая может быть как дискретной, так и непрерывной; f (X ,Θ)- вероятность значения (если случайная вели-
чина дискретна) и плотность вероятности (если случайная величина непрерывна). Функция f (X ,Θ) зависит от неизвестного параметра
Θ , который требуется оценить по выборке.
Если X1 , X2 ,K, Xn - независимые случайные величины, то
функцией |
правдоподобия |
называется |
выражение |
L = f (X1 ,Θ)f (X2 ,Θ)K f (Xn ,Θ). |
В качестве оценки |
неизвестного |
|
параметраΘ берется такое значение Θ , при подстановке которого вместо параметра Θ получаем максимальное значение функции L.
Оценку Θ обычно называют оценкой максимального правдоподобия.
Оценка Θ зависит от количества и числовых значений случайных величин Xi , следовательно, сама является случайной величиной.
При максимизации функции L подразумевается, что значения фиксированы, а переменной является параметр Θ
(иными словами, максимум отыскивается в предположении, что Xi
заменены их числовыми значениями). Если Lдифференцируема относительно параметра Θ , то для отыскания максимума надо решить
уравнение ∂∂ΘL = 0 . В качестве оценки Θ выбрать решение, которое
обращает функцию L в максимум. Иногда удобно рассматривать уравнение ∂∂lnΘL = 0.
Согласно методу максимального правдоподобия для нормально распределенной генеральной совокупности в качестве оценок математического ожидания и дисперсии нужно брать соответственно
среднюю арифметическую и эмпирическую дисперсию S 2 .
-62-
Пример 40. Найти методом максимального правдоподобия по выборке X1 , X2 ,K, Xn точечную оценку неизвестного параметра λ
показательного распределения, плотность которого
f (x)= λe−λ x (x ≥ 0).
Решение. |
Составим |
функцию |
правдоподобия |
L = (λe−λX1 )(λe−λX2 )K(λe−λXn )= λne−λ∑ Xi . |
Найдём логарифми- |
||
ческую функцию правдоподобия ln L = n ln λ −λ∑ Xi . Найдём пер-
вую производную по λ |
∂ln L = n |
−∑ Xi . |
Отсюда λ = |
1 |
или |
||||||||
1 |
|||||||||||||
∂λ |
λ |
∑ Xi |
|||||||||||
∂2 ln L |
n |
||||||||||||
1 |
. Так как |
n |
= −n(x)2 < 0 |
в силу положительности |
|||||||||
λ = |
∂λ2 |
= − |
|||||||||||
x |
λ2 |
||||||||||||
Xi то оценкой метода максимального правдоподобия параметра λ является величина, обратная среднему арифметическому.
42. Метод наименьших квадратов Изложенный ранее метод максимального правдоподобия всегда
приводит к состоятельным оценкам, хотя иногда смещённым. Известно, что этот метод использует наилучшим образом всю информацию о неизвестном параметре, содержащуюся в выборке. Однако часто его применение связано с необходимостью решения сложных систем уравнений.
Другим способом, имеющим большое практическое применение в задачах оценивания неизвестных параметров генеральной совокупности по выборке и часто приводящим к более простым выкладкам,
является метод наименьших квадратов.
Пусть, как и прежде, Х- случайная величина (дискретная или непрерывная) с законом распределения f (X ,Θ), (где Θ - неизвест-
ный параметр генеральной совокупности, который нужно оценить по выборке). X1 , X2 ,K, Xn - независимые наблюдения, Θ - оценка па-
раметра Θ , зависящая от количества наблюдений и их числовых значений.
Основная идея метода наименьших квадратов в приложении к оцениванию параметров сводится к тому, чтобы в качестве оценки неизвестного параметра принимать значение, которое минимизирует